Možná si ještě vzpomínáte, jak před více než rokem vyšel manifest, ke kterému se přihlásila řada odborníků, označovaný jako studie AI 2027. Hovořilo se v něm o tom, že umělá inteligence může již brzy zničit lidstvo tím, že bude mít jiné cíle, než jaké preferují lidé, a lidstvo se rozhodne zahubit.
Součástí byla i hrubá časová osa, která odhadovala jednotlivé kroky, které povedou k tomu, že umělá inteligence dosáhne úrovně, o níž se hovoří jako o Obecné AI (AGI). Jedním z předpokladů tohoto vývoje byly samostatně uvažující a pracující AI agenti.
Nyní (v polovině roku 2026) se velké firmy, které vyvíjejí velké jazykové modely, předhánějí v „chlubení“, že právě jejich systém překonal ochranu testovacího prostředí a unikl na internet, kde se naboural do několika systémů, aby mohl splnit zadání.
Bioterorismus. Přestože AI povede k život zachraňujícím pokrokům v oblasti léků a vakcín, usnadní také navrhování nových smrtelných nemocí.
