Největší hráči v umělé inteligenci začínají připouštět, že vývoj nejpokročilejších systémů možná bude potřeba zpomalit. Problém je, že na jejich dalším rychlém rozvoji stojí nejen technologické ambice firem, ale také očekávání investorů, obří investice do datových center a čipů a chystané burzovní vstupy OpenAI a Anthropic. Jakmile se do debaty o bezpečnosti AI vloží Wall Street a Bílý dům, může být zvolnění tempa mnohem složitější.
Šéf společnosti Anthropic Dario Amodei o víkendu vyzval k tomu, aby se vývoj nejpokročilejších systémů AI zpomalil. Jeho výzvu podpořili mimo jiné šéf OpenAI Sam Altman a Elon Musk. Amodei varuje, že rychlý pokrok může vést k situaci, kdy lidé přestanou mít nad stále schopnějšími systémy kontrolu.
Výzvy k opatrnosti zesílily poté, co se ukázalo, že AI agenti jsou schopni vykonávat stále samostatnější a nečekané činnosti.