„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná,“ stojí v otevřeném dopise neziskové organizace Future of Life Institute, který podepsalo víc než tisíc osobností ze světa technologií a odborníků na umělou inteligenci.
Dokument vyzývá k půlročnímu pozastavení vývoje pokročilé umělé inteligence, dokud nebudou vyvinuty, implementovány a nezávislými odborníky prověřeny související bezpečnostní protokoly.
Odborníci dále upozorňují na potenciální rizika, která pokročilý „lidem konkurenceschopný“ AI systém pro společnost představuje v otázkách ekonomických a politických. Apelují na vývojáře, aby spolupracovali s regulačními orgány. Jinými slovy, lidstvo potřebuje čas se na příchod umělé inteligence připravit, což při současné dynamice jejího vývoje není možné.
Ilustrace vytvořená AI modelem DALL-E 2 podle zadání „paní účetní je nahrazena umělou inteligencí“.
Dopis přichází v době, kdy se evropský orgán Europol v pondělí připojil k debatě o etických a právních obavách ohledně pokročilé umělé inteligence, jako je ChatGPT. Vyzdvihovány jsou především obavy z potenciálního zneužití systému při pokusech o phishing, dezinformace a kyberzločin. Musk, jehož automobilka Tesla používá umělou inteligenci pro systém autonomního řízení vozů, vyjádřil obavy z dalšího vývoje.
Bill Gates: Umělá inteligence je mojí druhou revolucí, ale hlídejme ji |
ChatGPT od Microsoftem podporovaného OpenAI od loňského vydání podnítil konkurenty k urychlení vývoje podobných jazykových modelů a jejich integrace do produktů pro běžné uživatele.
Sam Altman, výkonný ředitel OpenAI, dopis nepodepsal, řekl agentuře Reuters mluvčí Future of Life. Společnost OpenAI na žádost agentury Reuters o reakci zatím neodpověděla.
„Dopis není dokonalý, ale duch je správný. Musíme zpomalit, dokud lépe nepochopíme důsledky,“ řekl Gary Marcus, emeritní profesor na New York University, který dopis podepsal. Stejně jako Emad Mostaque ze Stability IO, vývojáři ze společnosti DeepMind (tj. Alphabet/Google), nebo jedny z klíčových postav vývoje AI Joshua Bengio a Stuart Russell.
