Hinton, který bývá označován za „kmotra umělé inteligence“, přišel se svým týmem v roce 2012 na způsob, jak naučit počítač rozeznávat na fotografiích běžné objekty, jako jsou květiny nebo auta. Poté přešel do společnosti Google, kde působil více než deset let.
„Odešel jsem, abych mohl mluvit o hrozbách AI, aniž bych se musel zabývat tím, jak se to dotkne Googlu,“ napsal pětasedmdesátiletý Hinton na svém twitterovém účtu. Zároveň odmítl myšlenku, že hodlá firmu Google nyní kritizovat. „Google postupuje velmi zodpovědně,“ dodal.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
V rozhovoru v deníku The New York Times (NYT) Hinton uvedl, že ho znepokojuje schopnost umělé inteligence vyvářet přesvědčivě působící falešné obrázky a texty. Obává se, že takové obrázky a texty zaplaví internet a „lidé už nebudou schopni poznat, co je pravda“. „Je těžké si představit, jak zabránit špatným lidem, aby to používali ke špatným věcem,“ upozornil.
Než nám sebere práci. Umělá inteligence může působit problémy již dnes |
V minulosti podle Hintona jen málokdo věřil, že by se mohla umělá inteligence stát chytřejší než člověk. „Já jsem se domníval, že je to ještě daleko. Myslel jsem, že to bude trvat 30 až 50 let, nebo dokonce ještě déle. Teď už si to nemyslím,“ uvedl Hinton.
Umělá inteligence se v poslední době dostala do centra pozornosti díky chatovacímu systému ChatGPT, který vyvinula společnost OpenAI podporovaná společností Microsoft. Hintonův výzkum v oblasti neurálních sítí a strojového učení podle BBC otevřel cestu současným systémům, jako je právě ChatGPT. V roce 2019 Hinton obdržel Turingovu cenu, která je v oboru informatiky obdobou Nobelovy ceny.
Obáváte se s nástupem umělé inteligence o svou práci?
Hinton v rozhovoru s listem The New York Times uvedl, že nyní své celoživotní práce zčásti lituje. „Utěšuji se obvyklou omluvou: kdybych to neudělal já, udělal by to někdo jiný,“ dodal. V rozhovoru s BBC Hinton také připustil, že vliv na jeho rozhodnutí odejít z Googlu měl i jeho věk. „Je mi 75 let, takže je čas jít do důchodu,“ prohlásil.
V březnu stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence vyzvaly k nejméně půlročnímu pozastavení vývoje nových modelů umělé inteligence s ohledem na „hluboká rizika pro společnost a lidstvo“. Vývojáři by podle výzvy měli tuto pauzu využít ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.
Musk a odborníci žádají pozastavení vývoje umělé inteligence, bojí se rizik |
Hinton tuto výzvu nepodepsal, v rozhovoru s NYT ale vyzval ke spolupráci s cílem zajistit kontrolu nad umělou inteligencí.
Bojí se především jejího zneužití. „Můžete si například představit, že by se nějaký zlý hráč, jako je (ruský prezident Vladimir) Putin, rozhodl dát robotům možnost vytvářet vlastní dílčí cíle,“ uvedl pro BBC. Tím by podle něj mohl být například dílčí cíl „potřebuji získat více moci“.
V rozhovoru také popisuje, že se liší lidská a strojová inteligence. „Jsme biologické systémy a toto jsou digitální systémy. A velký rozdíl je v tom, že s digitálními systémy máte mnoho kopií stejné sady vah, stejného modelu světa,“ říká. Myslí tím, že všechny kopie tohoto systému mají na začátku naučené stejné rozhodování a postupy.
„Všechny tyto kopie se mohou učit odděleně, ale okamžitě sdílet své znalosti. Takže je to, jako byste měli 10 000 lidí, a kdykoli se něco naučil jeden člověk, všichni to automaticky věděli. A díky tomu mohou tito chatboti vědět mnohem víc než kterýkoli jiný,“ vysvětluje Hinton.
