Premium

Získejte všechny články
jen za 89 Kč/měsíc

Existuje riziko vyhynutí, varují už i šéfové firem vyvíjejících AI

  17:34
Nové prohlášení iniciativy Center for AI Safety přitáhlo pozornost řady odborníků včetně šéfa společnosti Open AI nebo vedoucího projektu DeepMind v Googlu. Oba se přihlásili k varování před rizikem, že by nekontrolovaný rozmach umělé inteligence mohl vést až k vyhynutí lidstva.
ilustrační snímek

ilustrační snímek | foto: Profimedia.cz

„Zmírnění rizika vyhynutí kvůli umělé inteligenci by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka,“ píše se v prohlášení organizace Center for AI Safety (CAS), která reaguje na nekontrolovaný neregulovaný vývoj v oblasti umělé inteligence.

Výzvu vedle dalších odborníků podepsali i lidé, kteří se vývojem systémů AI zabývají, jako je technologický šéf Microsoftu Kevin Scott, Daniela a Dario Amodei z Anthropicu, Sam Altman a Ilya Sutskever z firmy, která vyvinula ChatGPT, nebo Shane Legg či Demis Hassabis, kteří v Googlu pracují na systému DeepMind. Vedle nich však řada jiných varuje naopak před zbytečnou panikou.

Organizace Center for AI Safety, která funguje od konce loňského července, výše zmíněným krátkým prohlášením vytvořila další skupinu specialistů, která varuje před následky vývoje umělé inteligence. Na druhou stranu v prohlášení nejsou uvedeny žádné radikální kroky.

I tak je zajímavé, že mezi uvedenými signatáři prohlášení se objevují zástupci velkého množství společností, které AI vyvíjejí. Jak CAS uvádí, mezi signatáře patří tři vítězové Turingovy ceny, autoři učebnic o umělé inteligenci, hlubokém a zpětnovazebném učení (DL, RL). Objevují se tam i jména, která již dříve podpořila výzvu k pozastavení vývoje umělé inteligence na půl roku.

Musk a odborníci žádají pozastavení vývoje umělé inteligence, bojí se rizik

Toto starší prohlášení bylo kritizováno především pro navrhovanou variantu řešení, která se zdála nerealistická, ale někteří nesouhlasili i s tím, že se v něm přeceňuje riziko, které umělá inteligence představuje. Podobné výhrady mají někteří i k aktuální aktivitě.

Výzvu podpořili Geoffrey Hinton a Youshua Bengio, tedy dva ze tří laureátů Turingovy ceny z roku 2018, kterou každoročně uděluje Asociací výpočetní techniky (ACM), za jejich technický přínos v oboru informatiky. Avšak třetí Yann LeCun, který vyvíjí umělou inteligenci ve Facebooku, se podle BBC nechal slyšet, že podobná apokalyptická varování jsou přehnaná.

V tomto prohlášení se neuvádí žádné konkrétní kroky, jak s AI nakládat. Podle jeho tvůrců si klade za cíl překonat překážku, která může spočívat ve skutečnosti, že pro některé lidi může být obtížné vyjádřit obavy ohledně nejzávažnějších rizik pokročilé umělé inteligence.

Iniciativa tak chce otevřít diskusi a ukázat, že existuje „rostoucí počet odborníků a veřejných osobností, kteří také berou vážně některá z nejzávažnějších rizik pokročilé umělé inteligence“. To vše v době, kdy vlády mnoha států přemýšlí, jak se k nástupu vysoce pokročilých systémů strojového učení postavit.

Státy řeší, co s umělou inteligencí. Jednotná regulace je zatím v nedohlednu

Mnoho dalších odborníků se podobně domnívá, že obavy z AI, že vyhladí lidstvo, jsou nereálné a odvádějí pozornost od reálných problémů.

Arvind Narayanan, počítačový vědec z Princetonské univerzity, již dříve BBC řekl, že katastrofické scénáře podobné sci-fi jsou nerealistické: „Současná umělá inteligence není ani zdaleka dostatečně schopná, aby se tato rizika naplnila. Výsledkem je, že odvádí pozornost od nynějších omezených rizik.“

Mezi ně patří především zneužívání AI k průmyslové výrobě falešných informací, obrázků, dat či produkci škodlivého počítačového kódu, stejně jako k sofistikovaným útokům s podvrženým hlasem či obrazem. Další obavy souvisejí s ochranou soukromí a autorských práv u dat, na kterých se generativní AI učila.

Autor:
  • Nejčtenější

Za celosvětový kolaps IT systémů může nečekaně absurdní chyba

Nepovedená aktualizace bezpečnostního softwaru společnosti Crowdstrike způsobila pád počítačů a serverů s operačním systémem Windows do „modré obrazovky smrti“. Ani po restartu se nespustí. Některé...

19. července 2024  11:01,  aktualizováno  18:52

OBRAZEM: Jugoslávské karavany byly zcela jiný level než ty z NDR, PLR a ČSSR

V roce 1965 se ve slovinském městě Novo Mesto začala psát historie továrně vyráběných jugoslávských a následně slovinských karavanů. Tak vznikla značka Adria, jejíž život se potom přenesl přes rozpad...

23. července 2024

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Mistr vedlejších rolí Krška hrál geniálně alkoholiky a muže zlomených osudů

Herec Vladimír Krška, který se narodil před 100 lety, byl téměř čtyři desítky let členem souboru pražského Divadla na Vinohradech. Na jeho scéně vytvořil na osmdesát rolí.

22. července 2024

Vyzkoušeli jsme 3D tiskárnu pro děti. Je to hračka, která tiskne hračky

Pod značkou Kidoodle míří na trh 3D tiskárna určená přímo pro děti. Spoustu hotových modelů připravených k tisku k ní výrobce přibalil, tisknout však můžete i vlastní výtvory. Má své mouchy, ale...

19. července 2024

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Jak dlouho budou naše stopy na Měsíci ještě patrné? 55 let od Apolla 11

O tom, jak důležitý okamžik nastal v oblasti vesmírného výzkumu před 55 lety, když člověk poprvé přistál na Měsíci, máme možnost se opakovaně přesvědčovat i v současnosti, kdy se ukazuje, že i s...

20. července 2024

Staré necky v druhé světové válce. Pigboaty plují proti samurajům

Předcházející díly naší zábavné prázdninové série pojednávaly o vzniku a službě nejstarších amerických ponorek – takzvaných pigboatů. Některé čluny pozdních tříd zůstaly ve službě až do čtyřicátých...

24. července 2024

OBRAZEM: Jugoslávské karavany byly zcela jiný level než ty z NDR, PLR a ČSSR

V roce 1965 se ve slovinském městě Novo Mesto začala psát historie továrně vyráběných jugoslávských a následně slovinských karavanů. Tak vznikla značka Adria, jejíž život se potom přenesl přes rozpad...

23. července 2024

NASA ruší projekt roveru, který měl hledat vodu na Měsíci

Už minulý rok měla na Měsíc vyrazit pojízdná laboratoř Viper, jejímž cílem mělo být hledání vody a ledu na naší přirozené oběžnici. Neustálé zdržování a růst nákladů vedly nakonec k tomu, že se celý...

22. července 2024  18:01

Mistr vedlejších rolí Krška hrál geniálně alkoholiky a muže zlomených osudů

Herec Vladimír Krška, který se narodil před 100 lety, byl téměř čtyři desítky let členem souboru pražského Divadla na Vinohradech. Na jeho scéně vytvořil na osmdesát rolí.

22. července 2024

Akční letáky
Akční letáky

Prohlédněte si akční letáky všech obchodů hezky na jednom místě!

Za celosvětový kolaps IT systémů může nečekaně absurdní chyba

Nepovedená aktualizace bezpečnostního softwaru společnosti Crowdstrike způsobila pád počítačů a serverů s operačním...

IT problémy způsobily kolaps bank i letišť. V Evropě i jinde ve světě

Řadu zemí v pátek zasáhly problémy s počítačovými systémy. Letiště kvůli výpadku čelila potížím s odbavováním letů,...

Ruská kráska Sofja Lebeděva šla donaha v seriálu Vikingové: Valhalla

Bývalá gymnastka Sofja Lebeděva (30) potěšila fanoušky seriálu Vikingové: Valhalla, když se v jedné ze scén nového dílu...

Rozvádím se, oznámila dubajská princezna na Instagramu manželovi a jeho milenkám

Dubajská princezna Mahra (30) a její manžel šejk Mana Bin Mohammed Al Maktúm (25) se po loňské svatbě rozvádí. Dcera...

Sto tun obilí za hodinu. Na Hané mají výjimečný kombajn, jeden z patnácti na světě

Až sto tun obilí dokáže za hodinu sklidit nový kombajn CR11 firmy New Holland, který vyjel do obilných lánů v okolí...