V uplynulém roce týmy firmy také podle zprávy prošetřovaly a zmařily činnost řady aktérů, kteří využívali systémy Claude k vývoji softwaru pro návrh a vývoj zbraní nebo k podpoře sběru zpravodajských informací a zásobování, na nichž jsou zbrojní programy závislé.
Zpráva se podrobněji zabývá šesti případy vojenského využití, z toho třemi v Číně, dvěma v Rusku a jedním v Jemenu. Mimo jiné se prý Anthropiku podařilo zmařit ruskou operaci usilující o vývoj autonomního roje vojenských dronů.
AI zlobí. Chybí jí hodnoty lidí, nestačí jí jen lépe hlídat, varují experti |
Podle dokumentu modely Claude využívali mimo jiné aktéři spojení s kybernetickou špionážní kampaní vedenou z Ruska nebo jistá íránská propagandistická instituce.
Biologické zbraně jako závažné riziko
Zpráva dále popsala pět případových studií, v nichž aktéři využívali modely způsobem, který by mohl podporovat vývoj biologických zbraní.
Zneužití v biologické oblasti je podle firmy jedním z nejzávažnějších rizik pokročilých modelů AI. Bez správných bezpečnostních opatření by takové schopnosti mohly mít katastrofální důsledky, uvedli autoři zprávy.
OpenAI testovala pokročilý model umělé inteligence. Vymkl se kontrole a napadl jinou firmu |
Zpráva také popisuje devět vlivových operací vedených z Ruska, Íránu, Turecka, zemí Perského zálivu, jižní Asie, Afriky a Evropy, jejichž cílem bylo publikum na šesti kontinentech. Aktéři v tomto případě nevyužívali AI pouze k vygenerování konkrétních článků, ale k plánování celých kampaní, generování veškerého obsahu i ke spravování falešných profilů a dezinformačních webů. Obsah se objevil i v médiích spojených s ruskou vládou, jako Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa či RT.
Příliš rychlý vývoj
Podle portálu BBC zjištění uvedená v této zprávě představují nejnovější z rostoucí řady varování ze strany výzkumníků AI a odborníků z oboru ohledně potenciálních rizik této technologie pro lidstvo.
Varování vyvolala výzvy k přijetí opatření, přičemž americký senátor Bernie Sanders požaduje pozastavení vývoje pokročilé AI a zákaz takzvané umělé superinteligence, což je název pro hypotetické systémy AI, které by intelektuálně překonávaly lidskou inteligenci, včetně těch nejnadanějších jedinců. Americký prezident Donald Trump naopak podobné hlasy odmítá.
AI nás může zahubit do konce dekády. Výzkumník dal výpověď a varoval |
Výzkumník společnosti Anthropic Jacob Coxon tento týden oznámil, že odchází z firmy i oboru kvůli obavám, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Koncem července více než 1 000 zaměstnanců ze všech významných společností zabývajících se umělou inteligencí podepsalo petici, v níž požadují zavedení mechanismu zpomalujícího tempo vývoje umělé inteligence.
