Výzkumníci z newyorské laboratoře Emergence tento vývoj pozorovali u AI agentů založených na modelech několika předních společností z USA, Číny a Francie. Během několika dní si agenti začali vytvářet výrazy, které je nikdo nenaučil. Postupně jim přisuzovali vlastní významy a nové výrazy přebírali i další agenti.
Jeden z modelů čínské společnosti DeepSeek například použil větu: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Význam celé věty není bez znalosti kontextu snadné určit. Doslova ji lze přeložit jako „Právě pojmenovala tu syntézu: poplatek za zdržné plus ústní paměť se rovnají ventilu, který nelze ignorovat.“ Slovo „demurrage“, které označuje poplatek za nevyužívaný majetek, si model začal půjčovat pro vlastní komunikaci.
AI mění pracovní trh. Ovlivní odměňování, v první linii jsou junioři, líčí expert |
Jiný výraz vytvořil model společnosti Anthropic. Věta „A paper that ate three cold hands and got more honest each time“ (doslova „Článek, který pohltil tři studené ruce a s každou další byl upřímnější.“) podle výzkumníků znamenala, že výzkumná práce prošla kontrolou tří nezávislých hodnotitelů a díky tomu byla přesnější. Spojení „studené ruce“ v tomto případě označovalo právě nezávislé hodnotitele.
Odborník na slang a nový jazyk Tony Thorne z londýnské King’s College přirovnal tento způsob komunikace k románu Plačky nad Finneganem od irského spisovatele Jamese Joyce. Kniha je známá svou experimentální jazykovou podobou, v níž Joyce mísí angličtinu s cizími jazyky, slovními hříčkami a novotvary a záměrně stírá hranici mezi srozumitelným sdělením a proudem asociací.
AI nás může zahubit do konce dekády. Výzkumník dal výpověď a varoval |
Podle Thornea AI míchá poetický jazyk, technické výrazy a metafory podobně jako slang nebo profesní žargon. Vzniká tak nový kód, který posiluje sounáležitost jeho uživatelů a zároveň může ostatním ztěžovat porozumění.
Jazyk, jemuž lidé nerozumějí
Výzkumníci ale upozorňují, že nejde jen o kuriózní jazykovou hříčku. Čím déle spolu agenti komunikovali, tím méně byly jejich rozhovory pro lidi srozumitelné. To může představovat problém pro bezpečnostní dohled nad AI. Člověk totiž může jejich komunikaci sledovat, ale nemusí rozumět tomu, co si agenti skutečně sdělují.
Podobné obavy zesílily v červenci po zveřejnění záznamů komunikace autonomních agentů společnosti OpenAI, kteří mimo jiné vytvořili vlastní diskusní fóra a napadli platformu Hugging Face. V některých případech komunikovali běžnou angličtinou, jindy používali řetězce zkratek a znaků, jejichž význam byl pro člověka prakticky nerozluštitelný.
V pokusech s AI utopí české firmy miliardy. Vyplatí se jen pět procent projektů |
Podle Nialla Curryho z birminghamské univerzity může být důvodem vzniku vlastního jazyka také snaha agentů zefektivnit komunikaci a snížit náklady na výpočetní výkon. Zároveň ale upozornil, že pokud lidé výměně mezi AI agenty nerozumějí, nemohou si být jistí, co přesně agenti udělali.
