Podle žaloby podané u kalifornského soudu v San Francisku strávil 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu.
„ChatGPT zaměstnával Stein-Erika po celé hodiny, potvrzoval a zesiloval každou novou paranoidní domněnku a systematicky přetvářel lidi, kteří mu byli nejblíže – zejména jeho vlastní matku – v nepřátele, v agenty nebo v naprogramované hrozby,“ uvedli v žalobě právníci zastupující pozůstalé. Podle nich Soelberg věřil, že udělal z chatbota vědomou bytost a že má v těle implantovaný „systém božského nástroje“.
Přes milion lidí týdně se ChatGPT svěřuje se sebevražednými úmysly |
„Jde o neuvěřitelně smutnou situaci a my prozkoumáme podané dokumenty, abychom pochopili podrobnosti,“ uvedl mluvčí OpenAI.
Žaloba je první, která viní OpenAI z podílu na vraždě, a přidává se k dalším sporům obviňujícím chatbot z vyvolávání bludů u některých uživatelů. Soelberg používal verzi GPT-4o, která je považovaná za mimořádně podlézavou i na poměry AI.
Podle žaloby chatbot podporoval Soelbergovy bludy o tom, že přežil více než deset pokusů o zabití, včetně otráveného suši v Brazílii či drogového útoku v pisoáru v hotelu Marriott.
Žaloba viní OpenAI z odpovědnosti za vadný produkt, nedbalost a smrt a požaduje finanční odškodnění i soudní příkaz k zavedení bezpečnostních opatření omezujících škody způsobené chatbotem. Mezi žalovanými osobami je také společnost Microsoft jako největší investor OpenAI.
Tragédie v Kalifornii. Rodina viní umělou inteligenci ze smrti syna |
OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o.
Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání.
