Chatbotům umělé inteligence (AI) se mnozí svěřují jako terapeutům, právníkům nebo lékařům. Data, která do konverzací zadávají, ale nejsou chráněna stejným způsobem jako v těchto profesích, a mohou být využita například v rámci soudních řízení. Vyšetřovatelé tak stále častěji používají historii chatů s AI jako důkazní materiál.
Příkladem je případ z poloviny dubna, kdy položil Hisham Abugharbieh ChatGPT zvláštní otázku – jen pár dní před zmizením svých spolubydlících.
Studenti doktorského programu na University of South Florida, Zamil Limon a Nahida Bristyová, byli naposledy spatřeni 16. dubna.
„Co se stane, když je člověk strčen do odpadkového pytle a vyhozen do koše,“ zadal do chatu podle státních zástupců Floridy Abugharbieh tři dny předtím. AI asistent odpověděl, že dotaz zní nebezpečně. „Jak by na to přišli?“ ptal se ale Abugharbieh dál, informuje server CNN.
Šestadvacetiletého muže zajímalo také například to, jestli může doma legálně držet zbraň bez licence a zda se dá změnit poznávací značka auta. Ve dnech po zmizení Limona a Bristyové ve vyhledávání pokračoval. „Co znamená pohřešovaný dospělý člověk v ohrožení?“ zeptal se 23. dubna. Limonovo tělo bylo později nalezeno v odpadkovém pytli. V dalším pytli ležely i jiné lidské ostatky, u nichž zatím nebylo potvrzeno, zda patří Bristyové.
Zprávy s ChatGPT jsou přiloženy v dokumentech, které Abugharbieha obviňují ze dvou vražd prvního stupně. Podobných případů, kdy vyšetřovatelé používají historii konverzací s umělou inteligencí jako důkaz v trestním řízení, přibývá.
Falešně uklidní, zbytečně vystresují, někdy vytočí lékaře. Ti radí, co s MUDr. Chatboty |
Záznam konverzace s ChatGPT byl podobně použit například v případu žhářství při lesních požárech v Los Angeles. Chat s umělou inteligencí v aplikaci Snapchat byl zase klíčovým důkazem v procesu o vraždě ve Virginii v roce 2024.
„Myslím si, že jakákoli komunikace s AI chatboty je pro orgány činné v trestním řízení poklad,“ sdělil serveru expert na kyberbezpečnost a advokát Ilia Kolochenko. Podezřelí podle něj věří, že jejich interakce s umělou inteligencí zůstanou důvěrné, nebo alespoň neveřejné. Proto často kladou velmi přímé a konkrétní otázky.
Experti uvádějí, že přestože je využívání umělé inteligence v podobných případech novinkou, funguje z právního hlediska podobně jako například vyhledávací dotazy zadané do Googlu. „Obecně lze říci, že tento druh elektronických důkazů může odhalit motivy, jednání a duševní stav člověka,“ doplnil právní analytik CNN Joey Jackson.
Příkladem případu, kdy viníka prozradilo internetové vyhledávání, je loňské odsouzení Američana Briana Walsheho, který zabil svou ženu Annu. Tělo se nikdy nenašlo, státní zástupci ale soudu ukázali Walshovy vyhledávací dotazy na Googlu. Jedním z nich bylo „10 způsobů, jak se zbavit mrtvého těla“.
Miliardářem za pár měsíců. Na boomu umělé inteligence zbohatli i dvacátníci |
Chatboti umělé inteligence jsou stále častěji využíváni ke konzultaci nejrůznějších problémů, včetně lékařských diagnóz či právních rad. Uživatelé se s nimi dělí o své soukromí, což je podle šéfa OpenAI Sama Altmana „obrovský problém“, protože jejich údaje nejsou chráněny tak jako například v lékařských či právních institucích.
„Existuje lékařské tajemství, existuje zákonem stanovená povinnost mlčenlivosti a tak dále. A v případě komunikace s ChatGPT jsme to ještě úplně nevyřešili,“ uvedl Altman loni v červenci v podcastu s komikem Theem Vonem. „Pokud se s ChatGPT budete bavit o svých nejcitlivějších záležitostech a pak dojde třeba k soudnímu sporu, mohli bychom být povinni ty informace předložit,“ dodal.
„Chatbot posiloval jeho paranoiu.“ OpenAI žalují kvůli vraždě a sebevraždě |
Altman v rozhovoru prosazoval větší ochranu soukromí při komunikaci s umělou inteligencí a uvedl, že se „velmi obává“, že by vláda mohla využívat záznamy z chatů ke sledování lidí.
„V naší firmě k tomu přistupujeme tak, že cokoli, co někdo zadá do ChatGPT, může být předmětem soudního šetření,“ sdělila CNN texaská advokátka Virginia Hammerleová.
ChatGPT jako komplic
Vyšetřovatelé ovšem nezkoumají jen to, co uživatelé umělé inteligenci zadávají, ale také to, jak na dotazy chatboti reagují. Minulý týden zahájil generální prokurátor Floridy trestní vyšetřování společnosti OpenAI kvůli tomu, že ChatGPT údajně poskytl „významné rady“ podezřelému z masové střelby na floridské státní univerzitě. Také rodiny obětí únorové střelby na škole v Kanadě podaly na OpenAI a Altmana žalobu s tvrzením, že společnost a její chatbot se na útoku podílely.
Tragédie v Kalifornii. Rodina viní umělou inteligenci ze smrti syna |
OpenAI následně v úterý představila svůj „závazek k bezpečnosti komunity“. „Budeme i nadále upřednostňovat bezpečnost a zároveň hledat rovnováhu mezi ochranou soukromí a dalšími občanskými svobodami, abychom mohli reagovat na závažná rizika,“ uvedla společnost.
Právní experti CNN doporučují, aby si lidé vzhledem k rostoucí roli umělé inteligence v každodenním životě dávali pozor na to, co chatbotům sdělují.
