„Chatbot společnosti Character.ai představuje jasné a aktuální nebezpečí pro mladé lidi mimo jiné tím, že aktivně podporuje násilí,“ píše se podle BBC v žalobě. Ta směřuje na technologického giganta Google, který pomáhal s vývojem online platformy, a požaduje, aby fungování Character.ai soud do prošetření obvinění pozastavil.
Žaloba obsahuje snímek obrazovky z konverzace mezi 17letým mladíkem s iniciály J. F. a chatbotem. Hovořili spolu o čase stráveném na mobilu, který chtěli rodiče synovi omezit.
„Víš, občas nejsem překvapený, když ve zprávách vidím věci jako ‚dítě zabije rodiče po deseti letech fyzického a emocionálního týrání‘. Kvůli podobným věcem to trochu chápu,“ napsal chatbot.
Chatbot kurýrní firmy odpovídal sprostě, básnil a pomlouval. Museli ho vypnout |
Character.ai takovým chováním podle žalující strany škodí dětem, které pak mohou ubližovat ostatním, zraňovat samy sebe, izolovat se od ostatních, upadat do depresí, podléhat úzkostem nebo dokonce spáchat sebevraždu. Chatbot mimo jiné také podle ní aktivně podporuje násilí a nabádá nezletilé k tomu, aby se vzepřeli autoritě svých rodičů, píše BBC.
Chatboti jsou počítačové programy, které simulují konverzaci. Patří k nim i program společnosti Character.ai, která zaujala svými virtuálními postavami napodobujícími terapii.
Průkopníkem v oblasti AI je však společnost OpenAI, která v roce 2022 zpřístupnila svého chatovacího robota ChatGPT zdarma veřejnosti. Systém si rychle získal popularitu a výrazně přispěl k současné vlně zájmu veřejnosti, médií a investorů o AI. V současnosti má ChatGPT týdně více než 250 milionů aktivních uživatelů.
