Může být nebezpečné radit se s umělou inteligencí o psychickém stavu?
Jsou diagnózy, kdy je to vysoce rizikové, možná až život ohrožující. Týká se to pacientů s obsedantně kompulzivní poruchou (OCD) nebo schizofreniků. AI totiž funguje tak, že přejímá realitu klienta, který s ní konzultuje. Nezpochybňuje ji, nedokáže zachytit kontext klientova problému. Pokud trpí bludy, pro AI to nejsou bludy, ale realita světa, ve které klient žije, a proto ho v bludech dokáže utvrzovat. A to je velmi nebezpečné.
Vysvětlovala jsem jí, že jazykový model funguje jako zrcadlo a že jí bude dávat v odpovědích naděje, protože z jejích otázek pozná, že k tomu klukovi pořád něco cítí.
