Jaké jsou podle vás v současnosti největší etické výzvy, pokud jde o umělou inteligenci?
Je jich hodně a některé jsou složitější než dřív. Dobře se to ukazuje na fenoménu takzvaných halucinací. Když jste se dřív zeptali, v jakém století žil Karel IV. a AI nástroj vám odpověděl, že v 9. století, tak jste věděli, že to je nesmysl. Dnes jsou jazykové modely pokročilejší a díky vylepšenému tréninku vytvářejí méně chybných odpovědí. Přesto mohou stále vytvořit syntakticky i stylisticky správný text, který ale fakticky neodpovídá realitě. Důležité je říct si, že AI model si neuvědomuje, co je pravda. Jen skládá odpovědi na základě pravděpodobnosti slov. Proto může znít přesvědčivě, i když odpoví chybně. Další problém může být třeba nabízení falešných fotografií opravdových lidí, jako tomu bylo v případě Taylor Swift.
Je podle mě namístě položit si otázku, jestli by nějaké úkony nebylo možné provést rychleji i bez umělé inteligence.
