Jak funguje halucinování umělé inteligence, se na vlastní oči mohli přesvědčit uživatelé funkce, která jim měla na zařízeních Apple shrnovat zprávy a upozorňovat na ty důležité. Toto zobrazování souhrnů oznámení u zpravodajských a zábavních aplikací poháněné systémem Apple Intelligence se totiž mírně řečeno poněkud pletlo.
Firma se dočkala několika stížností za opakované chyby, které tento produkt vytvářel. Mezi „postiženými“ zprávami jsou i ty od britské zpravodajské stanice BBC. Ta si již v prosinci stěžovala, že systém upravil zprávu tak, že v titulku nepravdivě uvedl, že Luigi Mangione, muž obviněný z vraždy generálního ředitele UnitedHealthcare Briana Thompsona, se zastřelil.
Proč umělá inteligence lže a proč kvůli ní zhloupneme. Počítačový expert vypráví![]() |
Tím to však nekončilo. V lednu Apple Intelligence nepravdivě uváděla, že BBC ve své aplikaci zveřejnila, že Luke Littler vyhrál mistrovství světa v šipkách několik hodin před jeho zahájením nebo že se španělská tenisová hvězda Rafael Nadal přiznal k homosexualitě.
Podobně tato funkce nepřesně shrnula titulky z New York Times, Washington Post a patrně i dalších médií.
Společnost Apple se tak nakonec rozhodla na stížnosti a zvyšující se tlak reagovat a tuto funkci z nabídky betaverzí iOS, iPadOS a macOS stáhla.
„Pracujeme na vylepšeních a zpřístupníme je v budoucí aktualizaci softwaru,“ uvedl pro BBC mluvčí společnosti Apple.
Google bojuje s halucinacemi umělé inteligence. Ta si sama výroky ověří![]() |
Znovu se tak připomíná, že umělá inteligence není vědomý systém, který si uvědomuje, co dělá, ale soubor matematických a statistických metod pro práci velkými daty. Z našeho pohledu se tak může mýlit, ale z pohledu jejího modelu vytvoří nejpravděpodobnější řetězec slov, jak se to naučila z předchozích trénovacích dat a vazeb mezi nimi.