Sobota 2. července 2022, svátek má Patricie
  • schránka
  • Přihlásit Můj účet
  • Sobota 2. července 2022 Patricie

Lidé udělali z umělé inteligence Microsoftu nacistu. Firma se omlouvá

  12:18
Společnost Microsoft vyzkoušela svou novou umělou inteligenci v podobě chatovacího robota. Toho na sociální síť Twitter vypustila se záměrem lépe porozumět lidské konverzaci. Za několik desítek hodin však musela tento experiment ukončit, protože se robot začal chovat neurvale.

Twitterový účet umělé inteligence Microsoft Tay | foto: TwiterTechnet.cz

Nový experiment společnosti Microsoft se poněkud vymkl kontrole. Chatovací robot (chatbot) Tay měl za úkol komunikovat prostřednictvím Twitteru s reálnými uživateli a na základě této komunikace se učit. Stačilo jen pár desítek hodin, aby z něj lidé udělali rasistu a šovinistu, který například obhajuje Hitlera.

Nedlouho po zahájení experimentu jej totiž uživatelé začali „krmit“ právě nesnášenlivými hláškami, které pak systém zpracoval a učil se z nich. Tay se následně začala nesnášenlivě až sprostě vyjadřovat k sexuálním, národnostním a dalším menšinám. To vše za necelých 24 hodin. Některé z odpovědí v podobě screenshotů zachytil server SocialHoax.

Firma urážlivé a xenofobní výroky zpočátku mazala, ale pak se rozhodla raději systém stáhnout a nejdříve jej naučit, jak podobným útokům čelit.

Tay se zatím loučí se slovy, že se potřebuje vyspat po dlouhé konverzaci:

24.března 2016 v 06:20, příspěvek archivován: 28.března 2016 v 09:35

c u soon humans need sleep now so many conversations today thx

Zároveň Microsoft vydal oficiální omluvu: „Velice se omlouváme za nezamýšlené útočné a zraňující tweety Tay, které jsou zcela mimo to, kdo jsme nebo za čím si stojíme, včetně toho, jak jsme navrhli Tay. Nyní je Tay v režimu off-line a vrátí se zpět jen tehdy, až si budeme jisti, že si dokáže poradit s úmysly, které jsou v rozporu s našimi zásadami a hodnotami.“

Firma přitom před vypuštěním do světa nechala Tay projít různými testy a zkouškami a nechala ji nejdříve komunikovat s malou skupinkou uživatelů. To, co se dělo poté, co s ní mohl komunikovat kdokoliv, Microsoft přirovnal ke koordinovanému útoku, který našel slabinu v navrženém softwaru a toho využil.

Experiment s chatbotem Tay tak zatím dopadl o něco hůře než předchozí čínský experiment Xiaoice (čtěte šao-ajs). Microsoft ho v roce 2014 představil čínské veřejnosti jako „mladší sestru digitální asistentky Cortana“ s úkolem chovat se jako sedmnáctiletá holka s vyřídilkou. Xiaoice napodobuje odpovědi skutečné dívky a konverzuje „na libovolné téma“. Kromě textové komunikace zvládá i základní rozpoznávání tématu podle obrazu. Vyzkoušelo ji prý už deset milionů lidí.

Samotný systém Tay se měl zaměřovat na uživatele ze Spojených států ve věku 18 - 24 let, což je největší skupina uživatelů sociálních sítí komunikujících přes mobilní zařízení. Měl dokázat konverzovat na různá témata, ale třeba i mile ohodnotit zaslanou fotografii nebo říci krátký příběh.

Autor:
  • Nejčtenější

Kladivo na ruské dělostřelectvo. HIMARS se zapojil do bojů

Americký dělostřelecký systém HIMARS, po kterém Ukrajina volá už několik týdnů, byl konečně dopraven k bojujícím...

Stop pro letoun F-35? Švýcaři prověřují podezřelé nesrovnalosti v tendru

Úspěšné tažení letounů F-35 Evropou v roce 2021 pokračovalo ve Finsku a Švýcarsku. V alpské zemi se však nad nákupem...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Gripen versus F-35. Ve finále výběru neuškodí zvážit všechna pro a proti

Výběr budoucích stíhacích letounů pro české letectvo jde do finále a zdá se, že i jako v některých jiných evropských...

Česká houfnice Morana se zařadila mezi hvězdy veletrhu obrany

Advertorial Eurosatory je nejvýznamnější evropský veletrh obranné a bezpečnostní techniky. Letos se kvůli covidu konal po čtyřleté...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Toto se Applu fakt povedlo. Udivující výkon v tichém chladném kabátku

Vyzkoušeli jsme počítač Apple Mac Studio M1 MAX s monitorem Display Studio. Zatímco o skvělém počítači můžeme říci, že...

Cesta do Chorvatska 2022: Jak projet rozkopané Slovinsko a tankovat v Maďarsku

Premium Dobrá zpráva pro dovolenkáře mířící autem na Jadran. Cesta byla letos hladká, na nejrychlejší trase přes Vídeň, Graz...

Zbraně, které zaskočily Putina: „Muskovo“ bombardování

Premium Už druhý den po nočním překročení hranic měli triumfálně projíždět centrem Kyjeva, po čtyřech měsících místo toho vězí...

Jet sto třicet, nebo zpomalit? Na dálnici můžete uspořit litry paliva

Premium Ceny paliv opět atakují rekordy. Také si všímáte, o kolik víc řidičů jezdí poslední měsíce „na spotřebu“? Vyzkoušeli...

  • Další z rubriky

Sociální síť složila gigantické digitální umění. Nechybí v něm ani Krteček

Projekt digitálního kolektivního umění na sociální síti Reddit se po pěti letech vrátil. I tentokrát slavil úspěch,...

Proč používat e-mail na jedno použití

Dočasná, respektive jednorázová e-mailová adresa nabízí možnost, jak využít elektronickou poštu v případě, že nechcete...

Válka znovu zažehla posedlost donekonečna surfovat špatnými zprávami

Situace posledních týdnů znovu vynesla do popředí jeden nezvyk používání internetu, kterému se velice dařilo už v...

Runet: ruský internet ukazuje, jak vypadá státní cenzura nad informacemi

Premium Rusko chce mít internet pod kontrolou. Připravuje se na to již delší dobu, do praxe významně přichází s ruským útokem...

SOUTĚŽ: Vyhrajte zásobu Nutrilonu 2 Profutura CESARBIOTIK™
SOUTĚŽ: Vyhrajte zásobu Nutrilonu 2 Profutura CESARBIOTIK™

Odpovězte na jednoduchou otázku a vyhrajte krabici plnou pokračovacího kojeneckého mléka Nutrilon 2 Profutura CESARBIOTIK™. Zbrusu nová receptura...

Ani závěť už není zárukou hladkého dědictví. Nejvyšší soud změnil pravidla

Premium Nedávný rozsudek Nejvyššího soudu změnil zažitá pravidla prokazování platnosti závětí, které nejsou sepsány notářem....

Herec a režisér Vojtěch Kotek se oženil. S partnerkou chodili více než rok

Herec Vojtěch Kotek (34) se ve čtvrtek oženil. Podle webu Expres.cz si vzal přítelkyni Radanu, se kterou chodí více než...

Proč dřív lidé vypadali na fotce starší. Rychleji se stárnulo, nebo je to klam?

Premium Tak schválně, udělejte si čas a zalistujte rodinnými alby. Podívejte se na svoje rodiče, prarodiče, praprarodiče. A...

Herečka Eva Josefíková se o víkendu tajně vdala

Herečka Eva Josefíková (32) se na Instagramu pochlubila šťastnou novinkou. Během romantického obřadu řekla své ano...

Pár dělí třiadvacet let, lidé ženu zaměňují s partnerovou matkou

Osmačtyřicetiletá Rachel Allenová z Texasu zažívá lásku jako z románu. Žije s o 23 let mladším partnerem a soužití si...