Neděle 18. dubna 2021, svátek má Valérie
  • schránka
  • Přihlásit Můj účet
  • Neděle 18. dubna 2021 Valérie

Lidé udělali z umělé inteligence Microsoftu nacistu. Firma se omlouvá

  12:18
Společnost Microsoft vyzkoušela svou novou umělou inteligenci v podobě chatovacího robota. Toho na sociální síť Twitter vypustila se záměrem lépe porozumět lidské konverzaci. Za několik desítek hodin však musela tento experiment ukončit, protože se robot začal chovat neurvale.

Twitterový účet umělé inteligence Microsoft Tay | foto: TwiterTechnet.cz

Nový experiment společnosti Microsoft se poněkud vymkl kontrole. Chatovací robot (chatbot) Tay měl za úkol komunikovat prostřednictvím Twitteru s reálnými uživateli a na základě této komunikace se učit. Stačilo jen pár desítek hodin, aby z něj lidé udělali rasistu a šovinistu, který například obhajuje Hitlera.

Fotogalerie

Nedlouho po zahájení experimentu jej totiž uživatelé začali „krmit“ právě nesnášenlivými hláškami, které pak systém zpracoval a učil se z nich. Tay se následně začala nesnášenlivě až sprostě vyjadřovat k sexuálním, národnostním a dalším menšinám. To vše za necelých 24 hodin. Některé z odpovědí v podobě screenshotů zachytil server SocialHoax.

Firma urážlivé a xenofobní výroky zpočátku mazala, ale pak se rozhodla raději systém stáhnout a nejdříve jej naučit, jak podobným útokům čelit.

Tay se zatím loučí se slovy, že se potřebuje vyspat po dlouhé konverzaci:

24.března 2016 v 06:20, příspěvek archivován: 28.března 2016 v 09:35

c u soon humans need sleep now so many conversations today thx

Zároveň Microsoft vydal oficiální omluvu: „Velice se omlouváme za nezamýšlené útočné a zraňující tweety Tay, které jsou zcela mimo to, kdo jsme nebo za čím si stojíme, včetně toho, jak jsme navrhli Tay. Nyní je Tay v režimu off-line a vrátí se zpět jen tehdy, až si budeme jisti, že si dokáže poradit s úmysly, které jsou v rozporu s našimi zásadami a hodnotami.“

Firma přitom před vypuštěním do světa nechala Tay projít různými testy a zkouškami a nechala ji nejdříve komunikovat s malou skupinkou uživatelů. To, co se dělo poté, co s ní mohl komunikovat kdokoliv, Microsoft přirovnal ke koordinovanému útoku, který našel slabinu v navrženém softwaru a toho využil.

Experiment s chatbotem Tay tak zatím dopadl o něco hůře než předchozí čínský experiment Xiaoice (čtěte šao-ajs). Microsoft ho v roce 2014 představil čínské veřejnosti jako „mladší sestru digitální asistentky Cortana“ s úkolem chovat se jako sedmnáctiletá holka s vyřídilkou. Xiaoice napodobuje odpovědi skutečné dívky a konverzuje „na libovolné téma“. Kromě textové komunikace zvládá i základní rozpoznávání tématu podle obrazu. Vyzkoušelo ji prý už deset milionů lidí.

Samotný systém Tay se měl zaměřovat na uživatele ze Spojených států ve věku 18 - 24 let, což je největší skupina uživatelů sociálních sítí komunikujících přes mobilní zařízení. Měl dokázat konverzovat na různá témata, ale třeba i mile ohodnotit zaslanou fotografii nebo říci krátký příběh.

Autor:

Fagradalsfjall online

Sledujte živě aktivní sopku na Islandu. Erupce začala po týdnech otřesů 19. března a zláště pak v noci nabízí fascinující podívanou.

  • Nejčtenější

Fanoušek zřejmě vyfotil tajný dron, o kterém se pouze spekulovalo

O tajném projektu výškového stealth dronu Northrop Grumman RQ-180 se spekuluje řadu let. Až nedávno se ho podařilo...

Už se nemusíte bát pomalého zapínání nebo restartování PC

Jedním z nejvíce frustrujících problémů počítačů s operačním systémem Windows se může stát jeho pomalé spouštění. Od...

Bitevníkem načerno. Nenápadný vojenský dříč dostal zuby přes odpor letců

OV-1 Mohawk se stal během své kariéry platformou pro sofistikované průzkumné systémy, ale osvědčil se i v jiných...

Poslední bojový letoun armády USA byl něco mezi sporťákem a stíhačkou

Firma Grumman je známá především námořními letouny. Mezi typy, které jsou neprávem na okraji zájmu, patří nenápadný...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Sraženiny po vakcínách: jak vznikají, jak jsou časté a jak se projevují

Začíná být jasné, že některé vakcíny proti covidu-19 mají nečekané vážné vedlejší účinky, které klinické studie...

Bláznivý voyeur Tichý. Žil jako bezdomovec, dnes jeho fotky stojí statisíce

Premium V jeho domě se fotky válely po zemi, padal na ně prach i bláto z bot. Na téměř každé z nich byla skvrna od kávy nebo...

Za fotky nehody Philipa nabízeli obří sumu. Neprodal jsem, říká exšéf Kladrub

Premium Když v roce 1996 přijela do Čech britská královna Alžběta II., snad nikdo nemohl velkému milovníkovi koní a jejich...

Svačiny jsou zbytečné. Stačí jíst dvakrát denně, vysvětluje profesor Anděl

Premium Nadváhu má v Česku až 44 procent mužů a 31 procent žen. A obezitu dalších 20 procent mužů a 18 procent žen. Statisíce z...

  • Další z rubriky

Březnový projekt WikiGap chce, aby se na Wikipedii objevilo víc žen

Wikipedie je pátou nejnavštěvovanější stránkou na světě a prvním místem, kam se většina z nás obrátí, když něco neví....

Prsa, covid, muslimové. „Nejvyšší soud“ Facebooku vydal nečekané verdikty

Nezávislá dozorčí komise, která má působit jako „odvolací soud“ pro obsahové otázky na Facebooku, vydala první...

Google slibuje, že uživatele už nebude sledovat jednotlivě

Google příští rok v prohlížeči Chrome zakáže sledovací cookies, tedy soubory třetích stran, které umožňují mapovat...

Facebooková „rada moudrých“ může nově rozhodovat i o mazání příspěvků

Před necelým rokem zřídil Facebook speciální nezávislý poradní orgán, který se doposud zabýval obsahem, který smazali...

Princ Harry se vrátil do Británie na pohřeb dědečka, karanténu nestihne

Britský princ Harry přiletěl z Los Angeles na pohřeb svého dědečka prince Philipa. Na letišti Heathrow ho v neděli po...

Je to podraz, říká organizátor koncertů Cesta ze tmy. S projektem končí

Už za týden měl prostory pražské Lucerny rozeznít první koncert ze série Cesta ze tmy. Ministr zdravotnictví Petr...

Z Philipova pohřbu odcházeli bratři William a Harry v důvěrném hovoru

Na hradu Windsor byl v sobotu pohřben princ Philip, manžel královny Alžběty II. Velká pozornost se upírala také na...

Pohřbít psa na zahradě? Splnit podmínky vyhlášky je téměř nemožné

Chov zvířecího mazlíčka nepřináší jen radosti. Každý bude muset jednou řešit otázku kam s ním, až život jeho čtyřnohého...

U takové svi.. nemusím být inteligentní. Ve Výměně se vyhrožovalo rozvodem

V jedné rodině pohoda, ve druhé napětí a tichá domácnost. Pavlovi s vyměněnou manželkou došlo, že doma může být dobře....