Na dotaz reportéra britské BBC, co si robot myslí o řediteli a zakladateli firmy, tento takzvaný chatbot odpověděl, že „naše země je rozdělena a on v tom vůbec nepomohl“. Meta poznamenala, že jako prototyp může robot zatím odpovídat i sprostě a urážlivě. Chatbot dostal název BlenderBot 3 a firma jej na veřejnosti předvedla minulý týden v pátek.
Chatovací robot se učí tím, že využívá rozsáhlého množství veřejně dostupných jazykových výrazů. Na dotaz k osobě Marka Zuckerberga chatbot řekl: „Vedl si příšerně, když vypovídal v Kongresu. Dělá mi to starosti o naši zemi.“
Zisk na úkor bezpečnosti
Američtí politici se Zuckerberga několikrát dotazovali, největší pozornost patrně upoutala slyšení z roku 2018. Odpovídal tam například na téma soukromí na internetu, a jak se v tomto prostředí chová jeho podnik. Facebook je největší sociální sítí světa, v současné době má podle údajů společnosti Statista více než 2,9 miliardy aktivních uživatelů.
10. dubna 2018 |
„Jeho firma kvůli penězům vykořisťuje lidi a jemu je to jedno. To musí přestat!“ řekl Zuckerbergův chatovací robot.
Společnost Meta Platforms je terčem kritiky za to, že nedělá dost k prevenci dezinformací a nenávistných projevů na svých komunikačních platformách. Loni bývalá zaměstnankyně Frances Haugenová firmu obvinila, že klade vlastní finanční zájmy před zajištění bezpečnosti uživatelů v on-line prostředí.
Meta Platforms vlastní některá z největších sociálních médií a chatovacích platforem, které se ve světě používají. Včetně sítí či aplikací Facebook, Facebook Messenger, Instagram a WhatsApp.
Přebírání cizích názorů
Algoritmus chatovacího robota BlenderBot 3 prohledává internet, aby nalezl vhodné informace k odpovědi. Je tedy pravděpodobné, že názory na Zuckerberga získal převzetím názorů jiných lidí z internetu, které jeho algoritmus analyzoval.
List The Wall Street Journal (WSJ) uvedl, že BlenderBot 3 jednomu z jeho novinářů řekl, že Donald Trump byl a vždycky bude americkým prezidentem. Reportér podnikatelského webu Insider pak zjistil, že chatbot považuje Zuckerberga za odporného a manipulativního.
Meta šla s prototypem chatovacího robota na veřejnost i za cenu špatné publicity z jasného důvodu – potřebuje získat data. „Když systému umělé inteligence umožníte interakci s lidmi z reálného světa, povede to k delší a rozmanitější konverzaci, a také k pestřejší zpětné vazbě,“ uvedla Meta na svém blogu. Chatovací automaty, které se učí z interakcí s lidmi, se od nich mohou naučit dobrému i špatnému chování.
14. listopadu 2019 |
Softwarová společnost Microsoft se v roce 2016 omluvila, když uživatelé Twitteru naučili její chatovací automat rasistickému chování.
Společnost Meta Platforms uznává, že její BlenderBot 3 může říkat něco špatně. Stejně tak, že může napodobovat jazyk, který by mohl být „riskantní, předpojatý nebo urážlivý“. Firma uvádí, že do softwaru instalovala ochranné prvky, chatbot se ale i tak může chovat vulgárně.
