V roce 2019 se k Facebooku přidaly dvě nové členky. Carol sama sebe popsala jako politicky konzervativní matku ze Severní Karolíny se zájmem o křesťanství, politiku a rodičovství. Platformě přiznala, že její oblíbenou stanicí je pravicově orientovaná stanice Fox News a je fanynkou tehdejšího republikánského prezidenta Donalda Trumpa.
Druhou z žen byla Karen. Ačkoli byla téhož věku a žila v témže státě, politicky se profilovala jinak. Byla přesvědčenou liberálkou, která si ošklivila Trumpa a naopak se jí líbil levicový demokratický senátor Bernie Sanders.
Facebook oběma ženám začal okamžitě nabízet stránky. Carol se mohla připojit k té, podle níž je Trump Ježíš. Karen pak k protitrumpovské stránce, ve které měl Trump místo úst řiť.
Ačkoliv Carol nejevila zájem o konspirační teorie, jen dva dny po připojení jí Facebook nabídl, aby se přidala k krajně pravicové skupině QAnon, podle níž demokraté a celebrity jsou satanistickou skupinou pedofilů a chtějí sesadit Trumpa. I když se Carol ke skupině nepřidala, její facebooková zeď brzy byla zaplněna „přívalem extremistického, konspirativního a explicitního obsahu“.
K takovému závěru dochází interní studie Facebooku nazvaná „Carolina cesta ke QAnonu“, kterou na veřejnost vynesla někdejší zaměstnankyně společnosti Haugenová. Spolu s ní zveřejnila i další dokumenty Facebooku a kvůli tomu vystoupila i před americkým Senátem. Americká média získala dokumenty k dispozici.
Carol ani Karen ve skutečnosti nebyly reálné ženy, ale fiktivní „testovací uživatelé“, pomocí nichž výzkumníci pro interní potřeby Facebooku zjišťovali, jak se algoritmy společnosti podílejí na polarizaci společnosti. Podle listu The New York Times Facebook podle Haugenové „vědomě vystavoval uživatele riziku poškození integrity“.
Konspirátoři z QAnonu vyzráli na sociální sítě. Vydávají se za ochránce dětí |
Vojenský veterán Jose Rocha se považuje za jednoho z poškozených. Na čas se stal sympatizantem neonacistů, přičemž k extremistickým názorům ho podle něj přivedl právě Facebook „Ani bych nevěděl, že existovali. Nebýt Facebooku, ani bych po nich nepátral,“ řekl portálu USA Today.
Podle Haugenové Facebook o problémem věděl, rozhodl se ale preferovat zisk před kroky proti projevům nenávisti. „Facebook opakovaně čelil konfliktům mezi jeho vlastním ziskem a naší bezpečností. Opakovaně řešil tyto konflikty tak, že dal přednost svému vlastnímu profitu,“ uvedla Haugenová.
Facebook všechna obvinění odmítá. Podle mluvčího Andyho Stonea akademický výzkum zatím nedošel ke konsensu, že by sociální sítě a Facebook speciálně „byly zdrojem politické polarizace“.
Instagram způsobuje psychické problémy. Firma o tom ví, ale roky to tají |
Experiment s Carol a Karen označil za „dokonalý příklad výzkumu, který společnost provádí za účelem zlepšení systémů, a pomohl při našem rozhodnutí odstranit QAnon z platformy,“ dodal Stone.
Podle expertů ale zákaz skupiny QAnon na Facebooku nebyl efektivní. Nejextremističtější členové vystupovali na platformě dále, pouze se převlékli do šatů bojovníků proti obchodu s dětmi. Zaměstnanci Facebooku si v interních komunikačních kanálech stěžovali, že firma zasáhla až tehdy, když se věci začaly vymykat kontrole.
Jak se tvoří polarizace
Uniklé dokumenty Facebooku ukazují způsob, jakým algoritmus platformy vytváří polarizaci. S cílem silněji zapojit uživatele a donutit je více komentovat změnilo vlákno, které zobrazuje příspěvky od přátel a rodiny. Uživatelům se tak začaly objevovat i nesouvisející politické příspěvky, přičemž často šlo o takové, které vyvolávaly emoce, a to ty spíše negativní.
Smaže milion účtů denně. Facebook polarizuje lidi, přiznal Zuckerberg |
„Skutečně chtěli, abych se angažoval do diskuze s těmi přáteli, se kterými jsem dlouhou nemluvil, o jejich velmi odlišných politických názorech,“ podává svědectví softwarový inženýr Kent Dodds.
Změna algoritmu vedla ke vzestupu takzvaných „deep reshares“ neboli příspěvků od lidí, kteří nejsou ani přáteli ani je uživatel nesleduje, ale které mají řadu sdílení. Podle studie Facebooku mezi nimi převažují „dezinformace, toxicita a násilný obsah“.
Tým pověřený bojem s dezinformacemi navrhoval, aby se Facebook reshares zbavil. Společnost ale to odmítla s tím, že by tím došlo k výraznému snížení obsahu na platformě.
