IBM se nechce podílet na zneužívání systémů pro rozpoznávání obličejů.

IBM se nechce podílet na zneužívání systémů pro rozpoznávání obličejů. | foto: Profimedia.cz

IBM zastavila práce na systému rozpoznávání obličejů. Obává se zneužívání

  • 21
Na rasové nepokoje v USA a přinejmenším diskutabilní zásahy policejních složek reaguje společnost IBM tím, že přestala nabízet systémy pro rozpoznávání a vyhodnocování obličejů. Zároveň volá po dalších opatřeních, včetně dostupnosti kvalitního vzdělání „barevným komunitám“.

„IBM již nebude nabízet univerzální software pro rozpoznávání a analýzu obličeje. IBM neschvaluje a nebude přehlížet použití jakékoli technologie, včetně technologií rozpoznávání obličejů jiných společností, pro hromadný dohled, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a zásadami. Věříme, že nyní nastal čas zahájit diskuzi o tom, zda a jak by měly orgány činné v trestním řízení používat technologii rozpoznávání obličeje,“ píše v dopise americkému Kongresu ředitel IBM, Arvind Krishna.

Někteří ale krok IBM považují spíše za gesto, protože dle formulace dopisu stále mohou prodávat technologii rozpoznávání obličeje pro „specifické účely“, nebo podobné technologie přeprodávat v rámci svých jiných aktivit. Navíc, IBM zdaleka není jedničkou v této disciplíně.

V dopise dále na Kongres apeluje, že umělá inteligence je sice mocný nástroj, který může pomoci se zajištěním bezpečí obyvatel, ale zároveň je třeba mít na mysli, že jak tvůrci, tak uživatelé systémů s umělou inteligencí musí být společně zodpovědní za to, že byl systém důkladně otestován proti zaujatosti.  Nabádá také k využití technologií k zajištění transparentnosti, například pomocí tělových kamer a moderní analýzy dat.

V dopise dále připomíná aktivity IBM v oblasti vzdělávání a zdůrazňuje důležitost kvalitního a na trhu práce uplatnitelného vzdělání v barevných komunitách (v originále: communities of color).