Dopis podle deníku The Independent podepalo 19 akcionářů a po Bezosovi požadují, aby prodej softwaru policii zastavil minimálně do doby, než se vyřeší problémy s jeho možným zneužitím.
„Máme obavy, že technologie bude využita neférovým způsobem k nepřiměřenému sledování lidí s jinou barvou kůže, imigrantů a občanských organizací,“ cituje z dopisu CNN. „Obáváme se, že se časem dojde i k prodeji systému zahraničním vládám, včetně autoritářských režimů,“ píše dál.
Podle hlavního manažera umělé inteligence v Amazon Web Services (AWS) Matta Wooda ovšem využití technologie Rekognition prospívá společnosti i firmám.
„Rizika, která jsou spojená s novými technologickými možnostmi, vždy byla, jsou a budou. Každá organizace tak musí jednat zodpovědně, protože jinak riskuje zákonný postih nebo veřejné odsouzení. AWS bere svou zodpovědnost vážně,“ uvedl Wood na svém blogu.
Podle něj jsou zákazy slibných technologií špatné. „Svět by byl značně jiný, kdybychom bránili lidem v nákupu počítače, protože je pomocí něj možné někomu ublížit,“ konstatuje Wood.
Na začátku dubna Amazon na svém webu oznámil, že došlo k výraznému zpřesnění jeho rozpoznávacího systému. „Technologie je nyní o 25 procent přesnější ve vyhledávání správného obličeje z digitální databáze, kde jich jsoudesítky milionů,“ uvádí firma. Z příspěvku však není jasné, nakolik je umělá inteligence skutečně přesná.
Technologie je náchylná ke zneužití
Přesnost je klíčovým faktorem zejména při případným využití bezpečnostními složkami, jelikož může de facto rozhodnout o tom, kdo bude zatčen a kdo nikoliv. Podle studie univerzity MIT navíc klesá přesnost rozpoznávání obličejů umělou inteligencí u lidí s tmavším odstínem pleti.
Už koncem května letošního roku požadovaly spolky zabývající se lidskými právy, aby Amazon neprodával rozpoznávací software policii. Prohlásily, že tato technologie je ve vládních rukou velice náchylná ke zneužití.
Momentálně ji využívá například policejní sbor ve Washington County v Oregonu, nebo ve městě Orlando ve státě Florida.
