Kontroverzní asistentka: Google slíbil, že se musí představit jako robot

  19:03aktualizováno  19:03
„Dobrý den, já jsem Líza a jsem robot.“ Tak přesně tato věta během působivé prezentace šéfa Googlu nezazněla. Když Sundar Pichai předvedl, že robotický telefonista je k nerozeznání od lidského a umí pohotově reagovat na dotazy, sklidil nadšený obdiv, ale i důraznou kritiku.

Proti robotům, kteří se po telefonu vydávají za lidi, se zvedla vlna kritiky. | foto: montáž: Pavel Kasík, Technet.czProfimedia.cz

Minulý týden Google představil novou experimentální funkci Google Duplex. Sundar Pichai, šéf Googlu, pustil překvapenému publiku ukázky reálných telefonních hovorů, které vedl robotický asistent s restaurací nebo kadeřnictvím.

V ukázce je slyšet, že hlas zní velmi přirozeně, navíc je řeč robota prokládána vycpávkami typu „ehm“, „jo“ nebo „uh“. Google Duplex umí reagovat během desetiny sekundy, přestane mluvit, když začne mluvit druhá strana, a vůbec se chová velmi „lidsky“. Z reakcí lidí na druhé straně telefonátu lze soudit, že nemají ani tušení, že se baví s robotem.

Etický problém dalekosáhlých rozměrů

Je jednoduché si představit, proč Google v rámci experimentů nechtěl zdůrazňovat, že volá robot. Málokdo si chce povídat s robotem, případně by daný příjemce mohl mluvit tak, jak si myslí, že by měl na robota mluvit, což není pro rozpoznávání řeči, které je natrénované na běžné konverzaci, ideální.

Ale i tak se po předvedení této nové (zatím experimentální) funkce zvedla kromě obdivu i vlna kritiky. Lidem (včetně řady našich čtenářů) vadila představa, že by se bavili s robotem, aniž by o tom věděli. Novinář The New York Times, Zeynep Tufekci, označil Pichaovu prezentaci za děsivou:

09.května 2018 v 17:12, příspěvek archivován: 14.května 2018 v 18:49

Google Assistant making calls pretending to be human not only without disclosing that it's a bot, but adding "ummm" and "aaah" to deceive the human on the other end with the room cheering it... horrifying. Silicon Valley is ethically lost, rudderless and has not learned a thing.

Podle něj není v pořádku, aby stroj předstíral, že je člověk, a uváděl tak člověka na druhé straně v omyl: „Je neuvěřitelné, že lidé v Googlu to nezatrhli. Toto je obyčejné podvádění.“

Poznáte, že to není člověk?

Další audio ukázky v našem předchozím článku

S tím částečně souhlasí i výzkumník z Digital Ethics Lab z Oxfordu: „Tyto experimenty firmy Google se zdají být navržené tak, že oblafnou člověka (na druhé straně). Zdá se, že zjišťovali, zda dokážou přesvědčit člověka na druhé straně, že se baví s člověkem. Nevím, proč se místo toho nesnažili najít nejlepší a nejpoužitelnější způsob, jak jednat. Nemusíte přece někoho uvádět omyl, abyste s ním efektivně komunikovali. Nevím samozřejmě, zda bylo jejich cílem lidi uvádět v omyl, ale pokud to nebyl cíl, tak to přinejmenším zanedbali.“

Robot se bude muset představit jako robot, ujistil Google

Google původně nezmínil, zda se robot představí jako robot, nebo nechá druhou stranu v domnění, že se baví s člověkem. Sundar Pichai nicméně řekl, že „Google si dá práci s tím, aby to udělal tak, jak se patří“.

Na dotaz magazínu The Verge zástupce společnosti Google později uvedl, že „společnost cítí zodpovědnost informovat osoby, které přijdou do kontaktu s asistentem Duplex, že se baví se softwarem“. Tým, který vyvíjí produkt Asistent Google (Duplex má být jeho součástí) také hledá způsoby, jak zabezpečit tuto funkci proti zneužití. A že si lze představit nejeden způsob, kterým by šel lidsky znějící a reagující robot využít a zneužít.

Autor:

Mohlo by vás zajímat: Černobyl

Černobylská havárie se stala 26. dubna 1986 v černobylské jaderné elektrárně na Ukrajině (tehdy část Sovětského svazu). Vzpomínka na tragédii v těchto dnech oživila televizní minisérie Černobyl.

Téma Černobyl v článcích Technet.cz:
Brzda místo plynu a plyn místo brzdy. To byl Černobyl
Havárie neskončí před rokem 2065. Černobyl polyká tuny vody a miliardy eur
Výbuch roztavil beton a tisícitunový poklop létal vzduchem. Černobyl 1986

Nejčtenější

Scéna jako z hororu. Na střeše mrakodrapu vrtule rozsekala cestující

Havárie vrtulníku N619PA na střeše budovy PAN AM 16.5. 1977

Části zdeformované vrtule se do ulic New Yorku řítily jako smrtící neřízené projektily. Vrtulník společnosti New York...

Třímachový zabiják letadlových lodí Suchoj T-4 byl velkým žroutem rublů

Suchoj T-4

Historie letectví se pozoruhodnými stroji jenom hemží. Jedním takovým byl i sovětský bombardér Suchoj T-4. Vznikl pouze...

Osudový omyl. První a poslední přistání proudového letadla v Olomouci

MiG-21F trupového čísla 0618 s nímž v Olomouci tragicky havaroval kadet Omran...

Bylo mu 23 let, když se u Přerova učil létat na vysoce výkonném letounu Mig-21F. Podcenil však zadání úkolu a při...

Zrcadlo doby: jak československý armádní film natáčel západní letadla

British Aerospace Nimrod AEW3

V roce 1980 navštívili pracovníci Československého armádního filmu aerosalon v anglickém Farnborough, aby tam na...

Kilogram má novou definici. Jeho fyzická podoba ztratila 50 mikrogramů

Kopie originálu kilogram z Paříže v americké laboratoři Sandia. Podobné vzory

Od 20. května začala platit nová definice kilogramu. Ta již nebude mít fyzickou podobu, ale bude odvozená od pevné...

Další z rubriky

V Británii povolí pornostránky jen plnoletým. Ukážou pas či kreditku

Ilustrační snímek

Británie se stane první zemí na světě, která bude ověřovat věk návštěvníků pornografických internetových stránek....

Facebook chce konkurovat Alexe i Siri. Chystá vlastního asistenta

Facebook Portal v bílé

Společnost Facebook údajně pracuje na vývoji vlastního hlasového asistenta, který by se mohl objevit v jejích...

Pero schová i nabije. Nový notebook Fujitsu má vše, co byste mohli chtít

Nový konvertibilní notebook Fujitsu U939X.

Fujitsu se do kilogramového konvertibilního 13" notebooku/tabletu podařilo vměstnat nabíječku digitálního pera, USB-C...

Najdete na iDNES.cz