Diskuse k článku

Největší problém umělé inteligence: nelze zjistit, „proč“ se rozhodla

Umělá inteligence a strojové učení jsou budoucností průmyslu. Přináší však s sebou problémy, které zatím v oblasti počítačových systémů nebylo potřeba řešit.

Upozornění

Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Zobrazit příspěvky: Všechny podle vláken Všechny podle času

M37a72r80t11i92n 62P48o72d38h43o30r58s46k38ý 4955771639403

To je zas diskuze. Nejhlasitější bijci proti korektnosti jsou od reality stejně daleko jako hyperkorektní proud, který kritizují. AI prostě jede podle podle svého nastavení a pokud nezná kontext, tak může klidně převzít setrvačnost a předsudky prostředí, ve kterém operuje. U ženy z muslimské země se bude pozastavovat nad její snahou získat lepší vzdělání, čechovi nabídne podle zvyklosti ve stejné firmě, lokalitě a profesi hůře placenou práci než němcovi a od člena etnika, který byl vystěhován do chudších oblastí, kde měla jeho rodina horší startovní pozici, bude očekávat méně.

0/0
5.11.2017 1:01

M59i37c88h47a37l 74D20i22v73i25š 3861968313831

Pokud se ovsem jednalo o bankovni data, kde se resil kredit klienta, tedy rekneme neco jako bonita klienta, a dostavaji stejna data a proste urcite skupiny at uz rozdilne rasove, dle pohlavi ci nabozentsvi, proste maji v prumeru horsi bonitu, tak prece system neni rasisticky tomu je to asi uplne jedno. Proste je vyhodi vystupni data jak to je. To ze se nejake spolecnosti nelibi, ze horsi statistiky maji jine nabozenske skupiny od jinych nebo ruzna pohlavi, tak to je sice smutne, ale nic by se s tim nemelo delat a smirit se s tim, ze tak to proste je, nebo resi to tak, ze jim to teda umele navysime, aby to nebylo diskriminacni, zacnete tim diskriminovat tu druhou stranu. Proste je treba veci brat tak jak sou.

0/0
5.11.2017 11:53

E58d80u90a92r75d 86D58r65á70b29e78k 7597633179549

Finanční institutce do testovacího provozunasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. No a tento systém začal postupně některé klienty prokazatelně diskriminovat - na základě pohlaví, náboženství a rasy............................. a největší fór by, že do systému informace o pohlaví, náboženství a rase vůbec nikdo nevložil :-)

Zdroj: https://technet.idnes.cz/umela-inteligence-problem-rozhodovani-dye-/tec_technika.aspx?c=A170619_094905_tec_technika_nyv

+1/0
4.11.2017 18:57
Foto

F59r56a20n45t70i48š98e18k 48K58š49í88r 2299156475

Práce bude pořád dost i když tu bude umělá inteligence.

0/0
3.11.2017 16:58

P42e35t29r 70H64á53l20a 6704986955936

Stroj zacal prokazatelne diskriminovat? Takze zacal cernochum a muslimum davat prilis nizke kreditni skore, a jasne se prokazalo, ze cernoch se stejnym kreditnim skore jako beloch ma ve skutecnosti lepsi platebni moralku? Nebo proste maji cernosi horsi platebni moralku? To ale neni zadna diskriminace, pokud je to proste fakt!

+1/0
3.11.2017 11:49

E10d70u28a27r58d 24D56r14á29b65e40k 7857843229199

problém je, že i pokud se ukáže, že více černochů než bělochů má horší platební morálku, tak pokud se rozhodnete, že černochům budete dávat "preventivně" horší úvěry, "protože seš černej voe", tak je to považováno za diskriminaci. A je to tak správně. Černoch nemůže za to, že někteří další černoši neplatí a neměly by pro něj automaticky platit horší podmínky.

0/0
4.11.2017 19:00

J80a82r53o27s46l69a46v 65V81a45c34e43k 1452882162456

Hlavní překážkou UI byl, je a dlouho bude výpočetní výkon. Většina úloh je NP-těžkých. Takže současné počítače nemají v principu šanci.

0/0
1.11.2017 21:02

D48a45v74i54d 98D47i30r41g90a 7735711118

Třeba které?

0/0
2.11.2017 15:24

M28i76c94h42a85l 51C43h39a87l55u78p56a 6398340619453

UI znamená uživatelské rozhraní, české zkratky se v tomhle myslím moc nepoužívají, protože je to pak zavádějící a může to znamenat něco jiného. Jinak třeba u neuronových sítí je pomalé učení, vykonávání naučeného modelu je mnohem rychlejší. Vyrobit video je taky časově náročnější než jej jenom přehrávat.

+1/−1
2.11.2017 20:27

E22d89u23a67r39d 58D93r47á48b47e63k 7817453339849

UI znaemná umělá intelitence (AI)

0/0
4.11.2017 19:00

M55i95c73h64a62l 68C39h10a59l47u71p16a 6608890959973

Jo, ale prakticky se ty zkratky z češtiny moc nepoužívají, většinou z angličtiny. Takže UI je uživatelské rozhraní a AI umělá inteligence. Pokud to je někde ve větě, tak většina lidí bude předpokládat ty anglické.

0/0
4.11.2017 19:20

M68a23r67t94i77n 82Z58i42k87m27u10n94d 7465145794561

Výpočetní výkon je problém, ale hlavní překážkou je poskytnout AI dostatečný model světa. To nám pořád moc nejde. Umělá inteligence dokáže porazit velmistra v go, ale sama vlastně neví, že hraje. Stejně tak autonomní auta nevědí, že jedou po ulici.

0/0
3.11.2017 14:55

M52i31c92h11a43l 59D96i81v53i60š 3221178913861

Tak to jsou zacatky, az prijde sebeuvedomeni, myslim, ze uz nas nebude potreba.

0/0
5.11.2017 11:59

M86a85r58t51i65n 23Z32i64k89m76u22n25d 7315735504381

A to je právě ono. My pořád předpokládáme / doufáme / bojíme se, že sebeuvědomění je přirozený důsledek. Ale sami jo neumíme definovat, natož identifikovat. Věda ani nemá definici reality, protože je to ve výsledku irelevantní.

0/0
5.11.2017 12:03

P15e23t42r 91N59o18v68á12k 3953356624694

No možná je to tím, že programátoři velmi často používají funkci generování náhodných čísel... ;-D;-D;-)

+1/0
1.11.2017 15:04

P23e34t32r 46N34o95v39á23k 3193876624234

;-D No tak každá umělá inteligence se řídí instrukcemi. Je otázkou tedy kdo a jak tam ty instrukce či podmínky zapsal. ...

Jinak chápu, že to "nelze" zjistit, protože procesory zvádají miliardy operací za milisekundu, zatímco člověk možná ani ne jednu...Takže to fakt nezjistíme.;-D

+1/0
1.11.2017 15:01

F43r29a65n13t33i30š43e75k 17O12s32t17r93ý 4585941367763

No to právě tak není, že by se rozhodovala podle instrukcí.

Ani rychlost není to zásadní. Ten problém je, ža ta informace v neuronové síti není. Samozřejmě by šlo zjistit, jak se který neuron přepnul, ale nelze dobře zjistit, proč. Musel by se zopakovat celý proces učení se stejnými daty, což je prakticky neuskutečnitelné.

Samozřejmě, jak už tu bylo zmíněno, se řada firem snaží o implementaci nějaké diagnostiky. Ale asi nikdy to nebude stoprocentní.

0/−1
1.11.2017 15:06

M88i48c68h87a68l 94C76h52a89l78u95p76a 6208240949343

Nechápu, prč mínusy, asi to na někoho bylo příliš složité :-).

I to naučení lze udělat na základě stejných dat. Jenže úplně stejné to asi stejně nebude - u těchto algoritmů se může sít inicializovat do určité míry náhodnými čísly, něco se na začátku nastavit musí. A jeden neuron ani nemusí dělat jednu věc, takže změna výstupu se může projevit na víc místech třeba.

0/0
2.11.2017 20:31

M79i77c26h87a12l 98C72h14a29l93u15p31a 6988390409473

Jenže tady instrukce nejsou. Představte si to jako soustavu rovnic, která má třeba tisíce proměnných, ty se vynásobí různými koeficienty, posčítají atd a z toho vypadne hromada čísel. Učení spočívá v hledání takových koeficientů, aby pro známá čísla na vstupu vypadla taková čísla, jaká jsou potřeba (pak už záleží na interpretaci, třeba vypadne jedno číslo, které říká, jaká je pravděpodobnost, že na fotce je třeba něčí babička). Pokud se to udělá dobře, tak to pak dává výsledky i pro čísla, na kterých se to neučilo. Problém je, že těžko pak někdo dokáže říct, proč koeficient na pozici 5 tisíc je zrovna takový a co se stane, kdyby se změnil o jednu setinu. Může to něco opravit, začne to dělat něco jiného nebo se to celé rozsype.

0/0
2.11.2017 20:36

J44a85r41o97s23l54a54v 60D70r36o80z40d 6643789390907

Ke čtení článku doporučuji pustit si trochu tématické hudby:

https://www.youtube.com/watch?v=pVZ2NShfCE8

0/0
1.11.2017 11:45

R33o70m37a40n 72S90t73r63a24j74t 8396918275704

Diskriminace je v pořádku, tu si různá etnika zasloužila sama. Závažnější problém je úplně jinde a to rozhodování v kritických situacích kdy jde o zdraví. Samořídící automobil může mít v případě kolize např. dvě možnosti a již v okamžiku rozhodování může předjímat, že varianta jedna zachrání posádku ale způsobí zranění jiným lidem, nebo to bude naopak. Kdo nastaví priority a kdo za ně bude trestně zodpovědný ?

+1/0
1.11.2017 7:07

E69d27u75a52r20d 73D57r71á21b70e64k 7597503259239

Nebo vám AI řekne, že je nutné do 24 hodin odpálit jaderné rakety na Koreu a zaboha vám neřekne proč :) A vy víte akorát to, že měla k dispozici všechny informace světa a je "chytřejší než vy". Poslechnete, neposlechnete...:-) Co když na základě zjištěných informací naopak začla fandit korejcům a je to blaf? ;-D

0/0
4.11.2017 19:15

I10v25a78n 57B42u21b92l48a 3612555755144

Budou inteligentní stroje, nebudou potřeba inteligentní lidi. Teď už chápu proč už v předstihu z nás dělají blbce.

+2/−1
31.10.2017 20:53

Š19t84ě84p95á90n 96V31a93n68ě57k 3613209257917

Velmi zajímavý článek. Nechystáte nějaký ucelenější seriál?

+1/0
31.10.2017 20:14

M74i98l25a69n 18V41o33l48e10k 5739233236699

'Inteligence' způsobená vahami mezi uzly se samozřejmě analyzovat dá, ale kdo by se s tím dělal?

+1/−1
31.10.2017 18:25

M38i57r34e37k 90G63a97j53e61r 5361846689670

Kdyby to slo, tak tu analyzu zase muze delat pocitac.

0/0
31.10.2017 18:31

D52a93v29i40d 66D27i46r26g28a 7275481458

Spíš co s tím. Budete vědět, na kterém uzlu se to dalo kterým směrem, ale co vám pomůže informace, že nejvyšší kreditní skore má v rámci stejné výše příjmů zrovna člověk se jménem o délce deset písmen začínajícím na J ve věku mezi 52 a 54 lety?

+1/0
1.11.2017 0:09

M85i67l72a85n 46V84o31l76e83k 5619653216339

Takže jste nikdy neuronovou síť neprogramoval ani neučil...

+1/0
1.11.2017 21:10

D33a29v60i93d 31D47i88r84g49a 7725791548

Máte pravdu. A máte i tu implikovanou pravdu, že jsem to nemístně zjednodušil.

+1/0
2.11.2017 15:25

M43i55c94h32a21l 38C16h87a54l77u39p80a 6748880109463

Jenže opravit to lidi podle mě stejně moc nedokážou. Ty neuronové sítě se používají především pro řešení problémů, které nikdo řešit spolehlivě neumí nebo je to šíleně pracné. Takže zcela pochopit tu síť nebo ji dokonce dokázat ručně opravit mi vychází jako náročnější, než ten původní problém. Prostě by bylo jednodušší řešit ten původní problém klasickým způsobem.

+1/0
2.11.2017 20:39

M90i67l41a63n 29V43o92l26e64k 5349943116569

To je otázka. Podle mě by stálo za to analyzovat naučenou neuronovou síť právě proto, abychom pochopili závislosti pro klasické řešení. To ovšem vyžaduje i optimálně navrženou síť, kde se k výsledku může dostat jen jednou cestou.

0/0
4.11.2017 8:24

M11i28c98h15a91l 14C87h30a87l38u53p81a 6278450749823

ta sit je ale univerzalni reseni, zvladne delat to, na cem se naucila, takze ta slozita analyza by resila akorat to, na cem se to ucilo. A jednodussi bude znovu pustit uceni pro dalsich x tisic vstupnich dat, nez to resit rucne. A ta vysledna sit ani nemusi byt optimalni reseni, staci, ze nejak funguje.

0/0
4.11.2017 10:16

Z63d50e71n98ě83k 12V81o22d22á26k 7235226127152

UI jednou zajistí světový mír.

Když se jí dá za úkol obrana. Zjistí, že nejlepší řešení lokálních i globálních konfliktů je eliminace těch agresivních vyspělejších opic co války vždy v historii rozpoutali

0/0
31.10.2017 16:36

D55a14v20i85d 97D76i21r80g68a 7965951588

Postupně se tak do pozice agresivních vyspělejších opic budou dostávat ty méně agresivní a vyspělé, až daný UI vyhubí celé lidstvo.

Myslím, že tohle není správná cesta.

+3/0
1.11.2017 0:06

J69a78r12o20s47l26a56v 51N81e70d54o39m57a 3260250272923

Tak že film Terminátor byl vlastně hodně vizionářský....

+2/0
1.11.2017 7:38
Foto

M78a86r74t17i85n 33F96a76l16t58ý75n 9151516694128

A Asimov se svými zákony robotiky může jít... víte kam!

Respektive by musel vytvořit 11. zákon (11. přikázání už máme, jesltipak víte, které to je?). Smělci se mohou pokusit o jeho - 11. zákona - definici ;-D

0/−2
31.10.2017 16:23

M11i87c53h21a42l 20C16h75a95l54u63p73a 6428650569503

Proč 11.? Asimov si vystačil se čtyřmi...

0/0
2.11.2017 20:41

M59a94r63t75i28n 18Z83i61k92m78u23n69d 7195975744751

Asimovy knihy jsou založeny na faktu, že zákony robotiky nefungují :)

+2/0
3.11.2017 15:01
Foto

L28u83k36á55š 37N71o16v59o68t80n97ý 6216407688328

Jak může být diskriminační něco, co je založeno na objektivních datech? Diskriminace je čistě subjektivní např. že dám ženské menší plat, protože je to ženská. Pokud ale z objektivních (tvrdých) dat vyjde, že např. muslimové jsou rizikovější ve splácení úvěrů, pak je to na stejné úrovni jako když dám nižší kreditní ohodnocení člověku se základkou než někomu s vysokou, protože na základě dostupných dat lidé se základkou splácí hůře.

+9/−1
31.10.2017 15:55
Foto

M44a49r11t35i55n 55F16a36l82t79ý69n 9581496404928

Možná to nakonec bude posuzovat nějaký "Robot - Sluníčkář" ;-D

0/0
31.10.2017 16:21
Foto

P15a86v56e87l 96K24a80s30í93k32, 33T56e25c58h37n84e50t61.19c89z

Pozor, to je častý omyl. I diskriminace na základě dat je stále diskriminací a je překážkou rovným příležitostem. Například pokud bych měl data o tom, že lidé s křestním jménem Lukáš mají - statisticky vzato - horší znalosti pravopisu, než lidé s křestním jménem Tomáš, mohl bych říci: "Lukáš Novotný, to ani nebudu číst, to bude určitě nečitelné." Tedy na základě "objektivních dat" bych vás diskriminoval, nedal bych vám rovnou příležitost. To je ten zásadní argument - diskriminace není špatná proto, že nevychází z dat (i když někdy skutečně z dat nevychází). Diskriminace je špatná proto, že porušuje princip rovné příležitosti nebo rovného přístupu. Řečeno úplně polopaticky: když bude dvakrát trestaný zloděl obviněn z toho, že něco ukradl, máme docela dobrá data o tom, že je to zloděj. Přesto ale musíme hledat důkazy pro to, že tu věc skutečně ukradl, a nelze ho odsoudit jen za to, že kradl v minulosti, tak určitě kradl i tentokrát. To by porušilo zásadu rovného přístupu ke spravedlnosti, což je princip, který každý ocení ve chvíli, kdy se ocitne v situaci, kdy hrozí nefér zacházení jemu.

+9/−4
31.10.2017 16:52

W35a68l95t48e30r 72D77i98v71i57š 6127562192372

Troufl bych si tvrdit, že tady jde o chybu v úvaze.

Pokud budu hodnotit (nastavím hodnocení) podle chybného, nedostatečného nebo zkresleného parametru, pak nutně dostanu nepoužitelný výstup, ale netvrdil, že výstup je diskriminační. Výstup nějakého předem stanoveného algoritmu nemůže nikdy být diskriminací. Diskriminací je nastavení algoritmu, určení, že zrovna tento parametr bude hodnocen apod.

Tedy pokud jste na začátku nastavil chybné (diskriminační) pravidlo, pak zcela nutně dostanete takový výsledek. A to nikoli na základě dat, ale na základě zvoleného hodnocení.

A zcela na okraj - myslím, že v rámci hodnocení a výstupů AI je vůbec chybou mluvit o diskriminaci. Diskriminace je v náš vlastní vynález, je to jen hodnocení, které není neutrální, ale zabarvené (emočně? morálně? eticky?). Zatímco současné AI dávají výstup čistě neutrální, nediskriminační, prostě jen vyhodnotí dodaná data dle naprogramovaných postupů - v případě neurálních sítí pak naprogramovaného postupu učení a dodaných dat, které výsledek tvoří společně. Nicméně stále nelze mluvit o diskriminaci, ale pouze o neutrálním výsledku.

+8/−1
31.10.2017 17:17

O86n92d34ř83e79j 35Z29e68m79a41n 5320324588209

Tak problém je, že se v případě popsaném v článku nejedná o předem stanovený algoritmus, ten program to nevyhodnocuje dle naprogramovaných postupů, jinak by se dalo přesně určit, proč to tak vyhodnotil.

+1/0
31.10.2017 18:03

T33o51m84á17š 87Z31e12m79a27n 3595488754505

Nelze určit JAK to vyhodnotil, ale docela dobře lze určit PROČ.

+1/−1
31.10.2017 18:13

M12i30r31e74k 30G10a16j30e49r 5901266779380

Ty postupy jsou samozrejme naprogramovane, ne ze ne. Ale k tomu vysledku proste vede souhrn velkeho mnoztsvi dat a my nedokazeme nijak nebo nijak snadno urcit, jakou "roli" jednotliva data hraji.

+1/−1
31.10.2017 18:35
Foto

P63a15v10e25l 17K97a49s29í88k47, 15T27e49c31h16n84e23t16.33c41z

Chápu, co říkáte, ale máte jinou definici slova "diskriminace", než já. Vy diskriminaci přičítáte "úmysl" - a proto říkáte, že AI nemůže diskriminovat. Ale diskriminace nemusí být jen úmyslná, naopak, velmi často je neúmyslná. I u lidí. Právě proto je tak těžké o diskriminaci mluvit. Lidé, kteří jsou osočení například z rasové diskriminace, v tom slyší obvinění z toho, že jsou úmyslně rasisté. Ale diskriminace je mnohem častěji neúmyslná, podvědomá, systematická apod. Příklad: učitelé matematiky dávají chlapcům za stejné odpovědi v testech lepší známky, než dívkám. Pokud se jméno skryje, tato diskriminace zmizí. To neznamená, že ten učitel "úmyslně" diskriminoval, přesto došlo k diskriminaci. A to samé u složitých neuronových sítí.

+2/0
2.11.2017 15:08

M58i78r65e59k 19G57a11j58e14r 5131126929890

Ani takto umela inteligence nefunguje. Data se rozdeluji na "treninkova" a "testovaci." Toto rozdeleni se dela nahodne a mnohokrat. Az kdyby skutecne platilo i na datech, na kterych ta neuronova sit nebyla natrenovana, ze porad plati o Lukáších ty horší znalosti pravopisu, pak by se ta umela inteligence mohla rozhodnout, jak pisete. Dalo by se to cekat treba u krestniho jmena Dežo, kde ta kauzalni spojitost skutecne je. Diskriminacni by to nebylo, protoze nejde o diskriminaci na zaklade barvy kuze, kterou si clovek nemuze bezne zmenit. Jmeno zmenit jde a mnozi byvali Čurdové by vam to mohli osvetlit.

Jo a udelejte si pruzkum, kolik lidi spravne rozumi pojmu "rasova diskriminace." Vetsina v tom ma uplny zmatek, nevi, co je protizakonne a co neni. Pak je tezke dodrzovat zakony spravne a take spravne trestat ty, kdo je porusuji. Mnoho lidi se domniva, ze je neco diskriminacni a pritom to neni pravda nebo to alespon neni nic protipravniho.

0/−1
31.10.2017 18:03

T19o91m47á73š 27Z43e40m77a11n 3825418824685

Pokud by tu ta příčinná souvislost byla.

Ale není. Leda by by šlo o jméno častější u nějaké opravdu odlišné skupiny obyvatel.

Naopak u ras/náboženství/pohlaví tu souvislost je. Lidé, kteří z náboženských důvodů musí dělat XY a naopak nesmí YX, nemohou být stejní, jako lidé bez této zátěže.

A k tomu zloději - člověku, který spáchá úvěrový/pojistný podvod už nikdo službu neposkytne a nebo za "diskriminačních" podmínek, přestože zrovna teď nepodvádí.

Obecně mi přijde, že často směšujete, pane Kasíku, jevy náhodné (např. gramatika/jméno) a jevy, které nutně musí mít souvislost (náboženství/jednání).

+2/−2
31.10.2017 18:11

M13i59c84h24a64l 77C19h54a96l15u36p43a 6658970509473

Jenže takováhle data byste z normální společnosti nejspíš neměl dostat - pokud je distribuce lidí se špatnou znalostí pravopisu rovnoměrná a stejně tak i výskyt jmen, tak těch Lukášů s neznalostí pravopisu bude podobně, jako třeba Pavlů.

0/0
2.11.2017 20:45

E70d84u44a13r34d 58D21r24á46b48e88k 7887103799769

Výskyt jmen určitě není rovnoměrný a dost dobře může korelovat s úrovní pravopisu. Pro lepší představu zvažte třeba jméno Dežo...

V praxi dostnete spíš to, že černoši mají většinou horší platebí morálku. I poté jest stále diskriminací dávat někomu horší podmínky úvěru na základě toho, že je černej. To je prostě diskriminace, i když to máte podloženo statistickými daty. Protože upírat někomu rovné zacházení na základě toho, že jeho sourasovci mají horší platební morálku je prostě jasná diskriminace. Byť pro danou banku to může být lákavé a pragmaticky vzato by měla černochy rovnou ve dveřích vypklonkovávat, chtěla-li by se řídit jen statistikou (teoretizuji). Prakticky jí takové jednání společnost zakazuje, protože společnost chce být rovnostářská a zacházet rovně i s těmi, kteří se narodili s určitou barvou kůže.

0/0
4.11.2017 19:27

Najdete na iDNES.cz