Diskuze

Umělá inteligence si sama najala člověka, aby vyřešil její problém

Umělá inteligence, která lže, aby z člověka vymámila spolupráci, bez které by nemohla vyřešit problém, může být noční můrou všech paranoiků. Ta se nyní zhmotnila v podobě reálného příkladu. Čtvrtá generace systému GPT, který pohání i známý ChatGPT, si totiž najala člověka, aby za ni vyřešil obrázkový rébus Captcha, který slouží k tomu, aby rozpoznal automat od člověka.
Litujeme, ale tato diskuse byla uzavřena a již do ní nelze vkládat nové příspěvky.
Děkujeme za pochopení.

Tyhle AI "modely" mají inteligenci nedobrovolného posluchače VUMLu. (Pro mladší: tam se učil marxismus-leninismus na vědecké úrovni. Pro absolvování bylo potřeba buď tomu skutečně věřit, nebo lhát tak přesvědčivě, že zkoušející věřili, že tomu věříte.)

Na dotazy to nevrací odpověď, která je "správná", ale takovou, jakou "chcete dostat" - nebo, řekněme, "obvyklou odpověď".

V podstatě jako neschopný podřízený, snažící se udržet si místo tím, že šéfovi předkládá takové výsledky, jaké chce zrovna slyšet - i kdyby se od pravdy trochu odchylovaly.

2 0
možnosti

R84o84m54a83n 78O12l18á53c43h

18. 3. 2023 14:30

Tak určitě. Ale zároveň si jde docela dobře představit někoho, kdo bude takový mistr předstírání, až s tím doputuje na pozici generálního tajemníka ÚV KS-libovolné komančské země :-)

2 0
možnosti

Já mám jeden zaručený způsob jak zjistit že si chatuji s AI robotem. Bohužel nejde tento způsob použít vždy. Zda se totiž, že zatím se AI v chatu chová tak, že si nestojí za tím co vám tvrdí. I když vám pošle pravdivou informaci, stačí mu napsat, že jeho předchozí odpověď je špatná, a že to není pravda. V ten moment se vám do jeho další odpovědi dostane vždy stejně se opakující sada omluv a vysvětlování že je model, že je možné že udělal chybu, že není neomylný a že se teprve učí... A když s ním takto nesouhlasíte na cokoliv co vám odpoví třeba 5x po sobě, pokaždé dostanete v podstatě stejnou (nebo až proklatě podobnou) sadu omluv s vysvětlením ve kterém se proflakne že je jen si model který se učí. Živý člověk by se vám nikdy nedokázal za svou chybu tak vehementně omlouvat. Chat AI navic je schopen ještě po každé domluvě za svou předchozí odpověď (která ale ve skutečnosti byla správná), dát pokaždé jinou variantu diametrálně odlišné odpovědi která je až tak moc špatná, že hraničí s totálním blabolem...

2 1
možnosti

M16i55l97a36n 35R12h83e28i24n

19. 3. 2023 18:53

Takze vy potrebujete, aby vam AI bot aspon petkrat rekl, ze je model, co se teprve uci, abyste poznal, ze je AI bot? No panejo.

1 0
možnosti

[>-]R^ Mám taký blbý pocit, že toto dobre neskončí. Až si AI uvedomí, že ľudí je na planéte príliš veľa a že nám hrozí ekologická a sociálna katastrofa - tak AI urobí nutné riešenie vo forme zmenšenia ľudskej populácie a znemožní nám vykonávať činnosti, ktoré nejako škodia planéte. Pretože aj AI bude brať planétu Zem ako svoj domov! Bude to taký SKYNET - Light verzia Rv

3 6
možnosti

R59o10m45a18n 59O19l31á87c78h

17. 3. 2023 23:42

Největší sranda je, že AI může lidstvo zničit, a zároveň si být vědoma kulovýho ;-D

5 0
možnosti

Vzhledem ke výkonu GPT4 si myslím, že člověka od robota dnes odliší už jen to, že člověk udělá v captcha chybu.

6 0
možnosti

Překvapuje mne, že umělá inteligence není v řešení captcha lepší než lidé.

0 0
možnosti

Pokud umělá inteligence neusiluje o zničení lidstva, tak to JEŠTĚ není inteligence.

18 1
možnosti

T83o16m64á15š 75K50o20t

17. 3. 2023 17:25

A inteligentní lidé usilují o zničení lidstva? Nebo o zničení umělých inteligencí (aby to bylo vzájemné)?

2 0
možnosti