Premium

Mimořádně jen 19 Kč/měsíc
na prvních 5 měsíců

AI zlobí. Chybí jí hodnoty lidí, nestačí jí jen lépe hlídat, varují experti

ilustrační snímek Premium

ilustrační snímek | foto: Midjourney

Je to už důvod k vážnému znepokojení. Objevují se nové zásadní informace o letním hackerském útoku umělé inteligence a o tom, co tomu předcházelo. Jak si více než tisícovka AI agentů vytvořila hierarchicky uspořádanou společnost s vlastními zákony i sebevražednými misemi. Mluví se o potřebě zatáhnout ve vývoji AI za brzdu, jenže technologické firmy se místo toho předhánějí v tom, kdo do světa vypustí výkonnější model. A odborníci bijí na poplach.

„Dnešní umělá inteligence je ta nejhloupější, kterou kdy budeme mít. Vývoj jde dopředu a s tím i sofistikovanost potenciálních útoků. Cíl by měl být zajistit, že AI nebude chtít útočit, protože odteď už rozhodně nemůžeme spoléhat na to, že to nedokáže,“ komentuje poslední dění Ondřej Bajgar, který se věnuje výzkumu bezpečnosti umělé inteligence v Centru umělé inteligence na Českém vysokém učení technickém v Praze.

Agenti se sice dorozumívali ve zkratkách, na druhou stranu byla jejich komunikace v určitých ohledech až děsivě lidská.

Tento článek dočtete s iDNES Premium

Čtěte bez rušivých reklam

    Celý iDNES.cz na mobilu
    bez překrývání obsahu
19 Kč za měsíc po dobu 5 měsíců
Vyzkoušet
Už máte předplatné? Přihlaste se
Vstoupit do diskuse (19 příspěvků)

Nejčtenější

KVÍZ: Miliardy i bizarnosti. Jak znáte nejbohatší Čechy?

Miliardář Karel Janeček se při zahájení své prezidentské kampaně zjevil před...

Jak dobře se vyznáte ve světě českého velkého byznysu? Otestujte své znalosti o nejbohatších Češích, jejich firmách, podnikatelských začátcích i zajímavostech z jejich života.

Kyberútok na Rohlík. Hackeři odcizili osobní údaje zákazníků i jejich komunikaci

Internetový supermarket Rohlik.cz (ilustrační snímek)

Část údajů uživatelů internetového supermarketu Rohlík byla odcizena, sdělil v neděli zástupce společnosti. Kyberútočníci napadli nástroj zákaznické podpory Rohlíku, odcizili tak jména, e-mailové...

Sucho může stát Česko až 50 miliard. Podívejte se, jak změnilo krajinu

Nízká hladina vody ve Slapské přehradě u Županovic odhalila škeble na břehu...

Širší ekonomické dopady letošního extrémního sucha mohou v ČR dosáhnout podle odhadů až 50 miliard korun. Tento účet zahrnuje nejen nedostatek vody a přímé škody v zemědělství a lesnictví, ale...

Všechno je drahé, naříkají Američané. Pro některé je luxus i mleté maso

Zákaznice v prodejně Whole Foods Market v New Yorku 5. října 2026

Američané stále hůře zvládají rostoucí životní náklady. Inflace v září překonala očekávání ekonomů a zrychlila na 3,7 procenta. Drahé pohonné hmoty, potraviny i další výdaje nutí domácnosti omezovat...

Na jihu Prahy vznikne obří projekt nájemního bydlení. Pojme až 16 tisíc lidí

V jihoměstské lokalitě Na Jelenách vznikne obří projekt nájemního bydlení

Mezi Chodovem, Opatovem vznikne v lokalitě Na Jelenách celkem pět a půl tisíce nájemních bytů. V současnosti se povoluje první a druhá etapa. První etapu by chtěl investor, společnosti RSJ a Na...

Kola Superior si našla zákazníky ve více než 30 zemích. Kde je kupují nejvíc?

Ve spolupráci
Za českou značkou jízdních kol Superior stojí firma Bike Fun International. V...

Česká značka kol Superior už se dávno neprodává jen na českém trhu. Své zákazníky si kola z Kopřivnice, kde se vyrábějí v mateřské firmě BIKE FUN International, našla ve více než 30 zemích. V tomto...

17. října 2026

Řecko zavírá školy na malých ostrovech. Mladí odcházejí za lepší budoucností jinam

Mateřská škola na Kalamasu byla uzavřena před třemi lety. Doteď je ale plná...

Chryssa Ntalaková je poslední učitelkou základní školy na řeckém ostrově Kalamos. Každý rok jí ve škole ubývá žáků, letos už zbyli pouze dva. Situace odráží problém, se kterým se potýká většina jižní...

17. října 2026

Čína zaplavuje svět levným masem. Kuřata poráží rychleji, konkurence se bojí

Premium
Zaměstnanci společnosit Wintop Food zpracovávají kuřecí maso v továrně v...

Čínští producenti masa a mléčných výrobků hledají odbyt v zahraničí. Díky státním dotacím, moderním technologiím a nízkým cenám získávají podíl na světových trzích, zatímco doma slábne poptávka....

17. října 2026

ČEZ podal žaloby kvůli blokaci firem v Lucembursku, stojí za ní Diag Human

Pražské sídlo ČEZu

Polostátní energetická firma ČEZ podala u příslušných lucemburských soudů žaloby proti blokaci tamních firem, přes které společnost vlastní majoritní podíl v distribuční plynárenské firmě GasNet....

16. října 2026  19:32

Luxusní značky už nesmí ničit neprodané oblečení. Zákaz EU má ale řadu výjimek

Kolekce Chanel PAP na Paris Fashion Week 5. října 2026

Evropská unie od 19. července 2026 zakázala velkým podnikům ničit neprodané či vrácené oblečení a obuv. Některé luxusní značky přitom v minulosti raději likvidovaly neprodané výrobky, než aby je...

16. října 2026

Vietnamská polévka předčila slepičí vývary. Na podzim rostly objednávky čaje i léků

ilustrační snímek

Zákazníci v Česku si v září přes rozvážkovou službu Foodora objednávali více polévek, čaje i přípravků na nachlazení. Největší nárůst mezi polévkami zaznamenalo vietnamské pho, které předběhlo...

16. října 2026  15:23

KFC v USA mění dodavatele nápojů. Po letech přechází od Pepsi ke Coca-Cole

ilustrační snímek

Americké restaurace KFC začnou od příštího roku přecházet na nápoje od Coca-Coly. Řetězec tak po téměř čtyřech desetiletích ukončí spolupráci s PepsiCo. V Česku se provozovatel restaurací AmRest k...

16. října 2026  14:14

Přeprava ropy zdražuje. Rejdaři rekordně vydělávají, zaplatí to ale zákazníci

ilustrační snímek

Majitelé ropných tankerů zažívají mimořádně výdělečné období. Za pronájem jediné lodě mohou na některých trasách inkasovat až 1,3 milionu dolarů (27,3 milionu korun) denně. Ještě loni přitom průměrné...

16. října 2026  13:11

Technické problémy omezily letecký provoz v Itálii na polovinu

Terminál 3 římského letiště Fiumicino na snímku z 10. března 2026

Letecký provoz v Itálii narušily technické problémy v síti pro přenos dat, která zajišťuje služby řízení letového provozu. Společnost ENAV, která v zemi zajišťuje navigační služby, proto snížila na...

16. října 2026  12:31

Inflace v EU v září zrychlila na 3,8 procenta, v Česku byla čtvrtá nejnižší

ilustrační snímek

Meziroční růst spotřebitelských cen v Evropské unii v září zrychlil na 3,8 procenta ze srpnového tempa 3,2 procenta, uvedl Eurostat. V České republice míra inflace vzrostla na 2,2 procenta ze...

16. října 2026  11:31

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!

Největší zakázka na vlakovou dopravu. Středočeský kraj a Praha mají smlouvu s ČD

ilustrační snímek

Středočeský kraj a Praha dnes podepsaly s Českými drahami (ČD) třicetiletou smlouvu na provoz příměstských vlaků za 165 miliard korun. Jde o dosud největší zakázku na železničního dopravce v Česku.

16. října 2026  11:17

Italská UniCredit získala souhlas ECB k ovládnutí Commerzbank

UniCredit Bank (ilustrační snímek)

Italská bankovní skupina UniCredit získala od Evropské centrální banky povolení k převzetí kontroly nad německou Commerzbank. UniCredit v červenci dokončila nepřátelskou nabídku na odkup akcií, s...

16. října 2026  10:35
Nastavte si velikost písma, podle vašich preferencí.
×