Současný technologický svět se točí kolem umělé inteligence a potřeba vyvíjet AI modely, AI agenty, trénovat nástroje strojovým učením a podobné procesy se postupně stávají pracovní náplní více a více lidí. Stejně tak jsou stále častěji AI systémy využívány při výzkumu, vývoji, simulacích, testování a dalších úlohách.
Použít k tomu lze různý hardware, od výkonných grafických karet v PC přes vývojové kity jako je Nvida Jetson, ale zejména u větších projektů k tomu zpravidla využívají prostředky v datových centrech prostřednictvích cloudových systémů. Což zpravidla stojí peníze, čas, je třeba rychlá konektivita a data se svěřují jiné organizaci.
Na veletrhu CES 2025 společnost Nvidia překvapila miniaturním superpočítačem Nvidia Digits. Vejde se na dlaň a z hlediska výkonu dramaticky překonává vše, na čem se v podmínkách domácní pracovny nebo kanceláře běžně pracuje. Má totiž výkon 1 PetaFLOPS.
Pro představu, první superpočítač s výkonem 1 PFLOPS v Evropě byl spuštěn v roce 2010, zabíral sál datového centra a obsahoval 17 480 procesorů Intel Xeon, vyžadoval odvod chlazení na střechu budovy a spotřeboval obrovské množství energie.
Floating point precisionSnahu o přiblížení pro laika těžko představitelné jednotky výkonu jsme tentokrát přehnali. Oba počítače - jak superpočítač Terra 100, tak Project Digits - mají sice udávaný výkon 1PFLOPS, ale zatímco sálový superpočítač pracuje s half precision (FP16), single precision (FP32) a double precision (FP64) čísly, Nvidia udává u Project Digits výkon pro práci s quarter precision (FP4) čísly. Výkon Project Digits je v rámci domácích a kancelářských podmínek bezprecedentní, nicméně jeden bilion operací za sekundu zvládne s mnohem menšími čísly, než zmíněný superpočítač a proto je srovnatelný jen při některých použitích. S FP4 lze pracovat například u modelů umělé inteligence, ale například u věděckých výpočtů jsou možnosti jeho užití značně omezené. |
Srdcem Project Digits je superčip GB10 Grace Blackwell obsahující grafická jádra Blackwell a 20 výpočetních Armových jader Grace – grafická a výpočetní sekce spolu komunikují pomocí superrychlé NVLink-C2C sběrnice. Využívá 128 GB LPDDR5X unifikované paměti a 4 TB SSD úložiště.
Pomocí speciálních konektorů s rozhraním ConnectX lze propojit dva superpočítače Project Digits a nechat je společně pracovat na jedné úloze. Jestliže jeden zvládne pracovat s modelem o velikosti 200 miliard parametrů, dva si mají poradit s modelem s až 405 miliardami parametrů.
Zařízení bude v prodeji za 3 000 dolarů, což je zhruba 88 000 Kč včetně DPH.
Aktualizace – 19.1., 8:45: Na pravou míru jsme uvedli srovnání se sálovým superpočítačem.