Dirbtinio intelekto bumas per kelerius metus iš esmės pakeitė pasaulinę lustų rinką. Iš grafikos procesorių gamintojo išaugusi „Nvidia“ tapo brangiausia pasaulio bendrove, o jos GPU šiandien yra beveik kiekvieno didelio DI projekto širdis.
Tačiau tuo pat metu įsibėgėja kita tendencija – didieji debesų paslaugų tiekėjai patys kuria specializuotus DI lustus, siekdami sutaupyti, sumažinti energijos sąnaudas ir sumažinti priklausomybę nuo „Nvidia“.
GPU iškilimas ir konkurencija
GPU tapo DI standartu todėl, kad jie sukurti lygiagrečiam skaičiavimui. Tūkstančiai mažų branduolių ypač tinka matricų daugybai ir tensorių apdorojimui, kuris būtinas dideliems neuroniniams tinklams.
„Nvidia“ Blackwell kartos GPU junginiai serverių lentynose gali veikti kaip viena milžiniška logiška sistema, aptarnaujanti sudėtingiausias DI užduotis. Tokios 72 GPU sistemos kaina siekia apie 2,8 mln. eurų, o paklausa tokia didelė, kad jos iškeliauja po maždaug 1 000 vienetų per savaitę.
Pagrindinė „Nvidia“ konkurentė yra „AMD“, siūlanti „Instinct“ GPU su atviresne programine ekosistema. Tuo metu „Nvidia“ remiasi nuosava CUDA platforma, kuri jai suteikė didžiulį kūrėjų bendruomenės pranašumą.
Specializuoti ASIC ir TPU
Augant DI modeliams, vis daugiau skaičiavimų tenka inferencijai – galutiniam sprendimų skaičiavimui, o ne vien treniravimui. Čia į sceną žengia specializuoti ASIC, arba taikymui skirti integriniai grandynai.
Skirtingai nuo universalaus GPU, ASIC yra tarsi vienos paskirties įrankis: jis labai efektyviai atlieka konkrečią matematiką, tačiau jo funkcijos beveik nekeičiamos. „Google“ dar 2015 metais pristatė savo TPU – tensorių procesorių – ir ši linija jau pasiekė septintąją Ironwood kartą.
„Amazon Web Services“ siūlo Trainium ir Inferentia lustus, kuriuos naudoja tokios bendrovės kaip „Anthropic“. Vidutiniškai Trainium, pasak AWS, leidžia pasiekti 30–40 proc. geresnį kainos ir našumo santykį, palyginti su universalais GPU jų debesyje.
Į ASIC lenktynes įsitraukė ir „Microsoft“ su Maia, „Intel“ su Gaudi, „Tesla“, „Qualcomm“, taip pat dešimtys startuolių. Dalis didžiųjų projektų kuriami kartu su „Broadcom“ ar „Marvell“, kurios suteikia projektavimo patirtį ir tinklų techniką.
NPU ir DI krašte
Greta duomenų centrų sparčiai auga vadinamojo kraštinio DI poreikis. Tam kuriami NPU – neuronų procesoriai, integruojami į sisteminius lustus telefonuose, planšetėse ir kompiuteriuose.
Kiekvienas šiuolaikinis „Apple“ M serijos lustas turi neuroninį variklį, „Qualcomm“ Snapdragon ir „Samsung“ Exynos taip pat turi NPU modulius. Jie leidžia dalį DI funkcijų vykdyti įrenginyje, be nuolatinės jungties su debesų serveriais.
Tokie sprendimai svarbūs ne tik spartai ir mažesnei delsa, bet ir privatumui, nes jautrūs duomenys – balsas, vaizdas ar vieta – gali būti apdorojami paliekant juos telefone ar kompiuteryje.
Gamyklose – TSMC ir geopolitika
Dauguma pažangiausių DI lustų gaminami „TSMC“ gamyklose Taivane. Ši koncentracija tapo geopolitine rizika, todėl JAV skatina gamybos perkėlimą į šalies teritoriją.
„TSMC“ stato fabrikus Arizonoje, kuriuose bus gaminami ir naujausių „Nvidia“ kartų GPU. Tuo pat metu „Intel“ atgaivino savo užsakomosios gamybos verslą ir kuria pažangius lustus JAV bei Europoje.
Ateityje DI plėtra priklausys ne tik nuo architektūrinių sprendimų, bet ir nuo to, kas užsitikrins pakankamą gamybos pajėgumą bei elektros energijos tiekimą. Kol kas „Nvidia“ ekosistema išlieka dominuojanti, tačiau rinka didėja taip sparčiai, kad vietos atsiras ir naujiems žaidėjams – nuo „Google“ ir „Amazon“ iki mažesnių, bet labai specializuotų kūrėjų.
