InvestAI, tovarne in gigatovarne umetne inteligence: evropska gradnja računske moči

Največja posamezna stava sedanje evropske tehnološke politike ni predpis. Je poskus zgraditi v Evropi dovolj računske moči za umetno inteligenco, da je evropskim podjetjem ne bo treba vse najemati drugje.

InvestAI cilja na mobilizacijo 200 milijard evrov za naložbe v umetno inteligenco v EU, vključno z evropskim skladom 20 milijard evrov za gigatovarne umetne inteligence. Ali se bo ta naslovna številka uresničila, je pošteno vprašanje. Kar se že dogaja na terenu, je bolj konkretno in tudi bolj neposredno uporabno.

Tri ravni

Zmede to, da obstaja več stvari s podobnimi imeni, ki opravljajo različno delo. Tvorijo grobo hierarhijo.

Superračunalniki EuroHPC

Obstoječa osnovna plast. Evropski superračunalniki, nabavljeni in upravljani prek Skupnega podjetja EuroHPC, nekateri med najhitrejšimi na svetu. Zgrajeni so bili za znanstveno računanje, vse pogosteje pa se uporabljajo za umetno inteligenco. Pokriva jih naš vodnik po EuroHPC.

Tovarne umetne inteligence

Za umetno inteligenco optimizirana računska moč, priključena na superračunalniške lokacije EuroHPC, skupaj s storitvami okoli nje: ravnanjem s podatki, podporo pri učenju modelov, strokovnim znanjem in dostopom za zagonska ter mala in srednja podjetja.

Pomembna je druga polovica te opredelitve. Tovarna umetne inteligence ni le kup grafičnih procesorjev. Je obrat z nalogo, da to računsko moč naredi uporabno za podjetja, ki je sama nikoli ne bi mogla upravljati, s podpornim osebjem, ki vam pomaga učno opravilo dejansko zagnati.

Po vsej Evropi je načrtovanih vsaj 19 tovarn umetne inteligence, s ciljem 13 delujočih.

Gigatovarne umetne inteligence

Nova in precej večja raven. Obrati v obsegu, namenjenem učenju mejnih modelov, z računsko močjo približno za red velikosti nad tovarnami.

Predvidenih je do pet. Javna zaveza obsega okoli 10 milijard evrov, namenjenih privabljanju vsaj 20 milijard evrov zasebnih naložb, poročanje v začetku leta 2026 pa je govorilo o okoli 37 milijardah evrov za deset kandidatnih obratov v sedmih državah.

Številke se premikajo, ker združujejo zavezan javni denar, pričakovano zasebno sovlaganje in nacionalne prispevke, različne objave pa štejejo različne stvari. Naslovne vsote jemljite le kot smer.

Zakaj to obstaja

Trije razlogi, in o njih velja govoriti jasno, ker pojasnjujejo, čemu bodo obrati zares dali prednost.

Zmogljivost. Učenje in strežba velikih modelov zahtevata računsko moč v obsegu, ki v Evropi ni obstajal. Podjetja, ki so hotela v Evropi naučiti resen model, so imela omejene možnosti.

Odvisnost. Strateški argument. Računska moč je infrastruktura, infrastruktura ustvarja vzvod, Evropa pa ima zelo malo pomembnega vzvoda. To je isto razmišljanje, ki stoji za aktom o razvoju oblaka in umetne inteligence.

Asimetrija dostopa. Tudi tam, kjer računska moč obstaja, je dostop koncentriran. Evropsko zagonsko podjetje se za zmogljivost poteguje s kupci z daleč večjo kupno močjo. Tovarne umetne inteligence so izrecno zasnovane tako, da zmogljivost rezervirajo za manjše igralce.

Kaj to pomeni, če ne gradite podatkovnega središča

Večina podjetij, ki to bere, se ne bo nikoli potegovala za upravljanje gigatovarne. Uporabno vprašanje je, kako uporabiti tisto, kar se gradi.

Dostop do računske moči tovarn umetne inteligence

To je praktična priložnost in je premalo izkoriščena. Tovarne umetne inteligence delno obstajajo prav zato, da zagonskim, malim in srednjim podjetjem ter raziskovalcem dajo dostop do resne računske moči. Dostop poteka običajno prek razpisov in prijavnih postopkov in ne prek kreditne kartice, cene za upravičene uporabnike pa so dramatično pod komercialnimi.

Če imate obremenitev, ki je zares omejena z računsko močjo, torej učenje ali fino uglaševanje modelov v obsegu, kjer stroški grafičnih procesorjev v oblaku bolijo, to velja preučiti, preden predpostavite, da je hiperskaler edina možnost.

Kompromisi so resnični. Dostop ni takojšen, okolja so okolja HPC in ne upravljan oblak, in če vaša obremenitev potrebuje prožno zmogljivost na zahtevo, to ni prava izbira. Za načrtovane velike učne teke je lahko precej ceneje.

Programski sloj je mesto, kjer je vrzel

Tu je opažanje, ki ga velja povedati. Gradnja strojne opreme je kapitalski problem in Evropa zdaj za to troši. Narediti jo uporabno je programski problem in je precej slabše financiran.

Okolja HPC niso prijazna ekipam, katerih izkušnje so v upravljanih oblačnih storitvah. Razporejevalniki opravil, sistemi modulov, deljeni datotečni sistemi, MPI in politike vrst so drug svet od gruče Kubernetes in objektne shrambe. Razdalja med delujočo učno skripto na oblačnem grafičnem procesorju in istim opravilom, ki učinkovito teče na dodelitvi HPC, je resnično inženirsko delo.

Ta vrzel je priložnost za vsakogar, ki jo zna premostiti, in resničen strošek za vsakogar, ki namerava te obrate uporabljati, ne da bi z njo računal.

Lokalnost podatkov spremeni, kaj je mogoče

Podjetjem s podatki, ki EU ne morejo zlahka zapustiti, bodisi zaradi GDPR, sektorskih pravil ali pogodbenih zavez, evropska računska moč spremeni, kaj je arhitekturno mogoče. Učiti model na občutljivih podatkih v obratu znotraj EU in pod jurisdikcijo EU je nekaj drugega kot pošiljati jih drugam.

Očitni primeri so zdravstvo, javni sektor in finančne storitve, in prav v teh sektorjih imajo tovarne umetne inteligence določene poudarke.

Kako zares priti do dostopa

Poiščite tovarno umetne inteligence, ki je najbližja vašemu področju, ne vaši geografiji. Imajo specializirane poudarke. Nekatere so usmerjene v zdravstvo, nekatere v industrijo, nekatere v jezik in večjezično umetno inteligenco. Prava za vas morda ni v vaši državi.

Poglejte razpise za dostop EuroHPC. Imajo več tirov, tudi posebne za mala in srednja ter zagonska podjetja, z različnimi velikostmi dodelitve in različnimi postopki ocenjevanja. Nekateri so lahki.

Preverite, ali lahko to posreduje vozlišče za digitalne inovacije. EDIH, ki jih opisuje naš vodnik po programu Digitalna Evropa, imajo pogosto razmerja s ponudniki računske moči in lahko malim in srednjim podjetjem pomagajo do dostopa.

Delo prenosa vključite v proračun. Če vaša ekipa nikoli ni delala na HPC, računajte na resničen inženirski napor, da bo obremenitev tekla učinkovito. Računska moč je lahko poceni. Priti do točke, kjer jo uporabljate, ni zastonj.

Poštena ocena

Nekaj dvoma je upravičenega in bolje ga je imeti izrecno.

Naslovne številke vsebujejo veliko upanega zasebnega denarja. 200 milijard evrov mobiliziranih ni 200 milijard evrov zavezanih. Javni del je resničen in precej manjši.

Gradnja računske moči ne ustvari zmožnosti modelov. Evropska vrzel pri mejni umetni inteligenci ni le vrzel v računski moči. So tudi koncentracija talentov, kapitalski trgi in dejstvo, da so vodilni laboratoriji drugje. Računska moč je nujna in ne zadostna.

Roki za velike obrate so dolgi. Podatkovna središča tega obsega nastajajo leta, razpoložljivost električne energije pa je na več kandidatnih lokacijah resnična omejitev. Objavljena zmogljivost in razpoložljiva zmogljivost sta različni stvari.

Čipi so odvisnost. Pospeševalniki v teh obratih se večinoma ne izdelujejo v Evropi, kar poskuša na precej daljši rok nasloviti akt o čipih.

Nič od tega programa ne dela nesmiselnega. Dela ga dolgoročno infrastrukturno potezo, katere glavna kratkoročna korist za običajna podjetja je dostop do računske moči po dobrih cenah, in ne pojav evropskega mejnega laboratorija.

Kaj s tem storiti

Če učite ali fino uglašujete modele v katerem koli obsegu, si vzemite popoldne in preučite dostop do tovarn umetne inteligence. Ekonomika je lahko zelo ugodna, večina podjetij pa ni niti pogledala.

Če zdaj zasnujete izdelek z umetno inteligenco, postavite abstrakcijo nad ponudnikom modela. Stane skoraj nič in ohranja možnost, da pozneje preidete na evropsko infrastrukturo. Isto priporočilo iz političnih razlogov zagovarja akt o razvoju oblaka in umetne inteligence, poslovna pamet pa tako ali tako.

Če imate raziskave, omejene z računsko močjo, poglejte poti dostopa EuroHPC, preden predpostavite, da je odgovor oblak.

Kam se to umešča

Celotna pokrajina financiranja je v našem vodniku po financiranju tehnologije v EU. Računsko infrastrukturo pod tem pokriva naš vodnik po EuroHPC, čipe pod njo naš vodnik po aktu o čipih, urejanje tistega, kar gradite na vrhu, pa naš vodnik po preglednosti po aktu o umetni inteligenci.

Kako do pomoči

Gradimo funkcije umetne inteligence in podatkovne platforme za podjetja, ki poslujejo v Evropi, tudi tiste nehvaležne dele: spraviti učne obremenitve v učinkovito delovanje, abstrahirati ponudnike modelov, da je prehod mogoč, in graditi podatkovne cevovode, po zaslugi katerih je dostop do računske moči uporaben in ne teoretičen.

Če razmišljate o evropski računski moči za neko obremenitev in želite realen pogled na napor prenosa, pišite na office@c9group.dev. Več o našem delu je na strani o optimizaciji stroškov AWS in na strani o vstopu na trg EU.