InvestAI, fabrike i gigafabrike veštačke inteligencije: evropska izgradnja računarske snage

Najveća pojedinačna opklada sadašnje evropske tehnološke politike nije propis. To je pokušaj da se u Evropi izgradi dovoljno računarske snage za veštačku inteligenciju kako evropske kompanije ne bi morale sve da iznajmljuju drugde.

InvestAI ima za cilj da mobiliše 200 milijardi evra za ulaganja u veštačku inteligenciju u EU, uključujući evropski fond od 20 milijardi evra za gigafabrike veštačke inteligencije. Da li će se ta naslovna brojka ostvariti, pošteno je pitanje. Ono što se već dešava na terenu konkretnije je i neposredno korisnije.

Tri nivoa

Zbunjuje to što postoji nekoliko stvari sa sličnim imenima, a rade različit posao. One čine grubu hijerarhiju.

EuroHPC superračunari

Postojeći osnovni sloj. Evropski superračunari nabavljeni i vođeni preko Zajedničkog preduzeća EuroHPC, neki i među najbržima na svetu. Građeni su za naučno računarstvo, a sve više se koriste za veštačku inteligenciju. Pokrivamo ih u vodiču za EuroHPC.

Fabrike veštačke inteligencije

Računarska snaga optimizovana za veštačku inteligenciju, prikačena na EuroHPC superračunarske lokacije, zajedno sa uslugama oko nje: rukovanjem podacima, podrškom pri treniranju modela, stručnošću i pristupom za startapove i mala i srednja preduzeća.

Važan je taj drugi deo. Fabrika veštačke inteligencije nije samo GPU. To je objekat sa zadatkom da tu računarsku snagu učini upotrebljivom za kompanije koje same nikada ne bi mogle da je vode, sa osobljem podrške koje vam pomaže da zaista pokrenete posao treniranja.

Širom Evrope planirano je najmanje 19 fabrika veštačke inteligencije, sa ciljem od 13 u radu.

Gigafabrike veštačke inteligencije

Nov i mnogo veći nivo. Objekti dovoljno veliki da se na njima treniraju granični modeli, sa računarskom snagom otprilike za red veličine iznad fabrika.

Predviđeno ih je do pet. Javna obaveza obuhvata oko 10 milijardi evra usmerenih na privlačenje najmanje 20 milijardi evra privatnih ulaganja, a početkom 2026. objavljeno je da je reč o oko 37 milijardi evra kroz deset objekata kandidata u sedam zemalja.

Brojke se pomeraju zato što u sebi mešaju opredeljen javni novac, očekivano privatno suulaganje i nacionalne doprinose, a različite objave broje različite stvari. Tretirajte naslovne zbirove kao smer, ne kao iznos.

Zašto ovo postoji

Tri su razloga i vredi ih izgovoriti jasno, zato što objašnjavaju čemu će objekti zaista dati prednost.

Kapacitet. Treniranje i opsluživanje velikih modela traži računarsku snagu u razmeri koja u Evropi nije postojala. Kompanije koje su htele da treniraju ozbiljan model u Evropi imale su malo mogućnosti.

Zavisnost. Strateški argument. Računarska snaga je infrastruktura, infrastruktura stvara polugu, a Evropa drži vrlo malo relevantne poluge. Isto rezonovanje stoji i iza akta o razvoju oblaka i veštačke inteligencije.

Asimetrija pristupa. Čak i tamo gde računarska snaga postoji, pristup je koncentrisan. Evropski startap takmiči se za kapacitet sa kupcima daleko veće kupovne moći. Fabrike veštačke inteligencije izričito su osmišljene tako da kapacitet rezervišu za manje igrače.

Šta ovo znači ako ne gradite centar podataka

Većina kompanija koje ovo čitaju nikada neće konkurisati za vođenje gigafabrike. Korisno pitanje jeste kako iskoristiti ono što se gradi.

Pristup računarskoj snazi fabrika veštačke inteligencije

To je praktična prilika i nedovoljno se koristi. Fabrike veštačke inteligencije delom i postoje da bi startapovima, malim i srednjim preduzećima i istraživačima dale pristup ozbiljnoj računarskoj snazi. Pristup obično ide kroz pozive i postupke prijave, a ne preko kreditne kartice, a cene za podobne korisnike dramatično su ispod komercijalnih.

Ako imate opterećenje koje je zaista ograničeno računarskom snagom, treniranje ili fino podešavanje modela u razmeri u kojoj troškovi GPU u oblaku bole, ovo vredi ispitati pre nego što zaključite da je hiperskaler jedina opcija.

Kompromisi su stvarni. Pristup nije trenutan, okruženja su HPC okruženja, a ne upravljan oblak, i ako vašem opterećenju treba elastičan kapacitet na zahtev, ovo vam ne odgovara. Za unapred zakazane velike treninge može da bude znatno jeftinije.

Rupa je u softverskom sloju

Evo zapažanja koje vredi izneti. Izgradnja hardvera je kapitalni problem i Evropa sada na to troši. Učiniti ga upotrebljivim jeste softverski problem i mnogo je slabije finansiran.

HPC okruženja nisu prijateljska timovima koji su iskustvo stekli na upravljanim uslugama oblaka. Raspoređivači poslova, sistemi modula, deljeni sistemi datoteka, MPI i politike redova drugi su svet od Kubernetes klastera i objektnog skladišta. Razdaljina između radne skripte za treniranje na GPU u oblaku i istog posla koji efikasno radi na HPC dodeli stvaran je inženjerski posao.

Ta rupa je prilika za svakoga ko ume da je premosti i stvaran trošak za svakoga ko planira da koristi ove objekte, a nije je uračunao.

Lokalnost podataka menja šta je moguće

Za kompanije sa podacima koji ne mogu lako da napuste EU, bilo zbog GDPR, sektorskih pravila ili ugovornih obaveza, evropska računarska snaga menja šta je arhitektonski moguće. Treniranje na osetljivim podacima u objektu unutar EU i pod jurisdikcijom EU sasvim je drugačije od slanja podataka negde drugde.

Zdravstvo, javni sektor i finansijske usluge očigledni su slučajevi i to su ujedno sektori na kojima fabrike veštačke inteligencije imaju posebne sektorske fokuse.

Kako zaista doći do pristupa

Nađite fabriku veštačke inteligencije najbližu vašoj oblasti, a ne vašoj geografiji. Imaju specijalizovane fokuse. Neke su usmerene na zdravstvo, neke na industriju, neke na jezik i višejezičnu veštačku inteligenciju. Prava za vas možda nije u vašoj zemlji.

Pogledajte EuroHPC pozive za pristup. Imaju više koloseka, uključujući i posebne za mala i srednja preduzeća i startapove, sa različitim veličinama dodele i različitim postupcima ocene. Neki su sasvim lagani.

Proverite može li centar za digitalne inovacije da posreduje. EDIH opisani u našem vodiču za program Digitalna Evropa često imaju odnose sa pružaocima računarske snage i mogu da pomognu malim i srednjim preduzećima da se snađu.

Uvrstite posao prenošenja u budžet. Ako vaš tim nikada nije radio na HPC, računajte na stvaran inženjerski napor da opterećenje počne efikasno da radi. Računarska snaga može da bude jeftina. Doći do tačke u kojoj je koristite nije besplatno.

Poštena ocena

Malo skepse je opravdano i bolje je izreći je nego prećutati.

Naslovne brojke sadrže mnogo priželjkivanog privatnog novca. 200 milijardi evra mobilisano nije 200 milijardi evra opredeljeno. Javni deo je stvaran i mnogo je manji.

Izgradnja računarske snage ne stvara sposobnost modela. Evropsko zaostajanje u graničnoj veštačkoj inteligenciji nije samo zaostajanje u računarskoj snazi. Tu su i koncentracija talenata, tržišta kapitala i činjenica da su vodeće laboratorije drugde. Računarska snaga je neophodna, ali nije dovoljna.

Rokovi za velike objekte su dugi. Centri podataka ove razmere grade se godinama, a dostupnost električne energije stvarno je ograničenje na više lokacija koje su u igri. Objavljen kapacitet i dostupan kapacitet nisu ista stvar.

Čipovi su zavisnost. Akceleratori u ovim objektima uglavnom se ne prave u Evropi, a upravo to akt o čipovima pokušava da reši, samo na mnogo dužem roku.

Ništa od toga ne čini program besmislenim. Čini ga dugoročnim infrastrukturnim potezom čija je glavna kratkoročna korist za obične kompanije pristup računarskoj snazi po dobrim cenama, a ne pojava evropske granične laboratorije.

Šta uraditi povodom toga

Ako trenirate ili fino podešavate modele u bilo kojoj razmeri, odvojite jedno popodne i ispitajte pristup fabrikama veštačke inteligencije. Račun može da ispadne vrlo povoljan, a većina kompanija nije ni pogledala.

Ako sada projektujete proizvod sa veštačkom inteligencijom, postavite apstrakciju nad pružaocem modela. Košta gotovo ništa, a čuva vam mogućnost da kasnije pređete na evropsku infrastrukturu. To je ista preporuka koju akt o razvoju oblaka i veštačke inteligencije zagovara iz razloga politike, a komercijalna logika je nalaže i bez toga.

Ako imate istraživanje ograničeno računarskom snagom, pogledajte EuroHPC puteve pristupa pre nego što zaključite da je odgovor oblak.

Gde se ovo uklapa

Ceo teren finansiranja je u našem vodiču za finansiranje tehnologije u EU. Računarska infrastruktura ispod ovoga pokrivena je u našem vodiču za EuroHPC, čipovi ispod nje u našem vodiču za akt o čipovima, a regulisanje onoga što gradite povrh svega toga u našem vodiču za transparentnost po aktu o veštačkoj inteligenciji.

Kako do pomoći

Gradimo funkcije veštačke inteligencije i platforme podataka za kompanije koje posluju u Evropi, uključujući i one dosadne delove: da opterećenja za treniranje počnu efikasno da rade, da se pružaoci modela apstrahuju tako da je prelazak moguć i da se izgrade tokovi podataka zbog kojih pristup računarskoj snazi postaje koristan, a ne teorijski.

Ako razmatrate evropsku računarsku snagu za neko opterećenje i želite realnu procenu koliko prenošenje košta, pišite na office@c9group.dev. Više o našem radu na stranici o optimizaciji troškova AWS i stranici o izlasku na tržište EU.