EuroHPC: kako doći do superračunara u Evropi i koliko to košta

Većina kompanija kojima bi ozbiljna računarska snaga koristila nikada i ne pomisli na EuroHPC, zato što superračunarstvo zvuči kao nešto za fizičare. Pre deceniju je to uglavnom bilo tačno. Danas nije, a putevi pristupa otvoreniji su nego što gotovo iko shvata.

Zajedničko preduzeće EuroHPC nabavlja i vodi evropske superračunare, finansira softver i veštine oko njih i, što je za kompanije najkorisnije, dodeljuje pristup njima. Za odgovarajuće opterećenje taj pristup dramatično je jeftiniji od komercijalnog oblaka, a za neka opterećenja je i besplatan.

Šta je EuroHPC zapravo

Zajedničko preduzeće EU, država učesnica i privatnih članova, finansirano iz programa Digitalna Evropa, Horizonta Evropa i Instrumenta za povezivanje Evrope, uz nacionalne doprinose.

Rad se deli na tri dela:

Infrastruktura. Nabavka i vođenje superračunara širom Evrope, od sistema srednje klase do mašina egzaskalarne klase, smeštenih na lokacijama u raznim državama članicama. Tu su i fabrike veštačke inteligencije opisane u našem vodiču za InvestAI, koje predstavljaju kapacitet optimizovan za veštačku inteligenciju i prikačen na te iste lokacije.

Istraživanje i inovacije. Finansiranje softverskog sklopa, aplikacija i sve više evropske procesorske tehnologije.

Veštine i pristup. Centri kompetencija, obuke i pozivi za dodelu, kroz koje zaista i dolazite do korišćenja mašina.

Taj poslednji deo je onaj do kog bi kompanijama trebalo da je stalo, a uglavnom ne znaju ni da postoji.

Putevi pristupa

Pristup se dodeljuje kroz pozive, a ima ih nekoliko, sa vrlo različitim svojstvima. Pogoditi pravi važnije je od svega ostalog.

Pristup za merenje i razvoj

Male dodele za proveru da li vaš kod radi i kako se skalira. Laka prijava, brz obrt, mala količina računarske snage.

To je ispravna polazna tačka za svakoga ko ove sisteme nikada nije koristio. Košta vas jedan prijavni formular, a govori vam dve stvari koje treba da znate: radi li vaše opterećenje uopšte i skalira li se korisno.

Redovan pristup

Glavni put do znatnih dodela. Uz stručnu recenziju, sa pozivima u redovnom ciklusu, usmeren na projekte sa jasnim naučnim ili tehničkim obrazloženjem. Veće dodele tokom dužih perioda.

Ocena je ozbiljna, a predlogu treba tehničko obrazloženje: šta računate, zašto to traži baš ovakvu razmeru i dokaz da vaš kod radi efikasno.

Pristup ekstremne razmere

Za projekte kojima trebaju vrlo veliki udeli najvećih mašina. Redak, strogo se ocenjuje i nije mesto na kom većina kompanija počinje.

Pristup za veštačku inteligenciju i industriju

Noviji koloseci, usmereni izričito na opterećenja veštačke inteligencije i na industrijske korisnike, uključujući mala i srednja preduzeća i startapove. Postupci su lakši nego kod tradicionalne naučne dodele i osmišljeni su za organizacije koje nisu istraživačke ustanove.

Ako ste kompanija, a ne univerzitet, ovo je obično vaš put.

Pristup kroz fabrike veštačke inteligencije

Fabrike veštačke inteligencije imaju sopstvene aranžmane pristupa, obično uz veću podršku korisnicima koji nisu HPC stručnjaci. Ako je vaše opterećenje treniranje ili fino podešavanje modela, a ne tradicionalna simulacija, počnite ovde.

Koliko košta

Za istraživanje i za mnoge industrijske primene dodeljena računarska snaga daje se bez naknade, zato što su mašine javno finansirane, pa se raspodela vrši kroz postupak dodele, a ne kroz cenu.

Postoje i komercijalni aranžmani pristupa uz naknadu, obično za rad koji je neposredno komercijalan i bez zahteva otvorenosti. I tada cena obično povoljno stoji naspram komercijalnog oblaka, kada je reč o dugotrajnim velikim poslovima, zato što ne plaćate maržu na elastičan kapacitet koji ne koristite.

Stvaran trošak nije računarska snaga. Stvaran trošak je inženjerija.

Pošten deo: ovo nije oblak

Ovde treba postaviti očekivanja, zato što je to razlog zbog kog kompanije probaju EuroHPC pa odustanu.

Ne dobijate virtuelnu mašinu sa root nalogom. Dobijate dodelu na deljenom klasteru sa raspoređivačem poslova, obično Slurm. Poslove predajete u red. Pokreću se kada resursi budu slobodni. Interaktivan rad je ograničen.

Softversko okruženje zasnovano je na modulima, a ne prvenstveno na kontejnerima, mada je podrška kontejnerima sve dostupnija. Zavisnosti ćete možda morati da gradite prema bibliotekama specifičnim za tu lokaciju.

Sistem datoteka je deljen i ima pravila. Radni prostor se prazni. Matični direktorijumi imaju kvote. Prenos podataka unutra i napolje traži planiranje, a za velike skupove traži ozbiljno planiranje.

Mreža je optimizovana za čvrsto spregnute paralelne poslove, a ne za mikroservise koji se međusobno pozivaju. Ako je vaše opterećenje distribuiran sistem, a ne paralelno izračunavanje, ovo je pogrešno okruženje.

Vremena čekanja u redu su stvarna. Velik posao može da čeka. Ako vam rezultati trebaju za sat vremena i na zahtev, ovo nije vaša infrastruktura.

Elastičnost ne postoji. Imate dodelu. Ne možete da skalirate naviše zato što je danas gužva.

Na šta se to svodi: EuroHPC je odličan za velika, unapred zakazana, paralelna ili paketna opterećenja koja možete da isplanirate. Slab je za interaktivna i elastična opterećenja na zahtev i za ona oblikovana kao usluga.

Koja opterećenja zaista odgovaraju

Treniranje i fino podešavanje modela u velikom obimu. Očigledan savremen slučaj i ono zbog čega su fabrike veštačke inteligencije i izgrađene.

Simulacije velike razmere. Numerička dinamika fluida, molekularna dinamika, strukturna analiza, klima i vreme, elektromagnetika. Tradicionalni slučajevi, i dalje najveći korisnici.

Velika paketna inferencija ili obrada skupova podataka. Jednokratna obrada velikog korpusa, generisanje embedinga u velikom obimu, paketno bodovanje.

Sve na šta sada trošite ozbiljan novac za GPU ili CPU vreme u oblaku kod poslova koji se zakazuju. To je komercijalni test. Ako vam je mesečni račun za računarsku snagu u oblaku za paketni rad osetan, a poslovi mogu da se planiraju, uradite poređenje.

Sve gde podaci ne smeju da napuste EU. Osetljivi podaci po sektorskim pravilima, zdravstveni podaci, podaci javnog sektora. Računarska snaga unutar EU i pod jurisdikcijom EU menja celu računicu, a povezuje se sa pitanjima prenosa pokrivenim u našem vodiču za GDPR.

Praktičan put ulaska

Počnite dodelom za merenje. Mala je, brza, i odgovoriće vam da li je ovo uopšte izvodljivo pre nego što uložite.

Razgovarajte sa nacionalnim centrom kompetencija. Svaka zemlja učesnica ima svoj. Postoje upravo zato da pomognu organizacijama koje su nove u HPC, besplatni su i pošteno će vam reći da li vaše opterećenje odgovara.

Uvrstite posao prenošenja u budžet izričito. Ako je vaš tim radio samo na upravljanom oblaku, dovođenje opterećenja do efikasnog rada na HPC dodeli stvaran je inženjerski projekat. Nije ogroman, ali nije ni nula. Čest je slučaj da prvi pokušaj radi na delić onoga što se može postići.

Ako ste kompanija, prvo proverite koloseke za veštačku inteligenciju i industriju. Tradicionalan naučni postupak dodele nije osmišljen oko vas.

Planirajte kretanje podataka na vreme. Prenos terabajta unutra i napolje logistički je problem sa sopstvenim vremenom pripreme.

Gde ovo strateški stoji

EuroHPC je temeljni sloj evropske računarske strategije. Fabrike veštačke inteligencije opisane u našem vodiču za InvestAI kače se na njega. Gigafabrike ga proširuju. Rad na procesorima u okviru akta o čipovima vremenom cilja na smanjenje hardverske zavisnosti ispod njega. A akt o razvoju oblaka i veštačke inteligencije regulatorni je okvir oko celine.

Za kompaniju je strateški značaj manji od praktičnog. Malo je verovatno da će vam evropski tehnološki suverenitet biti bitan kada birate gde ćete pokrenuti posao treniranja. Sasvim je moguće da će vam biti bitno što računarska snaga košta delić cene.

Gde se ovo uklapa

Ceo teren finansiranja i pristupa mapiran je u našem vodiču za finansiranje tehnologije u EU. Program koji finansira velik deo EuroHPC pokriven je u našem vodiču za program Digitalna Evropa.

Kako do pomoći

Gradimo platforme podataka, tokove veštačke inteligencije i računarski intenzivne sisteme za kompanije koje posluju u Evropi, uključujući posao prenošenja opterećenja sa laptopa ili GPU u oblaku na zakazanu HPC dodelu, a da se na to ne izgubi ceo kvartal.

Ako imate opterećenje ograničeno računarskom snagom i želite realnu procenu da li bi vam pristup EuroHPC pomogao i koliko bi prenošenje koštalo, pišite na office@c9group.dev. Više o našem infrastrukturnom radu na stranici o optimizaciji troškova AWS.