Back to Articles

InvestAI, фабрики и гигафабрики за вештачка интелигенција: европската изградба на пресметковна моќ

compute cluster racks in a server room

Најголемата единечна опклада на сегашната европска технолошка политика не е пропис. Тоа е обид во Европа да се изгради доволно пресметковна моќ за вештачка интелигенција за европските компании да не мораат целата да ја изнајмуваат на друго место.

InvestAI цели кон мобилизирање 200 милијарди евра за инвестиции во вештачка интелигенција во ЕУ, вклучувајќи европски фонд од 20 милијарди евра за гигафабрики за вештачка интелигенција. Дали таа насловна бројка ќе се оствари е сосема оправдано прашање. Она што веќе се случува на терен е поконкретно и понепосредно корисно.

Трите нивоа

Збунувачко е тоа што има повеќе работи со слични имиња што вршат различна работа. Формираат груба хиерархија.

Суперкомпјутери EuroHPC

Постојниот основен слој. Европски суперкомпјутери набавени и управувани преку Заедничкото претпријатие EuroHPC, некои меѓу најбрзите во светот. Изградени за научно пресметување, сè почесто користени за вештачка интелигенција. Покриени во нашиот водич за EuroHPC.

Фабрики за вештачка интелигенција

Пресметковна моќ оптимизирана за вештачка интелигенција, прикачена на суперкомпјутерските локации на EuroHPC, заедно со услугите околу неа: ракување со податоци, поддршка при обука на модели, експертиза и пристап за старт-апи и мали и средни претпријатија.

Важна е втората половина. Фабрика за вештачка интелигенција не е само GPU. Тоа е објект со мандат таа пресметковна моќ да ја направи употреблива за компании што самите никогаш не би можеле да ја управуваат, со персонал за поддршка што ви помага навистина да пуштите обучувачка задача.

Низ цела Европа се планирани најмалку 19 фабрики за вештачка интелигенција, со цел од 13 во работа.

Гигафабрики за вештачка интелигенција

Новото и многу поголемо ниво. Објекти со размер наменет за обука на гранични модели, со пресметковна моќ приближно за ред на големина над фабриките.

Предвидени се до пет. Јавната обврска опфаќа околу 10 милијарди евра насочени кон привлекување најмалку 20 милијарди евра приватни инвестиции, со известување на почетокот на 2026 година за околу 37 милијарди евра за десет кандидатски објекти во седум земји.

Бројките се движат бидејќи мешаат обврзани јавни пари, очекувано приватно соинвестирање и национални придонеси, а различните објави бројат различни работи. Третирајте ги насловните суми како насока.

Зошто постои ова

Три причини и вреди јасно да се зборува за нив, бидејќи објаснуваат на што објектите навистина ќе им дадат предност.

Капацитет. Обуката и опслужувањето големи модели бараат пресметковна моќ во размер што во Европа не постоеше. Компаниите што сакаа да обучат сериозен модел во Европа имаа ограничени можности.

Зависност. Стратешкиот аргумент. Пресметковната моќ е инфраструктура, инфраструктурата создава моќ за притисок, а Европа има многу малку од неа. Тоа е истото расудување што стои зад актот за развој на облак и вештачка интелигенција.

Асиметрија на пристапот. Дури и таму каде што пресметковна моќ постои, пристапот е концентриран. Европски старт-ап се натпреварува за капацитет со купувачи со далеку поголема куповна моќ. Фабриките за вештачка интелигенција се изречно осмислени да резервираат капацитет за помалите играчи.

Што значи ова ако не градите центар за податоци

Повеќето компании што го читаат ова никогаш нема да се натпреваруваат за управување со гигафабрика. Корисното прашање е како да го користите она што се гради.

Пристап до пресметковната моќ на фабриките за вештачка интелигенција

Тоа е практичната можност и е недоволно искористена. Фабриките за вештачка интелигенција делумно постојат за да им дадат на старт-апите, малите и средните претпријатија и истражувачите пристап до сериозна пресметковна моќ. Пристапот обично оди преку повици и постапки за пријава, а не преку кредитна картичка, а цените за подобните корисници се драматично под комерцијалните.

Ако имате оптоварување што е навистина ограничено од пресметковна моќ, обука или фино дотерување модели во размер каде што трошоците за GPU во облак болат, тоа вреди да се испита пред да претпоставите дека хиперскалерот е единствената опција.

Компромисите се вистински. Пристапот не е моментален, средините се HPC средини, а не управуван облак, и ако вашето оптоварување бара еластичен капацитет на барање, тоа не се вклопува добро. За планирани големи обучувачки циклуси може да биде значително поевтино.

Софтверскиот слој е местото каде што е јазот

Еве го согледувањето што вреди да се изнесе. Изградбата на хардверот е капитален проблем и Европа сега троши на тоа. Тој хардвер да стане употреблив е софтверски проблем и е многу послабо финансиран.

HPC средините не се пријателски кон тимови чие искуство е во управувани услуги во облак. Распоредувачите на задачи, системите на модули, споделените датотечни системи, MPI и политиките на редици се друг свет од Kubernetes кластер и објектно складиште. Растојанието меѓу работна обучувачка скрипта на GPU во облак и истата задача што работи ефикасно на HPC доделба е вистинска инженерска работа.

Тој јаз е можност за секој што умее да го премости и вистински трошок за секој што планира да ги користи овие објекти без да смета на него.

Локацијата на податоците менува што е можно

За компаниите со податоци што не можат лесно да ја напуштат ЕУ, било поради ГДПР, секторски правила или договорни обврски, европската пресметковна моќ менува што е архитектонски можно. Обука на чувствителни податоци во објект во ЕУ под јурисдикција на ЕУ е поинаква работа од испраќање на друго место.

Здравството, јавниот сектор и финансиските услуги се очигледните случаи и тоа се секторите во кои фабриките за вештачка интелигенција имаат определени области на фокус.

Како навистина да дојдете до пристап

Најдете ја фабриката за вештачка интелигенција најблиску до вашата област, а не до вашата географија. Имаат специјализирани фокуси. Некои се насочени кон здравството, некои кон индустријата, некои кон јазик и повеќејазична вештачка интелигенција. Вистинската за вас можеби не е во вашата земја.

Погледнете ги повиците за пристап на EuroHPC. Имаат повеќе патеки, вклучувајќи посебни за мали и средни претпријатија и старт-апи, со различна големина на доделба и различни постапки за оценување. Некои се лесни.

Проверете дали центар за дигитални иновации може да го посредува тоа. EDIH што се опишани во нашиот водич за програмата Дигитална Европа често имаат односи со даватели на пресметковна моќ и можат да им помогнат на малите и средните претпријатија да се снајдат.

Ставете ја работата на пренесување во буџетот. Ако вашиот тим никогаш не работел на HPC, сметајте на вистински инженерски напор оптоварувањето да работи ефикасно. Пресметковната моќ може да е евтина. Да стигнете до точката кога ја користите не е бесплатно.

Искрена оценка

Извесен скептицизам е оправдан и подобро е да го изнесете отворено.

Насловните бројки содржат многу посакувани приватни пари. Мобилизирани 200 милијарди евра не се исто што и обврзани 200 милијарди евра. Јавниот дел е вистински и многу помал.

Изградба на пресметковна моќ не создава способност за модели. Европскиот јаз кај граничната вештачка интелигенција не е само јаз во пресметковна моќ. Тоа е и концентрација на таленти, пазари на капитал, и фактот дека водечките лаборатории се на друго место. Пресметковната моќ е неопходна, но не и доволна.

Роковите за големи објекти се долги. Центрите за податоци од овој размер се градат со години, а достапноста на електрична енергија на повеќе кандидатски локации е вистинско ограничување. Објавен капацитет и достапен капацитет се различни работи.

Чиповите се зависност. Забрзувачите во овие објекти во голем дел не се произведуваат во Европа, а токму тоа актот за чипови се обидува да го реши на многу подолг рок.

Ништо од тоа не ја прави програмата бесмислена. Ја прави долгорочна инфраструктурна инвестиција чија главна краткорочна корист за обичните компании е пристап до пресметковна моќ по добри цени, а не појава на европска гранична лабораторија.

Што да правите со тоа

Ако обучувате или фино дотерувате модели во кој било размер, одвојте половина ден за да го испитате пристапот до фабриките за вештачка интелигенција. Економијата може да биде многу поволна, а повеќето компании воопшто ниту погледнале.

Ако сега проектирате производ со вештачка интелигенција, поставете апстракција над вашиот давател на модел. Чини речиси ништо и ја зачувува опцијата подоцна да преминете на европска инфраструктура, што е истата препорака што актот за развој на облак и вештачка интелигенција ја застапува од политички причини, а комерцијалниот разум и онака.

Ако имате истражување ограничено од пресметковна моќ, погледнете ги патиштата за пристап на EuroHPC пред да претпоставите дека одговорот е облак.

Каде се вклопува ова

Целиот пејзаж на финансирање е во нашиот водич за финансирање технологија во ЕУ. Пресметковната инфраструктура под ова е покриена во нашиот водич за EuroHPC, чиповите под неа во нашиот водич за актот за чипови, а регулирањето на она што го градите одозгора во нашиот водич за транспарентност според актот за вештачка интелигенција.

Како до помош

Градиме функции со вештачка интелигенција и платформи за податоци за компании што работат во Европа, вклучувајќи ги непривлечните делови: да ги доведеме обучувачките оптоварувања до ефикасна работа, да ги апстрахираме давателите на модели за преминот да биде можен, и да ги изградиме податочните текови што пристапот до пресметковна моќ го прават корисен, а не теоретски.

Ако размислувате за европска пресметковна моќ за некое оптоварување и сакате реален поглед на напорот за пренесување, пишете на office@c9group.dev. Повеќе за нашата работа на страницата за оптимизација на трошоците за AWS и страницата за влез на пазарот на ЕУ.