MI aģentu izstrāde un MCP serveru integrācija: valodas modeļu savienošana ar sistēmām, kuras jūs jau izmantojat

Visas demonstrācijas darbojas. Pilotprojekts, kas apkopoja jūsu dokumentāciju, bija iespaidīgs, prototips, kas atbildēja uz atbalsta jautājumiem, izskatījās gatavs, bet tad tas sastapās ar īsto CRM, īsto piekļuves tiesību modeli un īstajiem datiem un vairs nebija gatavs.

Šī plaisa ir tas darbs. Nevis modelis (modelis tagad ir vieglākā daļa), bet viss, kas atrodas starp valodas modeli un sistēmu, kurai ir savi uzskati par autentifikāciju, pieprasījumu limitiem, nomnieku nodalīšanu un to, kam ko drīkst redzēt.

Ko mēs izstrādājam

MCP serveri jūsu iekšējām sistēmām

Model Context Protocol ir atvērts standarts rīku un datu pieejamības nodrošināšanai MI asistentiem tā, lai tas visos klientos darbotos vienādi. Tas ir kļuvis par praktisku atbildi uz jautājumu „kā ļaut asistentam izmantot mūsu sistēmas, nerakstot atsevišķu integrāciju katram asistentam“.

Mēs izstrādājam produkcijas MCP serverus tam, uz kā jūsu bizness patiešām balstās: jūsu CRM, pieteikumu sistēmai, datu noliktavai, iekšējiem API, dokumentu krātuvei, ERP. Nevis demonstrācijas serveri ar iekodētu marķieri, bet serveri ar pienācīgu autentifikāciju, katra lietotāja autorizāciju, kas ievēro jūsu sistēmās jau noteiktās piekļuves tiesības, nomnieku izolāciju, pieprasījumu ierobežošanu, strukturētu žurnalēšanu un kļūdu ziņojumiem, kas modelim pasaka kaut ko noderīgu, ja izsaukums neizdodas.

Pielāgoti MI aģenti un asistenti

Aģenti, kas paveic darbu no sākuma līdz beigām: šķiro ienākošo rindu, saskaņo divas sistēmas, kuru dati nesakrīt, sagatavo dokumenta pirmo versiju, ko pēc tam apstiprina cilvēks, veic izpēti iekšējos un ārējos avotos. Mēs tos veidojam kopā ar garlaicīgajām daļām: atkārtotiem mēģinājumiem, noildzēm, izmaksu griestiem, idempotenci visam, kas ieraksta datus, un cilvēka apstiprinājuma soli visur, kur darbību ir grūti atsaukt.

Meklēšana jūsu pašu saturā

RAG, izdarīts pareizi: dokumentu ielāde un sadalīšana fragmentos, kas ievēro struktūru, nevis rakstzīmju skaitu, iegulti (embeddings) un vektoru meklēšana, hibrīda atslēgvārdu un semantiskā meklēšana, jo tīra vektoru meklēšana palaiž garām precīzas atbilstības, rezultātu pārkārtošana un atsauces uz avotu, lai atbildi varētu pārbaudīt. Un arī mazāk spožā puse: indeksa uzturēšana aktuālā stāvoklī, kad mainās pamatā esošie dokumenti, un piekļuves kontroles ievērošana, lai meklēšana nekad neparādītu dokumentu, kuru lietotājs citādi nevarētu atvērt.

Darbplūsmu un administratīvo procesu automatizācija

Ne visam vajag aģentu. Liela daļa no tā, ko uzņēmumi vēlas no MI, ir klasificēšana, datu izgūšana un maršrutēšana: izlasīt ienākošu e-pastu un saprast, kas tas ir, izvilkt strukturētus datus no nestrukturēta dokumenta, piemeklēt aprakstam atbilstošu kataloga ierakstu. Tas ir lētāk, uzticamāk un vieglāk izvērtējams nekā aģents, un, ja tā ir pareizā atbilde, mēs izstrādājam tieši to.

Izvērtēšana, novērojamība un aizsargmehānismi

MI funkciju bez izvērtēšanas neviens nevar uzlabot. Mēs izveidojam testu kopas no jūsu reālajiem gadījumiem, mērām rezultātus pret tām pēc katras izmaiņas, izsekojam katru izsaukumu ar tā ievaddatiem, rīku izmantošanu, latentumu un izmaksām un ieviešam limitus, pirms nekontrolēts cikls atrod ceļu uz jūsu API rēķinu. Uzvednes injekcija (prompt injection) ir reāls risks brīdī, kad aģents lasa neuzticamu saturu un var arī rīkoties. Mēs projektējam rīku robežas tā, lai ļaunprātīgs dokuments nevarētu pārvērsties destruktīvā darbībā.

Kā mēs strādājam ar modeļu piegādātājiem

Mēs neesam piesaistīti vienam. Mēs strādājam ar Anthropic Claude modeļiem, OpenAI, Google un atvērto svaru modeļiem, kas darbojas jūsu pašu infrastruktūrā, un projektējam integrāciju tā, lai modeli varētu nomainīt. Kuru izmantot, atkarīgs no uzdevuma, nepieciešamā latentuma, viena izsaukuma izmaksām pie jūsu apjoma un (Eiropā arvien biežāk tas ir izšķirošais faktors) no tā, kur datiem atļauts nonākt.

Klientiem ar datu atrašanās vietas ierobežojumiem mēs izvietojam risinājumu ES reģionos vai pašu uzturētā inferencē uz jūsu aparatūras un godīgi pasakām, kur tas jums maksās iespējas.

Kas tas nav

Mēs neesam MI stratēģijas konsultāciju uzņēmums. Mēs nerīkojam darbnīcas par kaut kā transformējošo potenciālu.

Mēs arī neizstrādāsim aģentu problēmai, kurai tas nav vajadzīgs. Ievērojamu daļu MI projektu, par kuriem mums jautā, labāk atrisina labi specificēta API integrācija, meklēšanas indekss vai pamatā esošās datu kvalitātes problēmas novēršana. Šāds ieteikums mums maksā lielāku projektu, bet jums ietaupa sistēmu, kas būtu jāuztur.

Kur tas parasti atmaksājas

Iekšējās zināšanas, kas tehniski ir pieejamas, bet praktiski nesasniedzamas: tūkstošiem dokumentu wiki, koplietotajā diskā un pieteikumu sistēmā, kur cilvēks, kurš zina, kurš no tiem ir aktuāls, ir atvaļinājumā.

Liela apjoma šķirošana: atbalsta rindas, atlīdzības pieteikumu pieņemšana, ienākošā pārdošana, pieteikumu izskatīšana. Jebkas, kur cilvēks pašlaik kaut ko izlasa, izlemj, kas tas ir, un nodod tālāk.

Sistēmas, kurām integrācija tā arī netika izveidota: divi rīki, kuriem vajadzētu sazināties, to nedara, un risinājums ir cilvēks ar izklājlapu. Aģents ar MCP piekļuvi abiem bieži ir īsāks ceļš nekā formāls integrācijas projekts.

Procesi ar daudz dokumentiem: līgumi, rēķini, specifikācijas, regulatīvie ziņojumi. Datu izgūšana ar cilvēka pārbaudes soli jau šodien ir pietiekami uzticama, lai mainītu šo procesu ekonomiku.

Izstrādātāju produktivitāte jūsu pašu koda bāzē: iekšējie rīki, palīdzība koda pārskatīšanā, testu ģenerēšana un MCP serveri, kas jūsu komandas asistentiem dod piekļuvi būvēšanas sistēmai, problēmu izsekotājam un žurnāliem.

Kā noris sadarbība

Izpēte, viena līdz divas nedēļas. Mēs aplūkojam procesu, kuru vēlaties mainīt, iesaistītās sistēmas un to, kā dati patiesībā izskatās. Rezultāts ir rakstisks novērtējums par to, kas ir iespējams, cik tas maksās mēnesī pie jūsu apjoma un kādi ir iespējamie kļūmju scenāriji. Dažreiz tajā teikts: to neveidojiet.

Koncepcijas pierādījums, trīs līdz sešas nedēļas, ar reāliem datiem kontrolētā vidē. Mērķis nav demonstrācija. Mērķis ir izvērtējuma rezultāts, kuram varat uzticēties, ar izmērītu precizitāti uz jūsu izvēlētiem gadījumiem.

Produkcijas izstrāde, parasti astoņas līdz sešpadsmit nedēļas, ieskaitot autentifikāciju, autorizāciju, monitoringu, izvērtēšanas vidi, izmaksu kontroli un dokumentāciju. Izvietots jūsu infrastruktūrā, jūsu repozitorijā, ar jūsu komandas līdzdalību visā procesā.

Uzturēšana vai nodošana. Vai nu to pārņem jūsu komanda kopā ar darbības rokasgrāmatu un izvērtēšanas komplektu, vai arī mēs to turpinām uzturēt atbalsta ietvaros. Modeļi mainās, uzvednes novirzās, un tieši izvērtēšanas komplekts jums pasaka, kad kaut kas klusām ir pasliktinājies.

Tehnoloģijas

Python un TypeScript aģentu un MCP darbam; PostgreSQL ar pgvector, Qdrant, Weaviate vai OpenSearch meklēšanai; AWS Bedrock, Azure OpenAI, tieši piegādātāju API un pašu uzturēta inference ar vLLM vai Ollama, ja dati nedrīkst iziet ārpus jūsu vides; uz OpenTelemetry balstīta izsekošana; un integrācijas pusē jebkura jūsu esošā tehnoloģiju kopa, jo tieši tur darbs patiesībā notiek.

Biežāk uzdotie jautājumi

Kas ir MCP serveris, vienkāršiem vārdiem?

Neliels pakalpojums, kas standarta formātā, kuru saprot MI asistenti, padara pieejamu kādu iespēju (lasīšanu no datubāzes, pieteikuma izveidi, meklēšanu jūsu dokumentos). Izveidojiet vienu, un jebkurš ar MCP saderīgs asistents var šo iespēju izmantot bez atsevišķas integrācijas katram.

Vai mums veidot MCP serveri vai parastu API integrāciju?

Ja vienam MI asistentam vajadzīga viena sistēma, tieša integrācija ir vienkāršāka. MCP sevi attaisno, ja vienas un tās pašas sistēmas vajag vairākiem asistentiem vai vairākām komandām, ja vēlaties, lai iespēja būtu pieejama rīkiem, kurus vēl neesat izvēlējušies, vai ja vēlaties vienu vietu, kur atrodas piekļuves tiesības un audita žurnāli.

Kā jūs neļaujat aģentam izdarīt kaut ko destruktīvu?

Ar vairākiem aizsardzības slāņiem. Rīki, kas ieraksta datus, ir nodalīti no rīkiem, kas lasa, un rakstīšanas rīku tvērums ir tik šaurs, cik uzdevums atļauj. Jebkas neatgriezenisks iet caur cilvēka apstiprinājuma soli. Katrs izsaukums tiek reģistrēts ar tā argumentiem. Un aģents darbojas ar pakalpojuma identitāti, kurai ir tikai darbam nepieciešamās tiesības, tāpēc iespējamo kaitējumu ierobežo jūsu pašu autorizācijas modelis, nevis uzvedne.

Cik maksā šāda risinājuma darbība?

Tas gandrīz pilnībā atkarīgs no apjoma un no tā, cik daudz konteksta nes katrs izsaukums. Mēs to modelējam izpētes posmā ar reāliem skaitļiem, jo atšķirība starp risinājumu, kas katrā solī sūta visu dokumentu, un risinājumu, kas atrod tikai vajadzīgo daļu, mēneša izmaksās var būt desmitkārtīga.

Vai tas var darboties tā, lai mūsu dati nepamestu ES?

Jā. Lielākie piegādātāji piedāvā ES reģionus, un atvērto svaru modeļi var darboties infrastruktūrā, kuru kontrolējat jūs. Parasti tas nozīmē kompromisu iespēju ziņā, un mēs konkrēti pateiksim, kāds tas ir, nevis izliksimies, ka tāda nav.

Mūsu iepriekšējais MI pilotprojekts līdz produkcijai netika. Kāpēc šis tiktu?

Parasti tāpēc, ka pilotprojekts pierādīja, ka modelis spēj veikt uzdevumu, bet nekad neskāra autentifikāciju, piekļuves tiesības, kļūdu apstrādi, izvērtēšanu vai izmaksas, un tieši tur ir atlikušie deviņdesmit procenti darba. Mēs sākam ar pieņēmumu, ka modelis darbojas, un projekta laiku veltām visam pārējam.

Kā sākt

Aprakstiet procesu, kuru vēlaties mainīt, un sistēmas, ko tas skar. Mēs pateiksim, vai aģents ir pareizais instruments, kā izskatās reāla pirmā versija un cik maksā tās izstrāde un darbība.

Sazinieties ar mums, lai vienotos par tehniskās izpētes sesiju.

Saistītie pakalpojumi

• Personāla papildināšana un ārpakalpojumi: MI inženieri jūsu komandā
• Atbilstība ES MI aktam: inženiertehniskais darbs: ja tas, ko izstrādājat, ietilpst akta darbības jomā
• AWS izmaksu optimizācija: inferences un meklēšanas slodzes mēdz pārsteigt