Razvoj agentov AI in integracija strežnikov MCP: povezovanje jezikovnih modelov s sistemi, ki jih že uporabljate

Demonstracije vedno delujejo. Pilot, ki je povzemal vašo dokumentacijo, je naredil vtis, prototip, ki je odgovarjal na vprašanja podpore, je bil videti pripravljen: potem pa je naletel na resnični CRM, resnični model pravic in resnične podatke in nenadoma ni bil več pripravljen.

Prav ta razkorak je delo. Ne model (model je danes lahki del), temveč vse med jezikovnim modelom in sistemom, ki ima svoje mnenje o avtentikaciji, omejevanju prometa, večnajemniškosti in tem, kdo sme kaj videti.

Kaj gradimo

Strežniki MCP za vaše interne sisteme

Model Context Protocol je odprt standard za izpostavljanje orodij in podatkov asistentom AI na način, ki je enak pri vseh odjemalcih. Postal je praktičen odgovor na vprašanje, kako asistentu omogočiti uporabo vaših sistemov, ne da bi za vsakega asistenta pisali svojo integracijo.

Gradimo produkcijske strežnike MCP nad tem, kar vaše podjetje dejansko poganja: nad CRM, sistemom za obravnavo zahtevkov, podatkovnim skladiščem, internimi API-ji, dokumentnim sistemom, ERP. Ne demonstracijskega strežnika z zakodiranim žetonom: takega s pravo avtentikacijo, z avtorizacijo na ravni uporabnika, ki spoštuje pravice, kot jih vaši sistemi že uveljavljajo, z izolacijo med najemniki, omejevanjem prometa, strukturiranim beleženjem in obliko napak, ki modelu ob neuspelem klicu pove kaj uporabnega.

Agenti in asistenti AI po meri

Agenti, ki opravijo delo od začetka do konca: triaža vhodne vrste, uskladitev dveh sistemov, ki se ne strinjata, priprava prve različice dokumenta, ki ga človek nato potrdi, raziskovalna naloga po internih in zunanjih virih. Gradimo jih z vključenimi dolgočasnimi deli: ponovni poskusi, časovne omejitve, stroškovne zgornje meje, idempotentnost pri vsem, kar piše, in korak človeške potrditve povsod, kjer je dejanje težko razveljaviti.

Iskanje po vaših lastnih vsebinah

RAG, narejen pošteno: zajem in razsekavanje dokumentov, ki upošteva strukturo in ne števila znakov, vložitve in vektorsko iskanje, hibridno besedno in pomensko iskanje, ker čisto vektorsko iskanje spregleda natančna ujemanja, ponovno razvrščanje in citati nazaj na vir, da je odgovor mogoče preveriti. Poleg tega še neglamurozna polovica: vzdrževanje indeksa ob spremembah dokumentov in spoštovanje pravic dostopa, da iskanje nikoli ne pokaže dokumenta, ki ga uporabnik sicer ne bi mogel odpreti.

Avtomatizacija delovnih tokov in zaledja

Ni za vse potreben agent. Velik del tega, kar podjetja želijo od AI, je razvrščanje, izluščanje in usmerjanje: branje prispele e-pošte in odločitev, kaj to je, izvlečenje strukturiranih podatkov iz nestrukturiranega dokumenta, ujemanje opisa s postavko v katalogu. To je ceneje, zanesljiveje in lažje ovrednotiti kot agenta, in kadar je to pravi odgovor, zgradimo raje to.

Vrednotenje, opazljivost in varovala

Funkcija AI brez vrednotenja je funkcija, ki je nihče ne more izboljšati. Iz vaših resničnih primerov sestavimo testne nabore, ob vsaki spremembi merimo proti njim, vsakemu klicu sledimo z njegovimi vhodi, uporabo orodij, zakasnitvijo in stroškom ter postavimo omejitve, preden podivjana zanka najde vaš račun za API. Vrivanje pozivov je resnično tveganje v trenutku, ko agent bere nezaupanja vredno vsebino in hkrati lahko ukrepa: mejo orodij zasnujemo tako, da se zlonameren dokument ne more spremeniti v uničujoče dejanje.

Kako delamo s ponudniki modelov

Nismo vezani na enega. Gradimo na modelih Claude podjetja Anthropic, na OpenAI, Googlu in na modelih z odprtimi utežmi, ki tečejo na vaši lastni infrastrukturi, integracijo pa zasnujemo tako, da je model zamenljiva komponenta. Kateri je pravi, je odvisno od naloge, zahtevane zakasnitve, stroška na klic pri vaši količini in (v Evropi vse pogosteje odločilno), od tega, kam smejo podatki.

Za stranke z omejitvami glede lokacije podatkov namestimo v regije EU ali lastno gostovano sklepanje na vaši strojni opremi, in pošteno vam bomo povedali, kje vas to stane zmogljivosti.

Česa ne počnemo

Nismo svetovalno podjetje za strategijo AI. Ne izvajamo delavnic o transformativnem potencialu česarkoli.

Prav tako ne bomo zgradili agenta za problem, ki ga ne potrebuje. Precejšen del projektov AI, o katerih nas sprašujejo, je bolje rešiti z dobro specificirano integracijo API, iskalnim indeksom ali odpravo težave s kakovostjo podatkov, ki leži spodaj. Tak nasvet nas stane večji posel in vam prihrani sistem, ki bi ga morali vzdrževati.

Kje se to najbolj obrestuje

Interno znanje, ki je tehnično na voljo in praktično nedosegljivo: tisoči dokumentov po wikiju, skupnem disku in sistemu zahtevkov, kjer je oseba, ki ve, kateri je veljaven, na dopustu.

Triaža velikih količin: vrste podpore, sprejem zahtevkov, vhodna prodaja, pregled prijav. Vse, kjer človek nekaj prebere, odloči, kaj je, in preda naprej.

Sistemi, ki nikoli niso dobili integracije: dve orodji, ki bi se morali pogovarjati, pa se ne, in obvoz je človek s preglednico. Agent z dostopom prek MCP do obeh je pogosto krajša pot kot formalen integracijski projekt.

Dokumentno intenzivno poslovanje: pogodbe, računi, specifikacije, regulativne vloge. Izluščanje s korakom človeškega pregleda je danes dovolj zanesljivo, da spremeni ekonomiko teh procesov.

Produktivnost razvijalcev v vaši lastni kodi: interna orodja, pomoč pri pregledu kode, generiranje testov in strežniki MCP, ki asistentom vaše ekipe dajo dostop do sistema za gradnjo, sledilnika nalog in dnevnikov.

Kako poteka sodelovanje

Odkrivanje, en do dva tedna. Pogledamo proces, ki ga želite spremeniti, vpletene sisteme in to, kakšni podatki so dejansko na voljo. Rezultat je pisna ocena o tem, kaj je izvedljivo, koliko bo delovanje pri vaši količini mesečno stalo in kakšni so načini odpovedi. Včasih v njej piše, da tega ne gradite.

Dokaz koncepta, tri do šest tednov, na resničnih podatkih v nadzorovanem okolju. Cilj ni demonstracija: cilj je rezultat vrednotenja, ki mu lahko zaupate, z izmerjeno natančnostjo na primerih, ki ste jih izbrali sami.

Produkcijska izvedba, običajno osem do šestnajst tednov, vključno z avtentikacijo, avtorizacijo, nadzorom, ogrodjem za vrednotenje, nadzorom stroškov in dokumentacijo. Nameščeno v vašo infrastrukturo, v vašem repozitoriju, z vašo ekipo ves čas zraven.

Delovanje ali predaja. Bodisi sistem prevzame vaša ekipa skupaj s priročnikom in naborom za vrednotenje, bodisi ga naprej vodimo mi po pogodbi o podpori. Modeli se spreminjajo, pozivi se sčasoma razidejo, in nabor za vrednotenje je tisti, ki vam pove, da je nekaj tiho postalo slabše.

Tehnologija

Python in TypeScript za delo z agenti in MCP; PostgreSQL s pgvector, Qdrant, Weaviate ali OpenSearch za iskanje; AWS Bedrock, Azure OpenAI, neposredni API-ji ponudnikov in lastno gostovano sklepanje z vLLM ali Ollama tam, kjer podatki ne smejo ven; sledenje na osnovi OpenTelemetry; in karkoli je vaš obstoječi sklad na strani integracije, saj je prav tam dejansko delo.

Pogosta vprašanja

Kaj je strežnik MCP, preprosto povedano?

Majhna storitev, ki neko zmožnost (branje iz baze, ustvarjanje zahtevka, iskanje po vaših dokumentih) izpostavi v standardni obliki, ki jo asistenti AI razumejo. Zgradite enega in vsak asistent, združljiv z MCP, lahko to zmožnost uporabi, ne da bi zanj pisali svojo integracijo.

Ali naj zgradimo strežnik MCP ali običajno integracijo API?

Če en asistent AI potrebuje en sistem, je neposredna integracija enostavnejša. MCP se splača, ko iste sisteme potrebuje več asistentov ali več ekip, ko želite zmožnost dati na voljo tudi orodjem, ki jih še niste izbrali, ali ko želite eno mesto, kjer živijo pravice in revizijsko beleženje.

Kako preprečite, da bi agent naredil kaj uničujočega?

V plasteh. Orodja, ki pišejo, so ločena od tistih, ki berejo, pisalna orodja pa so omejena tako ozko, kot naloga dopušča. Vse nepovratno gre skozi korak človeške potrditve. Vsak klic se zabeleži z argumenti. Agent teče pod storitveno identiteto, ki ima le pravice, potrebne za nalogo, tako da polmer škode omejuje vaš lastni avtorizacijski model in ne poziv.

Koliko stane delovanje?

Skoraj v celoti je odvisno od količine in od tega, koliko konteksta nosi vsak klic. To modeliramo med odkrivanjem z resničnimi številkami, saj je razlika med zasnovo, ki ob vsakem obratu pošlje cel dokument, in tako, ki pridobi le relevanten del, lahko red velikosti v mesečnem strošku.

Ali lahko to teče, ne da bi naši podatki zapustili EU?

Da. Večji ponudniki ponujajo regije v EU, modeli z odprtimi utežmi pa lahko tečejo na infrastrukturi, ki jo nadzorujete sami. Običajno obstaja kompromis pri zmogljivosti in natančno vam bomo povedali, kakšen je, namesto da se delamo, da ga ni.

Naš zadnji pilot AI ni prišel v produkcijo. Zakaj bi ta?

Običajno zato, ker je pilot dokazal, da model nalogo zmore, ni pa se dotaknil avtentikacije, pravic, obravnave napak, vrednotenja ali stroškov, kjer je preostalih devetdeset odstotkov dela. Mi izhajamo iz predpostavke, da model deluje, in ves čas sodelovanja porabimo za vse ostalo.

Začnite

Opišite proces, ki ga želite spremeniti, in sisteme, ki se jih dotika. Povedali vam bomo, ali je agent pravo orodje, kakšna je realna prva različica in koliko stane izdelava in koliko delovanje.

Kontaktirajte nas za dogovor o tehničnem uvodnem srečanju.

Sorodne storitve

Kadrovska Okrepitev in Outsourcing: inženirji AI, vključeni v vašo ekipo
Skladnost z aktom EU o umetni inteligenci: kadar to, kar zgradite, pade v področje uporabe
AWS optimizacija stroškov: obremenitve za sklepanje in iskanje znajo ljudi presenetiti