Разработка на ИИ агенти и интеграция на MCP сървъри: езиковите модели, свързани със системите, които вече използвате
Всички демонстрации работят. Пилотният проект, който обобщаваше документацията ви, впечатли всички, прототипът, който отговаряше на въпроси от поддръжката, изглеждаше готов. После се сблъска с истинския CRM, истинския модел на права за достъп и истинските данни и престана да бъде готов.
Точно тази пропаст е работата. Не моделът (той вече е лесната част), а всичко между езиковия модел и една система, която има свои правила за удостоверяване, ограничения на заявките, разделение между клиентите и кой какво има право да вижда.
Какво създаваме
MCP сървъри за вашите вътрешни системи
Model Context Protocol е отворен стандарт, чрез който инструменти и данни се предоставят на ИИ асистенти по еднакъв начин за всички клиенти. Той се превърна в практичния отговор на въпроса „как да позволим на асистент да използва системите ни, без да пишем отделна интеграция за всеки асистент".
Изграждаме MCP сървъри за продукционна среда върху системите, на които реално работи бизнесът ви: CRM, система за тикети, хранилище за данни, вътрешни API, хранилище за документи, ERP. Не демо сървър с вграден в кода токен, а сървър с истинско удостоверяване, оторизация за всеки потребител, която спазва правата, наложени вече от вашите системи, изолация между отделните клиенти, ограничаване на заявките, структурирано логване и съобщения за грешки, които казват на модела нещо полезно, когато дадено извикване се провали.
ИИ агенти и асистенти по поръчка
Агенти, които вършат дадена задача от начало до край: сортират входяща опашка, съгласуват две системи с разминаващи се данни, подготвят първата версия на документ, който после човек одобрява, провеждат проучване по вътрешни и външни източници. Изграждаме ги заедно със скучните части: повторни опити, таймаути, таван на разходите, идемпотентност при всичко, което записва данни, и стъпка за одобрение от човек навсякъде, където дадено действие трудно се отменя.
Търсене във вашето собствено съдържание
RAG, направен както трябва: зареждане и разделяне на документите, което следва структурата им, а не броя знаци, ембединги и векторно търсене, хибридно търсене по ключови думи и по смисъл (защото чистото векторно търсене пропуска точните съвпадения), повторно класиране (reranking) и цитати към източника, за да може отговорът да бъде проверен. Плюс неблагодарната половина: индексът се поддържа актуален, докато документите се променят, и контролът на достъпа се спазва, така че търсенето никога да не покаже документ, който потребителят иначе не би могъл да отвори.
Автоматизация на работни процеси и бек офис
Не за всичко е нужен агент. Голяма част от това, което компаниите искат от ИИ, е класификация, извличане и насочване: да се прочете входящ имейл и да се определи какъв е, да се извадят структурирани данни от неструктуриран документ, да се съпостави описание с позиция в каталога. Това е по-евтино, по-надеждно и по-лесно за оценка от агент и когато това е правилният отговор, изграждаме именно него.
Оценка, наблюдаемост и предпазни механизми
ИИ функция без оценка е функция, която никой не може да подобри. Създаваме тестови набори от вашите реални случаи, измерваме спрямо тях при всяка промяна, проследяваме всяко извикване с входните данни, използваните инструменти, забавянето и цената и поставяме ограничения, преди някой зациклил процес да стигне до сметката ви за API. Инжектирането на промптове (prompt injection) е реален риск от момента, в който агентът чете недоверено съдържание и същевременно може да действа. Проектираме границата на инструментите така, че злонамерен документ да не може да се превърне в разрушително действие.
Как работим с доставчиците на модели
Не сме обвързани с един. Работим с моделите Claude на Anthropic, с OpenAI, Google и модели с отворени тегла, които вървят на вашата собствена инфраструктура, и проектираме интеграцията така, че моделът да е заменим компонент. Кой да изберете зависи от задачата, нужното ви време за отговор, цената на извикване при вашия обем и (все по-често решаващият фактор в Европа) къде е разрешено да отиват данните.
За клиенти с изисквания за местоположението на данните внедряваме в региони в ЕС или със собствен хостинг на модела върху вашия хардуер и ще ви кажем честно къде това ви коства възможности.
Какво не правим
Не сме консултанти по ИИ стратегия. Не провеждаме уъркшопи за трансформиращия потенциал на каквото и да било.
И няма да изградим агент за проблем, който не се нуждае от такъв. Значителна част от ИИ проектите, за които ни питат, се решават по-добре с добре дефинирана API интеграция, индекс за търсене или с отстраняване на проблема с качеството на данните отдолу. Такава препоръка ни лишава от по-голям проект и ви спестява система, която иначе би трябвало да поддържате.
Къде това обикновено се изплаща
Вътрешно знание, което технически е налично, а на практика е недостъпно: хиляди документи в уики, споделен диск и система за тикети, а човекът, който знае кой от тях е актуален, е в отпуск.
Сортиране на голям обем: опашки за поддръжка, приемане на щети, входящи продажби, преглед на кандидатури. Всичко, при което в момента човек чете нещо, решава какво е и го препраща нататък.
Системи, които така и не получиха интеграция: два инструмента, които би трябвало да си комуникират, но не го правят, а заобиколното решение е човек с електронна таблица. Агент с MCP достъп до двата често е по-кратък път от официален интеграционен проект.
Дейности с много документи: договори, фактури, спецификации, регулаторни подавания. Извличането със стъпка за преглед от човек още днес е достатъчно надеждно, за да промени икономиката на тези процеси.
Продуктивност на разработчиците във вашия собствен код: вътрешни инструменти, помощ при преглед на кода, генериране на тестове и MCP сървъри, които дават на асистентите на екипа ви достъп до системата за билдове, системата за задачи и логовете.
Как протича проектът
Проучване, една до две седмици. Разглеждаме процеса, който искате да промените, засегнатите системи и как всъщност изглеждат данните. Резултатът е писмена оценка какво е осъществимо, колко ще струва месечната работа при вашия обем и какви са възможните откази. Понякога заключението е: не изграждайте това.
Доказателство на концепцията, три до шест седмици, върху реални данни в контролирана среда. Целта не е демо, а резултат от оценка, на който можете да се доверите, с измерена точност спрямо случаи, избрани от вас.
Изграждане за продукционна среда, обикновено осем до шестнадесет седмици, включително удостоверяване, оторизация, мониторинг, среда за оценка, контрол на разходите и документация. Внедрява се във вашата инфраструктура, във вашето хранилище, с участието на вашия екип през цялото време.
Експлоатация или предаване. Или екипът ви поема системата заедно с работните инструкции и тестовете за оценка, или ние продължаваме да я поддържаме. Моделите се сменят, промптовете се разминават с времето и именно тестовете за оценка ви казват кога нещо тихо се е влошило.
Технологии
Python и TypeScript за агенти и MCP; PostgreSQL с pgvector, Qdrant, Weaviate или OpenSearch за търсене; AWS Bedrock, Azure OpenAI, директните API на доставчиците и собствен хостинг на модели с vLLM или Ollama, когато данните не могат да напускат вашата среда; проследяване на базата на OpenTelemetry; а от страна на интеграцията: стекът, който вече имате, защото там всъщност се върши работата.
Често задавани въпроси
Какво е MCP сървър, казано просто?
Малка услуга, която предоставя дадена възможност (четене от база данни, създаване на тикет, търсене в документите ви) в стандартен формат, който ИИ асистентите разбират. Изградите ли веднъж такъв сървър, всеки асистент, съвместим с MCP, може да използва тази възможност без отделна интеграция.
Да изградим ли MCP сървър, или обикновена API интеграция?
Ако един ИИ асистент има нужда от една система, директната интеграция е по-проста. MCP се оправдава, когато няколко асистента или няколко екипа се нуждаят от едни и същи системи, когато искате възможността да е достъпна и за инструменти, които още не сте избрали, или когато искате правата и одитните записи да са на едно място.
Как не позволявате на агент да направи нещо разрушително?
На няколко нива. Инструментите, които записват, са отделени от тези, които четат, а инструментите за запис са ограничени толкова тясно, колкото позволява задачата. Всичко необратимо минава през одобрение от човек. Всяко извикване се записва с аргументите си. А агентът работи със служебна идентичност, която има само правата, нужни за задачата, така че възможните щети са ограничени от вашия собствен модел на оторизация, а не от промпта.
Колко струва това в експлоатация?
Зависи почти изцяло от обема и от това колко контекст носи всяко извикване. Изчисляваме го по време на проучването с реални числа, защото разликата между решение, което изпраща целия документ при всяка стъпка, и такова, което извлича само нужната част, може да е десетократна в месечните разходи.
Може ли това да работи, без данните ни да напускат ЕС?
Да. Големите доставчици предлагат региони в ЕС, а моделите с отворени тегла могат да работят на инфраструктура, която контролирате. Обикновено има компромис във възможностите и ще ви кажем конкретно какъв е, вместо да се правим, че няма такъв.
Последният ни пилотен ИИ проект не стигна до продукционна среда. Защо този би стигнал?
Обикновено защото пилотният проект е доказал, че моделът може да свърши задачата, но изобщо не е стигнал до удостоверяването, правата, обработката на грешки, оценката и разходите, а там са останалите деветдесет процента от работата. Ние започваме от предположението, че моделът работи, и посвещаваме проекта на всичко останало.
Как да започнем
Опишете процеса, който искате да промените, и системите, които той засяга. Ще ви кажем дали агентът е правилният инструмент, как изглежда реалистична първа версия и колко струва изграждането и поддръжката ѝ.
Свържете се с нас, за да уговорим техническа среща за проучване.
Свързани услуги
- Разширяване на екипа и аутсорсинг: ИИ инженери в рамките на вашия екип
- Инженерно съответствие с Акта за изкуствения интелект на ЕС: когато това, което изграждате, попада в обхвата му
- Оптимизация на разходите в AWS: натоварванията за инференция и търсене имат навика да изненадват
Готови ли сте да започнете с тази услуга?
Свържете се с нас