Yapay Zeka Ajanı Geliştirme ve MCP Sunucusu Entegrasyonu: Dil Modellerini Zaten Kullandığınız Sistemlere Bağlamak

Demoların hepsi çalışıyor. Belgelerinizi özetleyen pilot etkileyiciydi, destek sorularını yanıtlayan prototip hazır görünüyordu; sonra gerçek CRM ile, gerçek yetki modeliyle ve gerçek veriyle karşılaştı ve hazır olmaktan çıktı.

İşin kendisi o boşluktur. Model değil (model artık işin kolay kısmı), bir dil modeli ile kimlik doğrulama, istek sınırları, çok kiracılılık ve kimin neyi görebileceği konusunda kendi kuralları olan bir sistem arasındaki her şey.

Neler inşa ediyoruz

İç sistemleriniz için MCP sunucuları

Model Context Protocol, araçları ve verileri yapay zeka asistanlarına istemciden istemciye tutarlı bir şekilde sunmak için kullanılan açık bir standarttır. “Her asistan için ayrı bir entegrasyon yazmadan bir asistanın sistemlerimizi kullanmasını nasıl sağlarız” sorusunun pratik cevabı hâline geldi.

İşletmenizin fiilen kullandığı sistemler üzerinde üretim ortamına hazır MCP sunucuları geliştiriyoruz: CRM'iniz, destek talep sisteminiz, veri ambarınız, iç API'leriniz, belge deponuz, ERP'niz. Koda gömülü bir token'la çalışan bir demo sunucusu değil; düzgün kimlik doğrulaması, sistemlerinizin zaten uyguladığı yetkilere saygı gösteren kullanıcı bazında yetkilendirme, kiracılar arası yalıtım, istek sınırlama, yapılandırılmış günlük kaydı ve bir çağrı başarısız olduğunda modele işe yarar bir şey söyleyen bir hata yüzeyi olan bir sunucu.

Özel yapay zeka ajanları ve asistanlar

Bir işi baştan sona yapan ajanlar: gelen bir kuyruğu önceliklendirmek, birbiriyle çelişen iki sistemi uzlaştırmak, bir insanın daha sonra onaylayacağı bir belgenin ilk taslağını hazırlamak, iç ve dış kaynaklar üzerinde bir araştırma görevi yürütmek. Bunları sıkıcı ama gerekli parçalarıyla birlikte inşa ediyoruz: yeniden denemeler, zaman aşımları, maliyet tavanları, yazma yapan her işlemde idempotency ve geri alınması zor her eylemde bir insan onayı adımı.

Kendi içeriğiniz üzerinde arama ve getirme

Doğru yapılmış RAG: karakter sayısına değil yapıya saygı gösteren belge alımı ve parçalama (chunking), embedding'ler ve vektör arama, salt vektör arama tam eşleşmeleri kaçırdığı için anahtar kelime ve anlamsal aramayı birleştiren hibrit getirme, yeniden sıralama (reranking) ve bir yanıtın kontrol edilebilmesi için kaynağa geri dönen atıflar. Bir de işin göz alıcı olmayan yarısı: alttaki belgeler değiştikçe dizini güncel tutmak ve erişim kontrolüne uymak; böylece getirme işlemi kullanıcının başka türlü açamayacağı bir belgeyi asla önüne getirmez.

İş akışı ve arka ofis otomasyonu

Her şeyin bir ajana ihtiyacı yoktur. Şirketlerin yapay zekadan istediklerinin büyük bir kısmı sınıflandırma, bilgi çıkarma ve yönlendirmedir: gelen bir e-postayı okuyup ne olduğuna karar vermek, yapılandırılmamış bir belgeden yapılandırılmış veri çıkarmak, bir açıklamayı bir katalog kaydıyla eşleştirmek. Bunlar bir ajandan daha ucuz, daha güvenilir ve değerlendirmesi daha kolaydır; doğru cevap buysa onun yerine bunu inşa ediyoruz.

Değerlendirme, gözlemlenebilirlik ve koruma önlemleri

Değerlendirmesi olmayan bir yapay zeka özelliği, kimsenin iyileştiremeyeceği bir özelliktir. Gerçek vakalarınızdan test setleri oluşturuyor, her değişiklikte bunlara göre ölçüm yapıyor, her çağrıyı girdileri, araç kullanımı, gecikmesi ve maliyetiyle izliyor ve kontrolden çıkmış bir döngü API faturanızı bulmadan önce sınırlar koyuyoruz. Bir ajan güvenilmeyen içerik okuduğu ve aynı zamanda eylemde bulunabildiği anda prompt injection gerçek bir risktir. Araç sınırını, kötü niyetli bir belgenin yıkıcı bir eyleme dönüşemeyeceği şekilde tasarlıyoruz.

Model sağlayıcılarıyla nasıl çalışıyoruz

Tek bir sağlayıcıya bağlı değiliz. Anthropic'in Claude modelleri, OpenAI, Google ve kendi altyapınızda çalışan açık ağırlıklı (open-weight) modellerle geliştirme yapıyor ve entegrasyonu, modelin değiştirilebilir bir bileşen olacağı şekilde tasarlıyoruz. Hangisini kullanmanız gerektiği; göreve, ihtiyaç duyduğunuz gecikmeye, sizin hacminizde çağrı başına maliyete ve (Avrupa'da giderek daha belirleyici olan) verinin nereye gidebileceğine bağlıdır.

Veri yerelleştirme kısıtları olan müşteriler için AB bölgelerine ya da kendi donanımınızdaki şirket içi çıkarım (self-hosted inference) altyapısına kurulum yapıyor ve bunun size hangi noktada yetenek kaybettirdiğini dürüstçe söylüyoruz.

Bu ne değildir

Bir yapay zeka strateji danışmanlığı değiliz. Herhangi bir şeyin dönüştürücü potansiyeli hakkında atölye çalışmaları düzenlemiyoruz.

Ayrıca ajana ihtiyaç duymayan bir sorun için ajan geliştirmeyiz. Bize sorulan yapay zeka projelerinin hatırı sayılır bir kısmı; iyi tanımlanmış bir API entegrasyonuyla, bir arama diziniyle ya da altta yatan veri kalitesi sorununu düzelterek daha iyi çözülür. Bunu önermek bize daha büyük bir işe mal olur, size ise bakımını yapmak zorunda kalacağınız bir sistemden tasarruf ettirir.

Bunun genellikle karşılığını verdiği alanlar

Teknik olarak erişilebilir ama pratikte ulaşılamaz olan kurum içi bilgi: bir wiki, ortak bir sürücü ve bir destek talep sistemi arasında dağılmış binlerce belge ve hangisinin güncel olduğunu bilen kişi tatilde.

Yüksek hacimli önceliklendirme: destek kuyrukları, hasar dosyası kabulü, gelen satış talepleri, başvuru incelemesi. Bugün bir insanın bir şeyi okuduğu, ne olduğuna karar verdiği ve bir sonraki adıma ilettiği her şey.

Hiçbir zaman entegrasyonu yapılmamış sistemler: birbiriyle konuşması gereken ama konuşmayan iki araç ve geçici çözüm olarak elinde bir tabloyla bir kişi. Her ikisine de MCP erişimi olan bir ajan, çoğu zaman resmî bir entegrasyon projesinden daha kısa bir yoldur.

Belge yoğun operasyonlar: sözleşmeler, faturalar, teknik şartnameler, mevzuat bildirimleri. İnsan incelemesi adımı içeren bilgi çıkarma, bu süreçlerin ekonomisini bugün değiştirecek kadar güvenilirdir.

Kendi kod tabanınızda geliştirici verimliliği: iç araçlar, kod incelemesi desteği, test üretimi ve ekibinizin asistanlarına derleme sisteminize, iş takip aracınıza ve günlüklerinize erişim sağlayan MCP sunucuları.

Çalışmalar nasıl yürür

Keşif: bir ile iki hafta. Değiştirmek istediğiniz sürece, ilgili sistemlere ve verinin gerçekte nasıl göründüğüne bakıyoruz. Çıktı; neyin uygulanabilir olduğuna, sizin hacminizde aylık işletme maliyetinin ne olacağına ve hata modlarının neler olduğuna dair yazılı bir değerlendirmedir. Bazen bu değerlendirme “bunu geliştirmeyin” der.

Kavram kanıtı: üç ile altı hafta, kontrollü bir ortamda gerçek veriler üzerinde. Amaç bir demo değil. Amaç, sizin seçtiğiniz vakalara karşı ölçülmüş bir doğruluk oranıyla güvenebileceğiniz bir değerlendirme sonucudur.

Üretim ortamı için geliştirme: genellikle sekiz ile on altı hafta; kimlik doğrulama, yetkilendirme, izleme, değerlendirme altyapısı, maliyet kontrolleri ve dokümantasyon dahil. Sizin altyapınıza, sizin deponuza kurulur ve ekibiniz süreç boyunca işin içinde olur.

İşletme veya devir. Ya ekibiniz çalıştırma kılavuzu (runbook) ve değerlendirme paketiyle birlikte sistemi devralır ya da biz destek kapsamında işletmeye devam ederiz. Modeller değişir, prompt'lar kayar ve bir şeyin sessizce kötüleştiğini size söyleyen şey değerlendirme paketidir.

Teknoloji

Ajan ve MCP çalışmaları için Python ve TypeScript; getirme için pgvector ile PostgreSQL, Qdrant, Weaviate veya OpenSearch; AWS Bedrock, Azure OpenAI, doğrudan sağlayıcı API'leri ve verinin dışarı çıkamadığı durumlarda vLLM veya Ollama ile şirket içi çıkarım; OpenTelemetry tabanlı izleme; ve entegrasyon tarafında mevcut teknoloji yığınınız ne ise o, çünkü işin asıl yapıldığı yer orasıdır.

Sık sorulan sorular

MCP sunucusu, en basit hâliyle nedir?

Bir yeteneği (bir veritabanından okumak, bir destek talebi oluşturmak, belgelerinizde arama yapmak) yapay zeka asistanlarının anladığı standart bir biçimde sunan küçük bir servistir. Bir tane geliştirin, MCP uyumlu her asistan o yeteneği her biri için ayrı bir entegrasyona gerek kalmadan kullanabilsin.

MCP sunucusu mu geliştirmeliyiz, yoksa normal bir API entegrasyonu mu?

Tek bir yapay zeka asistanının tek bir sisteme ihtiyacı varsa doğrudan entegrasyon daha basittir. MCP; birkaç asistanın veya birkaç ekibin aynı sistemlere ihtiyaç duyduğu, yeteneğin henüz seçmediğiniz araçlara da açık olmasını istediğiniz ya da yetkilerin ve denetim kayıtlarının tek bir yerde durmasını istediğiniz durumlarda kendini amorti eder.

Bir ajanın yıkıcı bir şey yapmasını nasıl engelliyorsunuz?

Katman katman. Yazma yapan araçlar okuma yapan araçlardan ayrılır ve yazma araçlarının kapsamı görevin izin verdiği kadar dar tutulur. Geri alınamayan her şey bir insan onayı adımından geçer. Her çağrı argümanlarıyla birlikte kaydedilir. Ve ajan yalnızca işin gerektirdiği yetkilere sahip bir servis kimliğiyle çalışır; böylece olası hasarın sınırını prompt değil, sizin kendi yetkilendirme modeliniz çizer.

Bunu çalıştırmanın maliyeti nedir?

Neredeyse tamamen hacme ve her çağrının ne kadar bağlam taşıdığına bağlıdır. Bunu keşif aşamasında gerçek rakamlarla modelliyoruz, çünkü her adımda belgenin tamamını gönderen bir tasarım ile yalnızca ilgili kısmı getiren bir tasarım arasındaki fark, aylık maliyette on kata varabilir.

Bu, verilerimiz AB dışına çıkmadan çalışabilir mi?

Evet. Büyük sağlayıcılar AB bölgeleri sunuyor ve açık ağırlıklı modeller sizin kontrol ettiğiniz altyapıda çalışabiliyor. Genellikle yetenek açısından bir ödünleşim vardır ve hiç yokmuş gibi davranmak yerine bunun ne olduğunu net olarak söyleriz.

Son yapay zeka pilotumuz üretime geçemedi. Bu neden geçsin?

Genellikle bunun nedeni, pilotun modelin görevi yapabildiğini kanıtlaması ama kimlik doğrulama, yetkiler, hata işleme, değerlendirme veya maliyete hiç dokunmamasıdır; oysa işin geri kalan yüzde doksanı oradadır. Biz modelin çalıştığı varsayımıyla başlıyor ve çalışmanın tamamını geri kalan her şeye ayırıyoruz.

Başlayın

Değiştirmek istediğiniz süreci ve dokunduğu sistemleri anlatın. Size bir ajanın doğru araç olup olmadığını, gerçekçi bir ilk sürümün neye benzediğini ve geliştirmenin ve işletmenin maliyetini söyleyelim.

Teknik bir keşif oturumu ayarlamak için bizimle iletişime geçin.

İlgili hizmetler

• Ekip Takviyesi ve Dış Kaynak Kullanımı: ekibinize katılan yapay zeka mühendisleri
• AB Yapay Zeka Yasası (AI Act) Uyumluluk Mühendisliği: geliştirdiğiniz şey kapsama girdiğinde
• AWS Maliyet Optimizasyonu: çıkarım ve getirme iş yükleri insanları şaşırtmayı sever