Microsoft, Çoklu Yapay Zeka Modellerini Yöneten Copilot Harness Sistemini Kullanıma Sundu

Microsoft, otonom yapay zeka ajanlarının farklı dil modelleri ve platformlar üzerinde eş zamanlı çalışmasını sağlayan orkestrasyon katmanı Microsoft Copilot harness sistemini geliştiricilere açtı. Orijinal olarak GitHub mühendislik ekibi tarafından geliştirilen ve şirket genelinde standartlaştırılan bu altyapı; Copilot Code, Copilot Studio, GitHub Copilot uygulaması, komut satırı arayüzü (CLI) ve VS Code gibi ürünlerin temelini oluşturuyor. Sistem, Microsoft Foundry platformu üzerinden hem indirilebilir SDK hem de bulutta tamamen yönetilen bir hizmet olarak sunuluyor.

Yapay zeka modellerinin etrafında bağlam yönetimi, yönlendirme, yürütme ortamı ve denetim mekanizmalarını kuran Copilot harness, 20'den fazla öncü yapay zeka modelini doğrudan destekliyor. Geliştiricilerin kendi API anahtarlarını kullanmasına (BYOK) da izin veren mimari, verilen görevin niteliğine göre iş yükünü en uygun modele veya model kombinasyonuna otomatik olarak yönlendiriyor. Orkestrasyon katmanı, Model Bağlam Protokolü (MCP) gibi açık standartların yanı sıra ajan becerileri ve eklentileriyle tam entegrasyon sunuyor.

Rust Dönüşümü ile Düşük Gecikme Süresi

Yapay zeka sistemlerindeki performans ve maliyet dengesini optimize etmek isteyen Microsoft, harness çalışma zamanını (runtime) yakın zamanda Rust diline taşıdı. Şirketin paylaştığı veriler doğrultusunda bu altyapı değişimi, oturum başına düşen işlem yükünü azaltırken ilk jeton üretme süresinde (time-to-first token) sektör lideri bir performans ve belirgin bir hız artışı sağladı. Milyonlarca kullanıcı ve yüzlerce gerçek dünya senaryosunda test edilen altyapı, korumalı alan (sandbox) yönetimi, yönetişim ve optimizasyon süreçlerini yerleşik olarak yürütüyor.

Yazılım geliştirme süreçlerinde farklı yapay zeka modelleri arasında geçiş yapma gereksinimi artarken, geliştiriciler için bu modelleri sürekli güncelleme ve orkestre etme maliyeti önemli bir yük oluşturuyor. Microsoft Foundry üzerindeki Copilot harness sayesinde kurumlar, arka plandaki altyapı bakımını üstlenmeden en yeni modelleri mevcut yazılım yığınlarına entegre edebiliyor. Şirketin altyapı düzeyinde yapacağı tüm performans iyileştirmeleri, Foundry üzerinde çalışan ajanlara da doğrudan yansıyor.