Cloudflare, AI Gateway üzerinden Web Search API sunmaya başladı

Cloudflare, AI Gateway ürününe yerleşik web arama API'si desteği ekledi. Yeni özellik sayesinde geliştiriciler, model çıkarım (inference) çağrılarına gerçek zamanlı web bağlamı ekleyebiliyor. Entegrasyon, arama alanında faaliyet gösteren üç sağlayıcıyla ortaklık içinde geliştirildi: Ceramic.ai, Exa ve Linkup.

Web arama yeteneği üç farklı yoldan kullanılabiliyor: AI Gateway arayüzü üzerinden, doğrudan REST API çağrılarıyla veya Workers bindings üzerinden. Bu, Cloudflare ekosisteminde çalışan uygulamaların harici bir arama servisi için ayrı entegrasyon kodu yazmasına gerek kalmadan arama sonuçlarını model isteklerine dahil edebileceği anlamına geliyor.

Neden önemli

Büyük dil modelleri eğitildikleri andan itibaren geçerli bilgilerle sınırlı kalıyor; güncel haberler, fiyatlar veya son yayınlanan dokümanlar modelin bilgi kesim tarihinden sonra ortaya çıkan içerikler arasında yer alıyor. Bu boşluğu doldurmak için geliştiriciler genellikle retrieval-augmented generation (RAG) mimarileri kuruyor ve bu mimarilerin merkezinde bir web arama katmanı bulunuyor. Cloudflare'in bu katmanı AI Gateway'e yerel olarak taşıması, zaten gateway üzerinden trafik yöneten ekipler için arama sağlayıcı seçimini ve değişimini kolaylaştırıyor.

Üç sağlayıcıyla çalışılması da tek bir arama motoruna bağımlılığı azaltıyor: Geliştirici, maliyet, sonuç kalitesi veya kapsama alanı açısından ihtiyacına uyan sağlayıcıyı seçip gateway üzerinden aynı arayüzle kullanabiliyor. Cloudflare'in AI Gateway'i, farklı yapay zeka sağlayıcılarına giden istekleri tek noktadan yönetmek, loglamak ve kontrol etmek için tasarlanmış bir katmandı; web aramayı da bu yönetim alanına dahil etmek, gateway'in kapsamını salt model çağrılarının ötesine taşıyor.

Özellik, Cloudflare'in yapay zeka altyapısı tarafındaki genişleme çabasının son adımı. Şirket, Workers üzerinden sunucusuz GPU işleme ve model barındırma ürünleriyle birlikte, uygulama geliştirme aşamasından çıkarım altyapısına uzanan bir yığın kurmayı hedefliyor; Web Search API bu yığının veri erişim katmanını tamamlıyor.