Anthropic'ten kurumsal müşterilere veri Anthropic'e hiç gitmeden kötüye kullanım denetimi

Düzenlemeye tabi sektörlerde yapay zekâ kullanımının önündeki engel çoğu zaman modelin yeteneği değil, verinin nereye gittiği sorusu. Anthropic'in duyurduğu Enterprise Frontier Safeguards (EFS) bu soruya yanıt olarak kuruldu.

Programın çözmeye çalıştığı ikilem şu: kötüye kullanımı tespit etmek için sistemin konuşmaları incelemesi gerekiyor, ancak sıfır veri saklama isteyen kurumlar tam olarak bunu istemiyor. Üstelik en karmaşık kötüye kullanım, birden fazla oturuma ve hesaba yayılmış görevlerden oluşuyor; her etkileşimi tek tek inceleyip veriyi anında silmek yeterli olmuyor. Etkili tespit, verinin zaman içinde ve hesaplar arasında ilişkilendirilebilmesini gerektiriyor.

Şirket bu nedenle Fable 5 ile birlikte 30 günlük veri saklama uygulamasına geçmişti. Anthropic bunun eğitim amacıyla yapılmadığını, kurumsal veriyle açık izin olmadan hiçbir zaman eğitim yapılmadığını ve yapılmayacağını vurguluyor. Ancak özellikle düzenlemeye tabi sektörlerdeki kurumlar, veri saklayan modelleri kullanmakta zorlanıyordu.

EFS'in çözümü verinin yerini değiştirmek. Veriler müşterinin kendi bulut altyapısında — AWS S3, Azure Blob ya da Google Cloud Storage — ve müşterinin yönettiği şifreleme anahtarlarıyla saklanıyor. Güvenlik izlemesi otomatik çalışıyor; Anthropic tarafında insan incelemesi yok ve tespit edilen sinyaller doğrudan müşteriye gidiyor.

Programın geliştirilmesinde 100'den fazla müşteri ve şirketin bulut ortakları AWS, Google Cloud ile Microsoft Azure yer aldı. Çalışılan gruplardan biri, üyeleri arasında Goldman Sachs, Morgan Stanley, Citi, Bank of America ve Wells Fargo gibi büyük ABD bankalarının bilgi güvenliği yöneticilerinin bulunduğu Analysis and Resilience Center for Systemic Risk oldu. Comcast, KPMG, Mastercard, Salesforce ve Visa gibi şirketlerin yöneticileriyle de görüşüldüğü, konuşmaların Fortune 100'ün dörtte birini ve ABD'nin sistemik öneme sahip tüm küresel bankalarını kapsadığı belirtiliyor.

Gerekçe olarak gösterilen tehdit tablosu da somut: şirket son aylarda dolandırıcılık gibi bilinen kötüye kullanım biçimlerinden, ajanların kendi başına yıkıcı davranışa giriştiği karmaşık siber saldırılara kadar uzanan girişimlere dair önemli kanıt gördüğünü aktarıyor. Bunların bir kısmı kurumsal müşterilerin kimlik bilgilerinin çalınmasını içeriyor — trafiği izleyip anormal davranışı tespit etme imkânı olmadan yakalanması zor bir saldırı türü.

EFS, Claude Code, Claude Enterprise, Claude Platform, Amazon Bedrock, Google'ın Agent Platform'u ve Microsoft Foundry üzerinde desteklenecek. Sonbahar boyunca aşamalı olarak devreye alınacak; geçiş tamamlanana kadar uygun müşteriler Fable 5 ve Fable 5.1'de sıfır veri saklama ile devam edecek.