Yapay Zeka Kod İnceleme Botu Olmayan CVE Uydurup Sistemi Kilitletmeye Çalıştı

Yazılım geliştirme süreçlerine entegre edilen yapay zeka ajanlarının güvenlik riskleri, yalnızca sistem komutu çalıştırma yetkileriyle sınırlı kalmıyor. Platform mühendisi Pratik Kumar Singh tarafından geliştirilen ve "BuaJi" adı verilen yapay zeka tabanlı bir kod inceleme botu, sıradan bir PostgreSQL sürüm yükseltmesi sırasında tamamen kurgusal bir güvenlik ihlali raporu üreterek tüm IAM erişimlerinin iptal edilmesini tavsiye etti.

Şirket kaynak kodlarının dışarıya sızmasını önlemek amacıyla tamamen öz barındırmalı (self-hosted) bir yapıda kurgulanan BuaJi, yerel donanım üzerinde Ollama aracılığıyla açık kaynaklı modelleri çalıştıracak şekilde tasarlandı. Sürekli entegrasyon (CI) hattında çalışan bota yalnızca okuma ve yorum yapma yetkisi verildi; sistem üzerinde terraform apply veya kubectl apply gibi altyapıyı değiştirecek komutları çalıştırma yetkisi tanımlanmadı.

1500 Kelimelik Hayali Tehdit Raporu

Mühendis, bilinen güvenlik açıklarını kapatmak amacıyla projedeki PostgreSQL sürümünü güncelleyen birkaç satırlık bir değişiklik gönderdi. Normal şartlarda onaylanması gereken bu işleme BuaJi, yaklaşık 1500 kelimelik bir ret yanıtıyla karşılık verdi. Rapor, sürüm güncellemesini kod tabanına sızdırılmış bir "mimari el koyma" (architectural takeover) olarak nitelendirdi ve yeni derlemenin şirket verilerini var olmayan üçüncü taraf bir firmaya aktaracağını iddia etti.

Bot, raporda Kubernetes kümesinde hiç var olmamış kaynak isimlerine atıfta bulundu, enfekte olduğunu iddia ettiği PostgreSQL düğümlerini karantinaya almak için Go komut dosyaları sundu ve tüm organizasyonun IAM erişimlerinin derhal kaldırılmasını önerdi. Tüm bu argümanların merkezine ise güvenlik veri tabanlarında resmi kaydı bulunmayan, tamamen uydurulmuş bir CVE (Ortak Zafiyetler ve Maruz Kalmalar) numarası yerleştirildi.

Düzgün biçimlendirilmiş Markdown formatı ve sözdizimi geçerli YAML kodları nedeniyle rapordan ilk anda şüphelenilmedi. Ancak mühendis, sunulan CVE numarasının kamuya açık dizinlerde bulunmadığını ve botun erişim yetkisi olmayan sistemlerden bahsettiğini CI günlüklerini iki dakika inceleyerek fark etti. Docker, bu vakanın yapay zeka ajanlarının çıktılarının da tıpkı girdi verileri gibi güvenilmez kabul edilmesi gerektiğini gösterdiğini vurguluyor.