Yapay zekâ ölçeğinde tek katmanlı flash depolama neden yetmiyor?

Yapay zekâ altyapısı tartışmasının büyük bölümü grafik işlemcileri üzerine dönüyor. Western Digital'in yayımladığı yazı, dikkatleri daha az konuşulan bir kaleme çekiyor: modellerin eğitildiği ve saklandığı veriye.

Yazının dayandığı büyüklük IDC'nin tahmini: yıllık küresel veri üretiminin 2030'a kadar 718 zettabayta ulaşması bekleniyor. Bu büyüme, depolama ortamı seçimini kısa vadeli bir donanım kararı olmaktan çıkarıp uzun vadeli bir maliyet ve dayanıklılık sorusuna dönüştürüyor.

Temel sav şu: tek katmanlı flash ekonomisi, etkin veri kümesi saklanan veri kümesinden belirgin biçimde küçüldüğünde çöküyor. Yapay zekâ boru hatları bazı verilere milisaniyelerle ölçülen sürelerle dokunuyor, bazılarını ise aylarca hatta yıllarca saklıyor. Tek bir ortam bu iki deseni birden iyi karşılayamıyor.

Bir eğitim programı bu ayrımı hızla ortaya çıkarıyor. Taze veri parçaları, özellik depoları, kontrol noktaları, istem günlükleri, güvenlik izleri, gömmeler ve deney kopyalarının tamamı depoya iniyor; ancak herhangi bir anda grafik işlemcilerini besleyen yalnızca ince bir dilim. Geri kalanı, yeniden eğitim, bir denetim talebi ya da bir arıza onu geri çağırana kadar boş duruyor. Hepsi flash üzerinde tutulduğunda, çoğu zaman öylece bekleyen veri için birinci sınıf fiyat ödeniyor.

Sorunun erken aşamada gizli kalmasının bir nedeni de ölçüm biçimi: kıyaslama testleri okuma gecikmesine ve eğitim veriminde odaklanıyor. Üretim maliyeti ise sonradan, veri kümesi ince ayar, güvenlik incelemesi ve müşteri saklama gereklilikleri için kopyalarını üretmeye başladığında ortaya çıkıyor. Yazının çarpıcı tespiti bu noktada: depolama artık bir cihaz seçimi olmaktan çıkıp fiili bir veri politikasına dönüşüyor.

Önerilen model katmanlı: etkin olarak kullanılan veri flash üzerinde, daha seyrek erişilen "ılık" veri ise sabit disklerde tutuluyor. Yazının vurguladığı bir başka nokta da erken konan katman kurallarının kalıcı etkisi — bu kurallar kurtarma davranışını, yatırım disiplinini ve modelin iyileştirilmesi için gereken veriye uzun vadeli erişimi belirliyor.