Amazon'un yeni ölçekleme kuralı, LLM'leri doğruluk kaybı olmadan yüzde 47'ye kadar hızlandırıyor

Amazon araştırmacıları, büyük dil modellerini (LLM) hızlandırmanın yeni bir yolunu ele aldı. Amazon Science blogunda 15 Mayıs 2026'da yayımlanan çalışmaya göre ekip, model mimarisindeki belirli tercihlerin loss değerine etkisini formülleştiren yeni bir ölçekleme kuralı (scaling law) geliştirdi. Kural, doğrulukta kayıp yaratmadan daha hızlı çalışan modellerin önceden belirlenmesini sağlıyor.

Ölçekleme kuralları, bir dil modelinin parametre sayısı ve eğitim verisi büyüdükçe performansının nasıl değiştiğini açıklayan denklemler olarak biliniyor. Amazon'un yaklaşımı bu çerçeveyi mimari değişkenlerle genişletiyor: Araştırmacılar, mimaride yapılan tercihlerin loss üzerindeki etkisini ölçüp bu ilişkiyi bir kurala bağlıyor. Böylece aynı doğruluk düzeyini koruyan ancak daha yüksek hız üreten mimari seçimler baştan tespit edilebiliyor.

Blog yazısında aktarılan rakamlara göre kuralın belirlediği modeller, throughput yani modelin birim zamanda işleyip ürettiği çıktı miktarında yüzde 47'ye kadar artış sağlıyor. Bu artışın doğrulukta herhangi bir kayba yol açmadığı belirtiliyor. Throughput, LLM servislerinde hem yanıt süresi hem de işletme maliyeti açısından kritik bir ölçüt.

Gelişme, LLM çalıştırma maliyetlerinin gündemde olduğu bir dönemde donanım yatırımı dışındaki verimlilik kaynaklarını görünür kılıyor. Mimari düzeyde yapılan doğru seçimler, mevcut hesaplama altyapısından daha fazla çıktı alınmasını olanaklı kılıyor. Ölçekleme kuralları zaten yeni bir model eğitilmeden önce kaynak planlamasında yaygın biçimde kullanılıyor; Amazon'un çalışması bu araç setini hız optimizasyonuna da taşıyor.