Yerelde yapay zekâ için ne kadar bellek gerekiyor? Framework 32, 64 ve 128 GB'ı karşılaştırdı

Modelleri kendi bilgisayarında çalıştırmak isteyenlerin karşılaştığı ilk soru bellek miktarı. Framework, Ryzen AI Max tabanlı masaüstü bilgisayarında sunduğu 32, 64 ve 128 GB seçeneklerini hangi modellerin çalıştığı üzerinden karşılaştıran bir yazı yayımladı.

AMD'nin bu yonga ailesinde belleğin işlemci ve grafik birimi arasında paylaşılması, yerel yapay zekâ topluluğunun ilgisini çekmişti. Klasik bir bilgisayarda modelin ekran kartı belleğine sığması gerekirken, burada sistem belleğinin büyük bölümü modele ayrılabiliyor.

Şirketin aktardığına göre ürün 2025'te çıktığında ilgi büyük ölçüde 128 GB sürümünde toplanmıştı. 2026'da tablo değişti: bellek fiyatlarındaki artış ve daha küçük ama yetenekli modellerin gelişmesi, ucuz sürümleri cazip hâle getirdi.

Öneriler yapılandırma başına veriliyor. 32 GB sürümde kodlama işleri için Qwen3.8-27B, daha geniş görevler için Qwen3.6-35B-A3B öneriliyor; bu yapılandırmada görsel ve video üretimi de mümkün. 64 GB sürüm ya aynı modelleri daha yüksek hassasiyette çalıştırmaya ya da Qwen3.5-122B-A10B gibi daha büyük parametreli modellere geçmeye imkân veriyor. 128 GB sürümde ise en güçlü seçenek olarak DeepSeek V4 Flash gösteriliyor; çoklu görsel işleme için Inkling-Small alternatif olarak sunuluyor.

Yazıda öne çıkan teknik gözlemlerden biri model mimarisiyle ilgili: uzman karışımı mimarisi kullanan modeller bu donanımda belirgin biçimde daha hızlı çalışıyor. Bunun nedeni her çağrıda parametrelerin yalnızca küçük bir bölümünün etkin olması — bellek bant genişliğinin sınırlayıcı olduğu bir sistemde bu doğrudan hıza yansıyor.

Yazı ayrıca llama.cpp, Ollama ve ComfyUI gibi araçların bu platforma özgü optimizasyonlarını ve Linux ortamında yapılan performans ölçümlerini de içeriyor.