Tarayıcıda yerel yapay zekâ için 207 WebGPU çekirdeği yayımlandı

Yapay zekâ modellerini sunucuya göndermeden doğrudan kullanıcının tarayıcısında çalıştırmanın önündeki engel uzun süre performanstı. WebGPU bu engeli kaldırmaya aday: modern tarayıcılarda taşınabilir bir arayüz sunuyor ve WGSL, bu işlemleri yürüten gölgelendiriciler için ortak bir dil sağlıyor.

Ancak taşınabilirlik kendiliğinden performans getirmiyor. Aynı işlemi uygulayan ve aynı çıktıyı üreten iki gölgelendirici, farklı hızlandırıcılarda tamamen farklı davranabiliyor. Çalışma grubu boyutları, bellek erişim desenleri, vektörleştirme, veri tipleri ve birleştirme stratejileri performansı etkiliyor; en iyi seçim girdi şekline, cihaza, tarayıcıya ve mevcut WebGPU özelliklerine göre değişiyor.

Hugging Face'in duyurduğu @huggingface/kernels paketi bu katmanı hazır hâle getiriyor. npm üzerinden kurulan kütüphane, Hub'da yayımlanmış optimize edilmiş WebGPU çekirdeklerini indirip çalıştırıyor. İlk koleksiyonda 207 çekirdek bulunuyor ve bunlar farklı makine öğrenmesi mimarilerinde kullanılan işlemleri kapsıyor: matris çarpımları, normalizasyonlar, evrişimler, dikkat ilkelleri, nicemleme işlemleri ve veri düzeni dönüşümleri.

Koleksiyonun ayırt edici yanı yayımlanma biçimi. Her çekirdek eksiksiz ve sürümlenmiş bir paket olarak yayımlanıyor: arayüzü, gölgelendirici şablonları, doğruluk testleri, kıyaslama senaryoları ve kullanım yönergeleri aynı yerde duruyor. Her çekirdeğin kendi deposu ve kartı var; kart işlemin anlamını, girdilerini, çıktılarını, desteklenen veri tiplerini ve çalıştırılmaya hazır bir örneği belgeliyor.

Ekosistemde Fleet adlı tarayıcı tabanlı bir kıyaslama aracı da var. Fleet çekirdekleri kullanıcının kendi donanımında çalıştırıp puanlıyor; ancak asıl amacı topluluktan kanıt toplamak. Kullanıcı onay verdiğinde her çalıştırma, geliştirme ekibinin geleneksel bir test laboratuvarında asla kapsayamayacağı cihazlardan performans ve doğruluk kanıtı ekliyor — yanlış sonuçlar ve anormal derecede yavaş durumlar böyle tespit edilebiliyor.

Kütüphane Apache 2.0 lisanslı. Çalışması için WebGPU destekleyen güncel bir tarayıcı gerekiyor; destek "gpu" in navigator kontrolüyle sınanabiliyor.