Ollama artık metni sese çeviriyor: İlk konuşma modeli Phonon oldu

Yerel dil modeli çalıştırma aracı Ollama, artık metni konuşmaya çevirebiliyor. Platformun desteklediği ilk konuşma modeli, Gradium tarafından geliştirilen Phonon ailesi. Phonon; İngilizce dahil beş dilde, onlarca farklı sesle metin seslendirebiliyor ve ses, üretildiği anda akışla çalınmaya başlıyor.

Performans tarafında şirket, Apple Silicon işlemcilerde sesin gerçek zamanlı hızın 100 katından daha hızlı üretildiğini bildiriyor. Ollama, Mac'lerde Apple'ın makine öğrenme çerçevesi MLX ile hızlanıyor. Şirketin verdiği ölçüme göre MacBook Pro (M5 Max) üzerinde Ollama, sıradaki en hızlı motor olan Gradium'ın kendi çalışma zamanından yüzde 35 daha hızlı. Doğruluk tarafında ise Ollama uygulaması, Hugging Face Transformers'taki referans uygulama ile aynı kelime hatası oranına ulaşıyor.

Konuşma modelleri şimdilik yalnızca macOS'ta kullanılabiliyor; Windows ve Linux desteği yolda. Kullanmak için Ollama 0.40.11 veya üzeri bir sürüm indirmek ve Phonon modelini çekmek gerekiyor. Ses seçimi komut satırında --voice parametresiyle ya da API üzerinden yapılabiliyor; kullanılabilir sesler Gradium'ın ses kataloğundan geliyor ve ollama show phonon komutuyla listelenebiliyor.

Phonon aynı zamanda OpenAI ile uyumlu /v1/audio/speech uç noktasını destekliyor; OpenAI SDK kullanan mevcut kodlar yalnızca yeni bir temel URL ile çalışıyor. Üretilen ses 24 kHz mono, varsayılan olarak WAV formatında döndürülüyor; "response_format": "pcm" ile ham 16-bit örnekler de alınabiliyor. Chat modelinin yanıtını Phonon'a yönlendirerek, yanıtın ilk cümlesi tamamlanır tamamlanmaz sesli çalınması mümkün. Çıktı bir dosyaya yönlendirilerek WAV olarak kaydedilebiliyor.

Lisans tarafında dikkat çeken bir ayrım var: phonon model adı Apache 2.0 ile yayımlanırken, 40M boyutundaki modeller CC BY-NC 4.0 kapsamında ve yalnızca ticari olmayan kullanıma izin veriyor. Yani Phonon'u ticari bir ürüne gömmek isteyen geliştiricilerin lisans koşullarını dikkatle incelemesi gerekiyor.