Kodlama ajanlarına kalıcı hafıza veren açık kaynaklı araç: Funes

Kodlama ajanlarıyla çalışanların ortak şikâyeti şu: her yeni oturum sıfırdan başlıyor. Geçen salı verilen karar, oturum kapandığında kayboluyor. Farklı makinelerde çalışan ve göreve göre ajan değiştiren biri için her ajan, projeyle bir yabancı olarak karşılaşıyor.

Oysa ajanlar kaybettiğimiz kaydı zaten üretiyor. Bir kod tabanında arama yaparken, yaklaşımlar denerken, hatalarla karşılaşırken, belge okurken ve yön değiştirirken geride yalnızca neyin değiştiğini değil, neden değiştiğini de anlatan yoğun bir kayıt bırakıyorlar. Sorun bu kaydın kullanılabilir olmaması: on bin turluk bir arşivde "akış tabanlı ayrıştırıcıdan neden vazgeçtik?" sorusunun cevabına metin aramasıyla ulaşılamıyor.

Funes adlı açık kaynaklı araç bu boşluğu hedefliyor. Ajanların makinede zaten duran oturum kayıtlarından indekslenmiş ve aranabilir bir bellek kuruyor. Araç Claude Code, Codex, pi ve Hermes ile çalışıyor; tek bir komutla kuruluyor. Bu komut ilk indeksi oluşturuyor, ajana hatırlama ve getirme araçlarını veriyor ve tamamlanan her turu otomatik indeksleyen düzeneği kuruyor. İndeksleme artımlı: yeni çalışmalar tüm geçmişi yeniden işlemek yerine yalnızca yeni turları ekliyor.

Kullanımda dikkat çeken nokta, hatırlamanın konuşmanın içinde gerçekleşmesi. Bir görev geçmiş bir karara, gerekçeye ya da bulguya dokunduğunda ajan belleğe kendisi başvuruyor; kullanıcının eski oturumu hatırlaması ya da bağlamı kopyalayıp yapıştırması gerekmiyor. Sonuçlar da özet değil: araç orijinal metni döndürüyor ve nereden geldiğini tam olarak gösteriyor — hangi ajan, hangi zaman damgası, hangi oturum ve tur. Her sonuç, o turun tamamını ve çevresindeki bağlamı açan bir komutla birlikte geliyor.

Teknik tarafta araç tek bir çalıştırılabilir dosya ve varsayılan çıkarım arka ucunun makine öğrenmesi çalışma zamanı bağımlılığı yok. Gömme ve yeniden sıralama kullanıcının makinesinde yapılıyor, izler yerel bir Lance veri kümesine yazılıyor. Sorgu vektör araması ile BM25'i birleştiriyor, sıralamaları kaynaştırıyor, adayları bir çapraz kodlayıcıyla yeniden sıralıyor, güncelliğe göre ağırlıklandırıyor ve komşu parçaları ekliyor.

Tasarımın üç sonucu var: tüm ajanlar aynı belleğe yazdığı için hatırlama onların geçmişlerini birlikte kapsıyor; ham kanıt olduğu gibi kalıyor, hiçbir şey yazma anında bir "bilgi"ye indirgenmiyor; ve hatırlama varsayılan olarak yerel çalışıyor — hesap ya da uzak depo gerekmiyor. Bellek isteğe bağlı olarak kullanıcının sahip olduğu bir Hugging Face veri kümesine bağlanabiliyor, varsayılan ayar gizli.