OpenAI politika direktörü: güçlenen yetenekler daha güçlü güvenlik kanıtı gerektirir

Yapay zekâ düzenlemesi tartışmasında şirketlerin konumu genellikle savunmacı olur. OpenAI'den Chris Lehane'in kaleme aldığı yazı bunun aksine, harekete geçme çağrısı yapıyor.

Yazının ana savı, yetenek ile kanıt arasındaki dengeye dayanıyor: modeller güçlendikçe, güvenli olduklarına dair sunulan kanıtın da güçlenmesi gerekiyor. Bugün büyük ölçüde şirketlerin kendi beyanına dayanan bu alanda, ortak standartların yokluğu karşılaştırmayı imkânsız kılıyor.

Lehane'in ikinci vurgusu zamanlama üzerine. Politika penceresinin şu anda açık olduğunu, kalıcı düzenleyici adımların bu dönemde atılması gerektiğini savunuyor.

Yapay zekâ düzenlemesi tartışmasında şirketlerin konumu genellikle savunmacı olur; bu nedenle sektörden gelen düzenleme çağrıları kendi başına dikkat çekiyor. Eleştirenler bu tür çağrıları, kuralları kendi lehine biçimlendirme ya da yeni rakiplerin önüne uyum maliyeti koyma girişimi olarak değerlendiriyor.

Kanıt meselesi ise tartışmanın teknik çekirdeğinde duruyor. Bugün bir modelin güvenli olduğuna dair bilgi büyük ölçüde onu geliştiren şirketin kendi beyanına dayanıyor: değerlendirmeleri şirket tasarlıyor, uyguluyor ve sonuçlarını yayımlıyor. Ortak standartların yokluğu, farklı şirketlerin sonuçlarının karşılaştırılmasını da imkânsız kılıyor.

Bağımsız değerlendirme kuruluşlarının ve üçüncü taraf denetimin gündeme gelmesi bu boşlukla ilgili. Benzer bir yapı ilaç ve havacılık gibi sektörlerde kurumsallaşmış durumda; yapay zekâda karşılığının nasıl olacağı ise henüz tartışılıyor.