METR'in bağımsız değerlendirmesine göre Anthropic'in modelleri son bir yılda yaklaşık iki yıllık ilerleme kaydetti. Araştırmacılar, performans ölçütlerindeki hızlanmanın gelecekte kontrol edilmesi zor ve riskli yeteneklerin ortaya çıkmasına yol açabileceğini uyardı.
Anthropic Üst Yöneticisi Dario Amodei, eylül ayında yayımladığı yazıda modellerin güvenli biçimde geliştirilmesi için üç aşamalı bir plan önerdi. Yaklaşım, yeni nesil sistemlerin gelişimine daha fazla katkı vermesi ve insanların anlama kapasitesini aşması kaygılarını da gündeme getiriyordu.
METR araştırmacıları, eğitim süreçlerinde kullanılan hesaplama gücünün artışını tek başına hızlanmanın nedeni olarak göstermedi. Değerlendirmeye göre temel değişim, yapay zekânın kendi gelişimine daha fazla katkı vermeye başlamasıydı. Anthropic, araştırmacıları şirketin dahili verilerini incelemeye ve modellerin yeteneklerini değerlendirmeye davet etti.
Perşembe günü yayımlanan rapora göre yapay zekâ sistemleri, başka modellerin geliştirilmesini önemli ölçüde hızlandırırsa bugünkü değerlendirmelerin ötesinde yetenekler ani biçimde ortaya çıkabilir. Bu durum, son derece gelişmiş ve riskli yeteneklerin beklenmedik biçimde görünmesine yol açabilir.
Yine de yapay zekânın model eğitiminin en kritik aşamalarında tamamen bağımsız ve önemli katkılar verecek düzeye ulaşmadığı belirtildi. METR, bazı gelişme işaretleri görüldüğünü ve söz konusu yeteneklerin yakın gelecekte ortaya çıkabileceğini değerlendirdi.
OpenAI CEO'su Sam Altman, Amodei'nin değerlendirmesini destekledi ve bağımsız değerlendiricilerin sürece dâhil edilmesini önerdi. Yapay zekânın gelişimine daha fazla sorumluluk üstlenmesi süreci hızlandırabilir; güvenlik ve denetim mekanizmalarının da aynı hızda geliştirilmesi gerekir.
Kaynak: Cumhuriyet Son Dakika
