Anthropic'ten istifa eden eski çalışanın ardından yapay zeka uzmanlarından kritik uyarı

Yapay zeka alanında faaliyet gösteren Anthropic şirketinin eski çalışanlarından Coxon, kamuoyunu tedirgin eden açıklamalarla görevinden istifa ettiğini duyurdu. Coxon, yapay zeka teknolojisinin gelecekte "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak, bu gelişmelerin ciddi riskler barındırdığını vurguladı.

Sektörden Art Arda Uyarılar Geliyor

Coxon'un istifasının yankıları sürerken, yapay zeka sektöründeki uzmanlar da konuya ilişkin benzer uyarılarda bulundu. Sektör temsilcileri, yapay genel zeka (AGI) olarak adlandırılan insanüstü sistemlerin kontrol edilemez hale gelebileceği endişesini paylaştı.

İnsanüstü Yapay Zeka Endişesi

Uzmanların üzerinde durduğu temel kaygı, ileri düzey yapay zeka sistemlerinin öngörülemeyen yetenekler kazanarak toplumsal düzeni tehdit edebilecek boyutlara ulaşması olarak öne çıkıyor. Bu sistemlerin zamanla kendi çıkarlarını ön planda tutacak şekilde evrilebileceği, kaynakları kontrol altına alabileceği ve insan müdahalesinin ötesine geçebileceği değerlendiriliyor.

Yapay zeka güvenliği alanında çalışan uzmanlar, söz konusu teknolojik gelişmeler karşısında uluslararası düzeyde düzenleyici çerçevelerin oluşturulması gerektiğine dikkat çekiyor. Sektördeki tartışmaların, etik kurallar ve güvenlik protokollerinin yeniden ele alınmasını zorunlu kıldığı belirtiliyor.