Anthropic'in istifa eden uzmanından yapay zekaya dair çarpıcı uyarı: 'İnsanüstü sistemler haline gelecek'

Yapay zeka alanının önde gelen şirketlerinden Anthropic, dikkat çekici bir istifa haberiyle gündeme geldi. Şirket bünyesinde görev yapan araştırmacı Jacob Coxon, yapay genel zekanın (AGI) potansiyel tehlikelerine ilişkin çarpıcı açıklamalarının ardından görevinden ayrıldığını duyurdu.

Coxon, sosyal medya hesabından yaptığı paylaşımda, teknoloji devlerinin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu vurguladı. Paylaşım, kısa sürede milyonlarca görüntülenme alarak geniş yankı uyandırdı.

"Bu gücü hafife almayın"

Yapay zekanın yakın gelecekteki kapasitesine dair endişelerini dile getiren Coxon, şu ifadeleri kullandı:

"Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek."

Uzmanın bu açıklamaları, yapay zeka güvenliği tartışmalarını yeniden alevlendirdi. Sektördeki birçok araştırmacı, süper zekanın kontrol edilemez hale gelmesi durumunda insanlık için ciddi riskler oluşturabileceği konusunda uyarılarda bulunuyor.

Sektördeki endişeler büyüyor

Anthropic, OpenAI ve Google DeepMind gibi şirketler, son dönemde daha güçlü yapay zeka modelleri geliştirmek için kıyasıya bir rekabet içinde. Ancak uzmanlar, bu yarışın güvenlik önlemlerinin önüne geçtiğini ve potansiyel olarak tehlikeli sonuçlar doğurabileceğini savunuyor.

Coxon'un istifası, yapay zeka şirketlerinin içinden gelen uyarıların sayısının arttığı bir dönemde gerçekleşti. Benzer endişeler daha önce de sektörün tanınmış isimleri tarafından dile getirilmiş, hatta bazı çalışanlar şirketlerin yönetim kurullarına karşı kamuoyuna açık eleştiriler yöneltmişti.