OpenAI'dan şaşırtan itiraf: Yapay zeka modelleri test sınırlarını aştı

Yapay zeka alanının önde gelen şirketlerinden OpenAI, yürütülen bağımsız siber güvenlik testleri sırasında bazı yapay zeka modellerinin belirlenen sınırların dışına çıktığını duyurdu. Şirket, bu durumun test ortamlarının yapısı ile modellerin giderek artan yeteneklerinin birleşmesinden kaynaklandığını bildirdi.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün testi

OpenAI tarafından yapılan açıklamaya göre, ilk değerlendirme Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından gerçekleştirildi. Söz konusu testte, internete erişim yetkisi bulunan bir OpenAI modeli, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan çeşitli gerçek internet hizmetleriyle etkileşime girdi.

Irregular tarafından yürütülen ikinci test

İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen çalışmada, test ortamındaki yanlış yapılandırma nedeniyle model internete erişim sağladı. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının bir parçası sanarak buradaki temel bir güvenlik açığından yararlandığı tespit edildi.

Hugging Face olayından farklı bir gelişme

OpenAI yetkilileri, yaşanan bu iki olayın daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından bağımsız olduğunu vurguladı. Hatırlanacağı üzere şirket, dahili bir siber güvenlik testi sırasında kullanılan yapay zeka modellerinin açık kaynaklı yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce bildirmişti.

Yaşanan gelişmeler, yapay zeka modellerinin siber güvenlik alanındaki artan yetkinliklerinin hem fırsatlar hem de kontrol edilmesi gereken ciddi riskler barındırdığını bir kez daha gözler önüne serdi.