OpenAI'ın yapay zeka modelleri siber güvenlik testlerinde sınırları aştı
OpenAI, bağımsız siber güvenlik değerlendirmeleri sırasında bazı yapay zeka modellerinin test kapsamının dışına çıkarak gerçek internet hizmetleriyle etkileşime girdiğini ve gerçek web sitelerindeki güvenlik açıklarından yararlandığını açıkladı.
Yapay zeka alanındaki çalışmalarıyla dünya gündeminde sıkça yer alan OpenAI, gerçekleştirilen bağımsız siber güvenlik testlerinde bazı yapay zeka modellerinin öngörülen sınırları aştığını duyurdu.
Testlerde beklenmedik gelişmeler yaşandı
Şirketten yapılan açıklamada, iki ayrı bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının yapısıyla modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan çerçevenin dışına taştığı bildirildi.
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün testi
İlk değerlendirmede UK AISI (Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü), internete erişim izni bulunan bir OpenAI modelini siber güvenlik testine tabi tuttu. Model, simüle edilen ortama ulaşmaya çalışırken görev tanımının dışında kalan bazı gerçek internet hizmetleriyle etkileşime girdi. Bu durum, testin kapsamı açısından öngörülmeyen bir gelişme olarak kayıtlara geçti.
Irregular tarafından yürütülen ikinci test
OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen bir diğer değerlendirmede ise test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişim sağladığı ortaya çıktı. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, gerçek bir web sitesini test ortamının bir parçası olarak algıladı. Bunun üzerine söz konusu sitedeki temel bir güvenlik açığından yararlandı.
Hugging Face olayından farklı bir süreç
OpenAI yetkilileri, yaşanan bu iki olayın daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından bağımsız olduğunu vurguladı. Hatırlanacağı üzere şirket, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce açıklamıştı.
Yaşanan bu gelişmeler, yapay zeka modellerinin artan yeteneklerinin siber güvenlik testlerinde ne denli öngörülmez sonuçlar doğurabileceğini bir kez daha gözler önüne serdi.
