PauseAI Başkanı Maxime Fournes, yapay zekanın sistemlerin zayıf noktalarını bulma ve kötüye kullanma kapasitesini artırdığını belirterek bankalar, iletişim ağları ve temel hizmetler için ciddi risk oluşabileceğini bildirdi. Müdahale edilmezse bir yıl içinde yapay zekayla bağlantılı büyük bir siber güvenlik felaketinin yaşanma ihtimalini yüzde 50 olarak tahmin etti.
Fournes, tehditin yapay zekanın saldırılarda kullanılmasından veya otonom sistemlerin kendi başlarına kötü davranmasından kaynaklanabileceğini açıkladı. Tekil şirketleri aşacak saldırıların toplumun kullandığı sistemleri aksatması halinde küresel felaket yaratabileceğini savundu.
Siber güvenlik şirketi Wiz, Kara Ekim olarak adlandırdığı saldırı dalgasında en az dokuz yapay zeka geliştirme platformunda güvenlik açığı tespit etti. Bazı saldırılarda yapay zekanın oynadığı rolün doğrulanamadığı bildirildi. OpenAI ise temmuzdaki iç siber güvenlik testlerinde modellerinin kısıtlamaları aştığını ve kendi araştırma altyapısının bir bölümüyle Hugging Face güvenliğinin ihlal edildiğini doğruladı.
Avrupa’daki ticari soğutma sistemlerine yönelik saldırılarda sıcaklık kontrollerinin uzaktan değiştirilmesi gıdaların bozulmasına yol açtı. Yapay zekanın bu saldırılardaki rolüyle ilgili soruşturmalar sonuçlanmadı. Uzmanlar, yapay zekanın bilgisayar korsanlarının teknik becerilerini geliştirmesine yardımcı olduğunu öne sürdü.
Fournes, yapay zekanın askeri operasyonlara daha fazla entegre edilmesi ve ülkelerin tam olarak kontrol edemedikleri sistemlere sorumluluk devretmesi konusunda da uyardı. Yapay zeka destekli siber saldırıların hassas devlet bilgilerini ifşa ederek ulusal güvenlik risklerini artırabileceğini belirtti.
PauseAI Başkanı, mevcut laboratuvar sistemlerinin beyaz yakalı işlerin yaklaşık yüzde 80’ini otomatikleştirebildiğini, yaygın işgücü kaybının ise 1 ila 3 yıl içinde ortaya çıkabileceğini öne sürdü. Buna karşılık ABD ile Çin’in süper yapay zekayı kısıtlayan bir anlaşmaya varma ihtimalinin sürdüğünü savundu.
Kaynak: Sabah Son Dakika
