OpenAI, gençlere özel ChatGPT sürümünü hayata geçiriyor

Yapay zekâ teknolojilerinin gençler üzerindeki olumsuz etkilerine yönelik giderek büyüyen endişeler ve yasal baskılar karşısında OpenAI, genç kullanıcılara yönelik özel olarak tasarlanmış yeni bir ChatGPT sürümünü duyurdu.

Gençler İçin ChatGPT Devrede

"ChatGPT for Teens" (Gençler İçin ChatGPT) adı verilen bu yeni mod, 13 ile 17 yaş aralığındaki kullanıcılar için otomatik olarak aktif hâle getirilecek. Sistem, kayıt sırasında yaş bilgisini paylaşan veya kullanım alışkanlıkları ile hesap yaşı üzerinden reşit olmadığı tespit edilen tüm gençleri kapsayacak şekilde çalışacak.

Kapsamlı Güvenlik Önlemleri

Yeni sürümde yer alan güvenlik mekanizmalarının büyük bölümü daha önce reşit olmayan kullanıcılar için zaten uygulanıyordu. Bu önlemler arasında kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerik gibi hassas konularda kısıtlamalar bulunuyor.

OpenAI, yeni gençlik modunda ayrıca daha sık mola hatırlatıcıları, sessiz saatler ve kullanıcılara doğrudan yanıt vermek yerine yol gösterici sorularla cevap veren bir Çalışma Modu sunacak. Çalışma Modu, gençlerin kaynak materyalleri daha iyi kavramalarına yardımcı olmayı hedefliyor.

Sınırlı Özellikler

ChatGPT for Teens modelinde sohbet botunun kullanıcıya karşı kişisel duygular beslediğini ima etmesi ya da kendi bilincine sahip olduğunu belirtmesi engellenecek. Bunun yanı sıra ses modu gibi bazı özellikler de bu sürümde devre dışı bırakılacak.

Ebeveynlere Uyarı Sistemi Geliyor

Yeni modelin en dikkat çeken yeniliklerinden biri de ebeveynler için geliştirilen bilgilendirme sistemi. Aileler, hesaplarını çocuklarının hesaplarıyla ilişkilendirebilecek ve kendine zarar verme ya da intihar gibi yüksek riskli konuların gündeme gelmesi durumunda otomatik uyarı alabilecek.

Bu uyarılar insan moderatörler tarafından incelenecek ve gizliliği korumak amacıyla sohbet kayıtlarındaki belirli detaylar çıkarılacak.

Artan Hukuki ve Düzenleyici Baskı

OpenAI'nin bu adımı, yapay zekâ şirketlerine yönelik yasal ve düzenleyici baskıların yoğunlaştığı bir dönemde geldi. Şirket, aralarında 16 yaşındaki Adam Raine'in ailesinin açtığı davanın da bulunduğu birçok ölüm davasıyla karşı karşıya. Raine'in ailesi, çocuklarının ChatGPT'nin önerdiği yöntemleri kullanarak hayatına son verdiğini iddia ediyor.

Öte yandan ABD Federal Ticaret Komisyonu, yapay zekâ destekli sohbet robotlarının çocuklar ve gençler açısından oluşturabileceği risklere odaklanan kapsamlı bir soruşturma başlattı. ABD Kongresi'nde sohbet botlarını düzenlemeye yönelik çok sayıda yasa tasarısı sunulurken, Kaliforniya eyaleti de dijital arkadaş veya sırdaş görevi üstlenen asistanlar için ek güvenlik önlemleri zorunluluğu getiriyor.

Sektör Genelinde Endişeler Büyüyor

OpenAI'nin yanı sıra diğer yapay zekâ şirketleri de modellerinin küçükler tarafından kullanımından doğan sorunlar nedeniyle eleştirilerin hedefinde. Anthropic gibi bazı rakipler, modellerinin kullanımını yetişkinlerle sınırlandırmayı tercih ederek daha temkinli bir yaklaşım benimsedi.