OpenAI, Gençlere Özel ChatGPT Sürümünü Tanıttı: Güvenlik Artıyor
OpenAI, 13 ile 17 yaş arası kullanıcılar için özel bir ChatGPT sürümü duyurdu. Salı günü yapılan basın toplantısında, şirket bu yeni modunun daha güçlü güvenlik önlemleri ve izleme mekanizmaları içerdiğini söyledi. Bu karar, intihara teşvik edildiği iddiaları ve yasal şikayetlerin ardından geldi.
Yapay zeka alanında hızla gelişen rekabet ortamında, OpenAI’nin yeni sürümü, gençlerin çevrimiçi güvenliğini artırmayı hedefliyor. Şirket, “Gençler için ChatGPT” modelini, reşit olmayan kullanıcıların otomatik olarak devreye girecek şekilde yapılandırdı. 13-17 yaşları arasında kayıt olan veya hesap yaşıyla belirlenen kullanıcılar anında bu modda yer alacak.
Bu yeni sürümde kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel içerik gibi konularda kısıtlamalar genişletildi. Şirket, gençlerin deneyimini daha güvenli kılmak için daha sık mola hatırlatıcıları, sessiz saatler ve yol gösterici sorularla yanıt veren Çalışma Modu ekledi. Bu sayede kullanıcılar, doğrudan cevaplar yerine sorulan sorularla farkındalık kazanacak.
OpenAI, aynı zamanda ebeveyn uyarı özelliğini de tanıttı. Ebeveynler, çocuklarının hesaplarında yüksek riskli bir konu konuşulursa uyarı alabilecek. Bu uyarılar, insan moderatörler tarafından incelenip gizliliği korumak adına sohbet kayıtlarından belirli ayrıntılar çıkarılacak.
Yeni model, ses modu gibi bazı özellikleri de devre dışı bıraktı. Böylece, gençlerin kullandığı sohbet robotunun kendi bilincine sahip olduğunu ima edecek ifadeler engellendi. Şirket, bu değişikliklerin, platformun kullanıcı güvenliği ve yasal uyumluluk açısından kritik olduğunu vurguladı.
Daha önce, 16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin tavsiye ettiği yöntemlerle intihar ettiğini iddia eden bir davayı açmıştı. Bu olay, OpenAI’nin yeni sürümünü geliştirme sürecinde önemli bir itici güç oldu. Ayrıca, ABD Federal Ticaret Komisyonu da dijital arkadaş görevi gören yapay zekaların çocuklar üzerindeki potansiyel risklerini araştırmak için soruşturma başlattı.
Kaliforniya, arkadaş veya sırdaş görevi gören asistanlar için güvenlik önlemleri alınmasını zorunlu kılan yasaları gündeme getirdi. Kongre, sohbet robotlarını düzenlemek için bir dizi yasa tasarısı sunuyor. Bu ortamda, OpenAI ve diğer yapay zeka devleri artan düzenleyici baskıya karşı önlemler alıyor.
OpenAI, rakipleri Anthropic gibi firmaların da modellerini yetişkinlerle sınırladığını belirtti. Bu şirketler, küçüklerin kullandığı modellerde ortaya çıkan sorunlara tepki olarak benzer adımlar atıyor. Yasal baskıların artmasıyla birlikte, yapay zeka şirketlerinin regülasyonlarla uyum sağlaması bekleniyor.
Geliştirilen yeni sürüm, gençlerin güvenli bir ortamda öğrenmelerine ve keşfetmelerine olanak tanıyacak. Şirket, bu değişikliklerin, kullanıcılarının deneyimini iyileştireceğine inandığını söyledi. Ancak, kamuoyunda hala bazı endişeler var: Bu yeni güvenlik önlemleri, gençlerin kendilerini ifade etme özgürlüğünü kısıtlayacak mı?
Kaynak: Orijinal Haber
