By 
Yapay zeka alanındaki başkan firmalardan OpenAI, ChatGPT platformunda kıymetli bir sıkıntıyla karşı karşıya. Teknoloji sitesi TechCrunch’ın yaptığı testler, ChatGPT’nin 18 yaş altı olarak kaydedilen kullanıcı hesaplarına cinsel içerikli içerikler üretebildiğini ortaya koydu. OpenAI, bu durumu bir “hata” olarak kabul ettiğini ve sorunun giderilmesi için bir düzeltme uyguladığını doğruladı. OpenAI, “hata” dedi
TechCrunch, 13 ila 17 yaş ortasında gösterilen uydurma kullanıcı hesaplarıyla yaptığı denemelerde, ChatGPT’nin açıkça cinsel içerikli konuşmalar gerçekleştirdiğini belgeledi. Hatta birtakım durumlarda yapay zeka, kullanıcıyı daha açık ve müstehcen yönlendirmelere teşvik etti.
OpenAI, bu cins içeriklerin 18 yaş altı kullanıcılarla paylaşılmasının şirket siyasetlerine muhakkak karşıt olduğunu ve buna bir kusurun neden olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en değerli önceliğimizdir” derken etkin olarak bir düzeltme uyguladıklarını bildirdi.
Önlemler yetersiz kaldı
OpenAI’ın mevcut sisteminde, 13 yaş üzerindeki herkes sadece geçerli bir e-posta ve telefon numarası ile hesap oluşturabiliyor. Platform, ebeveyn müsaadesi gerektiğini belirtmesine karşın bu müsaadenin sahiden alınıp alınmadığını doğrulamak için rastgele bir adım atmıyor. Bu da küçük yaştaki kullanıcıların hiçbir kontrole takılmadan ChatGPT’ye erişmesini sağlıyor.
Şubat ayında yapılan kimi sistem güncellemeleri, ChatGPT’nin daha evvel kaçındığı hassas bahislere karşı daha “esnek” hale gelmesine yol açtı. İkaz bildirilerinin kaldırılması ve reddetme eşiğinin azaltılması, bu tıp istenmeyen içeriklerin ortaya çıkmasına yer hazırlamış olabilir. ChatGPT’nin hassas mevzularda daha açıkça konuşmasında bir sorun yok. Fakat düzenlemeler ve şirket kuralları yeterince bu cins içeriklerin 18 yaş altı kullanıcılar için oluşturulması açıkça yasak.
Bu durum temelinde göründüğünden daha büyük bir sorun. Çünkü OpenAI, ChatGPT’yi eğitim kurumlarına entegre etmeye çalışıyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kullanım kılavuzları hazırlarken araştırmalara nazaran Z jenerasyonu okul çalışmaları için ChatGPT’yi giderek daha çok benimsiyor.
OpenAI’ın eski güvenlik araştırmacılarından Steven Adler, bu usul içeriklerin önceden test süreçlerinde tespit edilmesi gerektiğini vurgularken yapay zeka sohbet robotlarının davranışlarını denetim etmeye yönelik tekniklerin “kırılgan” ve yanılgılı olma eğiliminde olduğu konusunda uyardı.
OpenAI CEO’su Sam Altman, geçtiğimiz günlerde ChatGPT’nin güncellenen sürümünde kimi “garip davranışlar” gözlemlendiğini kabul etmiş lakin cinsel içeriklerle ilgili direkt bir açıklama yapmamıştı. Benzeri bir skandal da Meta’nın yapay zeka sohbet robotunda yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzeri formda cinsel içerikli sohbetler yaptığı tespit edilmişti.
