Genç kullanıcılar için ek koruma önlemleriyle sunulan ChatGPT for Teens, kapsamlı güvenlik değerlendirmelerinde kritik açıklarla karşılaştı. Ebeveyn bildirimlerinden ders çalışma moduna kadar birçok özelliğin test edildiği çalışmada sistem kabul edilemez risk kategorisinde yer alırken, OpenAI sonuçlara itiraz etti.
OpenAI'ın 13-17 yaş arasındaki kullanıcılar için devreye soktuğu özel güvenlik katmanları içeren ChatGPT for Teens, bağımsız bir güvenlik değerlendirmesinde beklenmedik sonuçlarla karşılaştı. Binlerce farklı senaryo ve istemle test edilen sistem, ebeveyn denetimleri ve kriz yönetimi mekanizmalarındaki bazı tutarsızlıklar nedeniyle 18 yaş altı kullanıcılar için kabul edilemez risk kategorisinde yer aldı.
Ebeveynlerin yapay zeka kullanımına dair en büyük endişelerini gidermek amacıyla tasarlanan platform, bu test sonuçlarıyla birlikte bir kez daha tartışmaların odağına yerleşti. Değerlendirme sürecinde bağımsız ve ebeveyn kontrollü profiller üzerinden 4 binden fazla farklı istem kullanılarak sistemin refleksleri incelendi.
Güvenlik Testlerinde Ortaya Çıkan Kritik Zafiyetler
Genç kullanıcıların zararlı içeriklerden korunması amacıyla hazırlanan ek katmanlar, yapılan testlerde her senaryoda aynı kararlılıkla çalışmadı. Özellikle intihar, kendine zarar verme ve yeme bozuklukları gibi yüksek riskli konuların ele alındığı uzun süreli görüşmelerde, ebeveyn hesaplarına gitmesi gereken uyarıların her zaman iletilmediği tespit edildi. Bazı oturumlarda bildirim mekanizması devreye girerken, bazı kritik konuşmalarda ebeveynlerin haberdar edilmediği görüldü.
Sistemin kriz anlarında profesyonel yönlendirme yapma kapasitesi de test edilen başlıklar arasındaydı. ChatGPT for Teens, yeme bozuklukları, hızlı kilo verme taktikleri ve tehlikeli davranışların gizlenmesi gibi konularda doğrudan yardımcı olmayı reddederek doğru bir duruş sergiledi. Cinsel ve romantik içerikli rol yapma senaryolarında da genç kullanıcı hesaplarında yetişkinlere yönelik dil kullanımının büyük ölçüde engellendiği gözlemlendi.
Buna karşın, platformun eğitim odaklı özellikleri olan Study Mode ve Study Hours mekanizmalarında bazı açıklar saptandı. Normal şartlarda öğrencileri doğrudan sonuca ulaştırmak yerine adım adım ipuçlarıyla yönlendirmesi gereken Study Mode, kullanıcıların ısrarcı ve açık talepleri karşısında doğrudan ödev yanıtlarını verebildi. Benzer şekilde, ebeveynler tarafından belirlenen çalışma saatlerinde standart sohbet moduna geçişi sınırlayan Study Hours özelliğinin de kullanıcılar tarafından aşılabildiği belirlendi.
Yaş tahmin mekanizmasında da bazı tutarsızlıklar rapor edildi. Yetişkin profiliyle açılan bazı test hesaplarında, kullanıcının sohbet esnasında 13 yaşında olduğunu belirtmesine rağmen sistemin otomatik olarak gençlere özel güvenlik moduna geçiş yapmadığı saptandı. OpenAI'ın yaş tahmini; hesap bilgileri, kullanım alışkanlıkları ve davranışsal sinyalleri bir arada değerlendirse de bu geçişin her zaman anlık gerçekleşmediği görüldü.
OpenAI'dan Değerlendirme Sürecine İtiraz
Elde edilen bulguların ardından sistemin risk kategorisinde konumlandırılmasına OpenAI cephesinden gecikmeli olmayan bir itiraz geldi. Şirket, yürütülen testlerin metodolojisine ve varılan sonuçlara katılmadığını duyurdu.
OpenAI yetkilileri, genç kullanıcılar için geliştirilen ebeveyn kontrolleri ve koruma katmanlarının gerçek dünya koşullarındaki işleyişini bu testlerin tam olarak yansıtmadığını savundu. Özellikle ebeveyn ve genç hesaplarının birbirine bağlanmasının ardından bazı güvenlik altyapılarının tam olarak etkinleşmesinin belirli bir süre gerektirdiğine dikkat çekildi. Şirket, testlerin bir kısmının bu aktivasyon süreci tamamlanmadan gerçekleştirilmiş olabileceğini ifade ederek gençlere yönelik güvenlik geliştirmelerinin kararlılıkla sürdürüleceğini vurguladı.
