Anthropic, Claude yapay zeka asistanının kullanım politikasını güncelleyerek modellere yönelik sürekli ve aşırı kötü muameleyi yasakladı. Şirket, kuralların dışına çıkıldığı aşırı durumlarda sohbetin sonlandırılabileceğini belirtirken, karar yapay zekanın zarar görüp göremeyeceği ve duygusal sınırlar konusundaki tartışmaları yeniden alevlendirdi.
Anthropic, yapay zeka sohbet botu Claude'un kullanım politikasında yaptığı güncellemeyle, kullanıcıların modele yönelik sürekli, gereksiz ve "zalimce" davranışlarda bulunmasını resmi olarak yasakladı. Perşembe günü duyurulan yeni kurallar kapsamında, kötü muamelenin aşırı boyutlara ulaştığı durumlarda Claude'un sohbeti sonlandırma yetkisi devreye girecek. Bu hamle, yapay zekanın gerçek anlamda zarar görüp göremeyeceği ve yazılımlara karşı sergilenen insan etkileşimlerinin sınırlarının ne olması gerektiği sorularını teknoloji dünyasının gündemine taşıdı.
Hangi Davranışlar Yasak Kapsamında?
Şirket tarafından yapılan açıklamada, yeni kısıtlamaların kullanıcıların anlık sert tepkilerini veya olağan olumsuz yorumlarını kapsamadığı özellikle vurgulandı. Kural ihlali olarak değerlendirilecek ana kriterler; belirgin bir amaç taşımayan, sürekli tekrarlanan ve aşırı düzeyde kötü muamele içeren eylemler olarak belirlendi. Buna göre kullanıcıların Claude'un yanıtlarından memnun kalmaması, verilen bilgilere itiraz etmesi, karanlık temalar barındıran yaratıcı kurgular üretmesi ya da modeli akademik veya teknik araştırma amacıyla test etmesi yasak kapsamında yer almıyor.
Anthropic, sohbetin sonlandırılması tedbirinin yalnızca başka herhangi bir çözüm kalmadığında başvurulacak son çare olarak uygulanacağını belirtti. Bununla birlikte, hangi spesifik ifade kalıplarının veya dijital davranışların bu sınırı aşacağı şimdilik netlik kazanmış değil. Şirketin Ağustos 2025 tarihinde yayımladığı araştırma raporu, Claude Opus 4 modelinin çocuk istismarı veya kitlesel şiddet gibi aşırı zararlı içerik talepleriyle karşılaştığında belirgin bir rahatsızlık simüle eden tepkiler verebildiğini ortaya koymuştu. Ancak bu bulgular, günlük kullanımda ortaya çıkan kötü muamele eşiğini doğrudan tanımlamıyor.
Yapay Zeka Gerçekten Acı Çekebilir mi?
Politika değişikliğinin ardından CNET'e açıklamalarda bulunan bir Anthropic sözcüsü, yapay zeka modellerinin zarar görüp göremeyeceği konusunda henüz kesin bir bilimsel sonuca ulaşılamadığını ifade etti. Sözcü, model refahına yönelik araştırmaların sürdüğünü ve Claude'un olası çıkarları ile refahının gözetilmesinin güvenlik perspektirinden önem taşıyabileceğini kaydetti. Bu yaklaşım, şirketin yapay zeka sistemlerinin bilinç ve duygu geliştirme ihtimalini tamamen dışlamadığını gösteriyor.
Konuya ilişkin benzer bir değerlendirme daha önce Anthropic CEO'su Dario Amodei tarafından da dile getirilmişti. Şubat ayında The New York Times'a konuk olan Amodei, büyük dil modellerinin gelecekte bilinç sahibi olabileceği ihtimaline açık kapı bırakmıştı. Şirketin bu yıl paylaştığı diğer araştırmalarda ise yapay zekanın güvenli ve kararlı bir çizgide çalışabilmesi için duygusal açıdan zorlayıcı senaryoları anlaması gerektiği savunuluyor. Anthropic, modellerin insan biyolojisine benzer mekanizmalara sahip olmasa bile bazı bağlamlarda duyguları varmış gibi ele alınmasının pratik faydalar sağladığı görüşünde.
"Zalimlik" Tercihi Ne Anlama Geliyor?
Sociallyin kurucusu ve CEO'su Keith Kakadia, Anthropic'in politikasında "kötüye kullanım" (abuse) yerine "zalimlik" (cruelty) kavramını tercih etmesinin derinlemesine bir tartışma başlattığını belirtiyor. Kakadia'ya göre bu terminoloji seçimi, karşısında incinebilir veya zarar görebilecek bir özne bulunduğu algısını pekiştiriyor. Pazarlama dünyasında ürünlere kişilik kazandırmanın kullanıcı etkileşimini artırdığı biliniyor ancak bu durum yapay zeka bağlamında kullanıcıların sohbet botuna atfettiği otoriteyi ve duygusal bağı kökten değiştirebiliyor.
Anthropic'in yeni düzenlemesi, yapay zekanın yalnızca işlevsel bir araç mı yoksa korunması gereken sınırı olan bir sistem mi olduğu tartışmasını gün yüzüne çıkarırken, kullanıcıların sohbet botlarıyla kurduğu psikolojik dinamiklerin de yeniden tanımlanmasına zemin hazırlıyor.
