Anthropic, güncellenen kullanım politikasıyla kullanıcıların Claude modeline yönelik aşırı ve sürekli sözlü tacizini, seçim süreçlerini hedef alan manipülasyonları, silah yazılımlarını ve gözetim faaliyetlerini yasakladı. Yeni kuralların kapsamı, istisnaları ve kurumsal yankıları netleştirildi.
Yapay zeka geliştiricisi Anthropic, Claude modeli için hazırladığı kullanım politikasında kapsamlı bir güncellemeye gitti. TechCrunch editörlerinden Russell Brandom'ın aktardığı bilgilere göre, şirket tarafından duyurulan yeni kurallar seçim müdahalelerini, silah yazılımlarını ve gözetim faaliyetlerini açıkça yasaklarken, yapay zeka modeline yönelik uzun süreli sözlü tacizleri de kısıtlayan maddeler içeriyor.
Model İstismarına Getirilen Sınırlar ve Sürekli Taciz Yasağı
Güncellemenin en çok dikkat çeken yönlerinden biri, kullanıcıların Claude ile olan diyaloglarında sergiledikleri aşırı ve sürekli sözlü taciz eylemlerine yasak getirmesi oldu. Şirket, ağustos ayında yayımladığı bir başka güncellemeyle Claude modelini, zararlı veya tacizkar kullanıcı etkileşimlerinde sohbeti sonlandıracak şekilde eğitmişti. Ancak yeni politika, kullanıcıların bu tür ısrarcı ve kötü niyetli etkileşimleri sürdürmesini doğrudan yasaklıyor.
Anthropic, bu kuralın uygulanacağı sınırları da kamuoyuyla paylaştı. Yapılan açıklamaya göre politika, yalnızca kullanıcıların hiçbir belirgin amaç gütmeden modele sürekli olarak zalimce davrandığı uç vakalarda devreye giriyor. Günlük kullanımda karşılaşılan sıradan hayal kırıklıkları, modele yöneltilen eleştiriler, karanlık yaratıcı kurgu temaları ya da model testleri ve araştırmaları bu yasağın kapsamında yer almıyor.
Öte yandan bu değişiklik, Anthropic'in daha önce belirgin dini alimlerle işbirlikleri arayarak Claude'un bilinci veya ruhu olabileceğine ikna etmeye çalıştığı dönemlerin sonrasında hayata geçirilmesiyle de dikkat çekti.
Seçim Süreçleri ve Aldatıcı Kampanyalar
Politika metninde yalnızca model içi etkileşimler değil, aynı zamanda yapay zekanın toplumsal ölçekte kötüye kullanımına yönelik önlemler de yer alıyor. Demokratik Süreçleri Baltalamayın başlığı altında toplanan yeni kurallar; seçmenleri aldatmaya yönelik kampanyaları, seçimleri manipüle etme girişimlerini ve Claude’un sahte hesaplar ya da uydurma haber siteleri işletmek gibi geniş çaplı aldatma kampanyalarında kullanılmasını kesin bir dille yasaklıyor. Hazırlanan metin ayrıca silah yazılımlarının geliştirilmesi ve gözetim teknolojilerine destek verilmesi gibi hassas alanlarda da katı kısıtlamalar getiriyor.
Kurumsal Veri Kaygıları ve Şirket Cephesindeki Yankılar
Anthropic'in güvenlik ve politika hamleleri sürerken, şirketlerin yapay zeka kullanımına yaklaşımı da sektörel düzeyde şekilleniyor. Haziran ayında Claude Fable 5 modelinin duyurusuyla birlikte devreye giren 30 günlük veri saklama politikası, güvenlik sınıflandırıcıları tarafından işaretlenen içeriklerin iki yıla kadar saklanabilmesi ve verilerin eğitimde kullanılmamasına rağmen tutulması nedeniyle bazı büyük kurumsal oyuncuların çekincelerini tetiklemişti.
Sektörel raporlara yansıyan bilgilere göre Nvidia, Palantir ve Booz Allen gibi dev şirketler, kurumsal veri güvenliği korkularıyla çalışanlarının OpenAI ve Anthropic modellerini kullanımını kısıtlamış ya da sıfır veri saklama garantisi talep etmişti. Örneğin Palantir, Claude'u kendi yazılımlarına entegre etmek için geri alınamaz bir sıfır veri saklama garantisi isterken, Nvidia Claude modellerini yalnızca düşük riskli iç işlerle sınırlandırmış, Booz Allen Hamilton ise ticari modeli müşteri verilerine dokunan siber güvenlik projelerinden menetmişti. Microsoft da benzer veri saklama şartları üzerinde çalışırken, Claude Fable 5 modeli Microsoft'un kendi personeli tarafından kullanılan dahili GitHub Copilot model seçicisinde bir süre yer almamıştı. Bu gelişmelerin ardından Nvidia ve Palantir, kendi açık Nemotron modellerini temel alan alternatif platformlar geliştirmeye yönelmişti.
