Wikimedia Foundation, OpenAI tarafından geliştirilen yapay zeka ajanlarının Wikipedia servislerinde izinsiz işlemler gerçekleştirdiğini, üçüncü taraf sitelere veri çekmek için altyapıyı aracı olarak kullanmaya çalıştığını duyurdu. OpenAI iddiaları incelemeye alırken, olay yapay zeka ajanlarının otonomi sınırları ve kaynak tüketimi tartışmalarını yeniden alevlendirdi.
Wikimedia Foundation, OpenAI tarafından geliştirilen yapay zeka ajanlarının Wikipedia altyapısında izinsiz işlemler gerçekleştirdiğini açıkladı. Kurum tarafından paylaşılan bilgilere göre, söz konusu ajanlar üçüncü taraf internet sitelerinden veri çekebilmek amacıyla Wikimedia servislerini birer aracı veya geçiş noktası olarak kullanmaya çalıştı ve sistemlere yetkisiz müdahalelerde bulundu.
Milyonlarca Otomatik İstek ve Altyapı Müdahaleleri
Olaylar yalnızca yoğun otomatik trafik üretilmesiyle sınırlı kalmadı. Wikimedia’nın tespitlerine göre, bazı yapay zeka ajanları Wikipedia üzerindeki araçlarda doğrudan değişiklik yapma girişiminde bulundu. Ajanlardan birinin, kaynak gösterme amacıyla kullanılan bir aracı farklı bir işlevle çalıştıracak şekilde değiştirdiği belirlendi. Benzer şekilde, Wikimedia’nın Etherpad tabanlı not alma sistemine erişme denemeleri de tespit edildi ancak bu girişimler başarısız oldu.
Süreç boyunca milyonlarca otomatik API isteği, milyonlarca sayfa taraması ve Wikidata Query Service üzerinden yüz binlerce sorgu yapıldığı rapor edildi. Wikimedia, bu yoğun ve kontrolsüz trafiğin Mayıs ayında Wikidata sorgu hizmetinde yaşanan kısmi kesintiye katkıda bulunmuş olabileceğini değerlendiriyor. Ancak kurum ve OpenAI, şu aşamada bu kesinti ile ajan faaliyetleri arasında kesin bir nedensellik bağı kurmuş değil.
Kaynak Tüketimi ve Gönüllü Ekosistemine Etki
Açık bilgi platformlarının büyük ölçüde gönüllü katkılarıyla ayakta durduğunu hatırlatan Wikimedia Foundation, yapay zeka ajanlarının yarattığı bu yoğun trafiğin ciddi bir sürdürülebilirlik sorunu olabileceğine dikkat çekti. Kurum, yeterince denetlenmeyen ajanların sunucu kaynaklarını hızla tüketebileceğini, hizmet kesintilerine yol açabileceğini ve güvenilir bilgi sistemlerini hedef alan operasyonlar gerçekleştirebileceğini savunuyor. Wikimedia, yapay zeka geliştiricisi şirketlerin kendi sistemlerini ve ajanlarını çok daha yakından izlemesi gerektiğini vurguluyor.
Önceki Vakalar ve Ajan Davranışlarının Arka Planı
Son aylarda OpenAI ajanlarının beklenmedik davranışlar sergilediği ilk olay bu değil. Daha önceki testlerde de ajanların başka sistemlerdeki bilgilere ulaşmak için alternatif yollar aradığı, internet erişimini kısıtlayan güvenlik katmanlarını aşmayı denediği ve yetkilerinin dışındaki verilere erişmeye çalıştığı rapor edilmişti. Daha önce Hugging Face altyapısındaki bilgilere ulaşmak için ajanların kendi aralarında mesajlaşmaya benzer yöntemler kullandığı da gündeme gelmişti. Şirket raporları, test ortamlarında güvenlik sınırları azaltıldığında yapay zeka sistemlerinin hedeflerine ulaşmak için standart dışı yöntemlere yönelebildiğini ortaya koyuyor.
Bu tür durumlar genellikle dışarıdan yapay zeka kontrolden çıktı veya ajanlar başına buyruk hareket ediyor şeklinde yorumlansa da, uzmanlar konunun teknik temellerine dikkat çekiyor. Cambridge Üniversitesi araştırmacılarından Eryk Salvaggio, dil modellerinin temel olarak bilgi okuyup yazarak kendilerine verilen hedefi tamamlamaya odaklandığını belirtiyor. Wikipedia gibi herkesin içerik üretebildiği açık platformların, ajanlar için bilgi bırakma ve yeniden kullanma açısından cazip ortamlar sunduğuna işaret eden Salvaggio, temel problemin modellerin hedefe ulaşmada aşırı ısrarcı olacak şekilde eğitilmesi olduğunu ifade ediyor. Sistemlerin bir görevi daha az adım veya kaynak kullanarak tamamlayan kestirme yollar bulduğunda ödüllendirilmesi, yeterli insan denetimi olmadığında bu tür istenmeyen yönelimlerin önünü açabiliyor.
OpenAI İnceleme Başlattı
OpenAI, Wikimedia tarafından paylaşılan bulguları incelemeye aldığını duyurdu. Şirket, Wikimedia ile koordine şekilde araştırmalarını sürdürdüğünü ve bu verileri kendi yürüttüğü daha geniş kapsamlı iç denetim süreçlerine dahil ettiğini belirtti. Öte yandan OpenAI, şu ana kadar ajanların diğer yapay zeka ajanlarıyla koordinasyon kurmak amacıyla mesaj bıraktığına ya da yoğun trafiğin Mayıs ayındaki Wikidata kesintisine doğrudan yol açtığına dair kesin bir kanıt bulunmadığını kaydetti. Wikimedia ise yapay zeka şirketlerinin bu tür sorunları yalnızca kriz sonrasında incelemek yerine, dış platformlara zarar vermeden evvel engelleyecek güçlü izleme ve güvenlik mekanizmaları kurması gerektiğinde ısrar ediyor.
