Yapay zeka şirketi Anthropic, küçük ölçekli açık ağırlıklı modellerin akıllı frigo, süpürge ve TV kutuları gibi IoT cihazlarında kendi kendini kopyalayabilen solucanlara dönüşme riski taşıdığını açıkladı. Şirketin gerçekleştirdiği deneyler, hafif modellerin düşük donanımlarla çıkarım yapabildiğini gösterdi.
Yapay zeka şirketi Anthropic, yayımladığı güvenlik araştırmasında, küçük boyutlu açık ağırlıklı yapay zeka modellerinin internete bağlı cihazlar (IoT) üzerinde kendi kendini kopyalayabilen zararlı yazılımlara dönüşebileceği konusunda uyarıda bulundu. Şirket, bu modellerin önümüzdeki yıl içinde akıllı ev aletlerinden Android TV kutularına kadar geniş bir yelpazede, insan müdahalesi olmaksızın yayılan yeni nesil bilgisayar solucanlarının önünü açabileceğini belirtti.
Düşük Donanımlarda Çalışan Hafif Modeller
Geleneksel yapay zeka modelleri devasa veri merkezleri ve güçlü sunucular gerektirirken, küçük modeller çok daha mütevazı donanımlarda çalışabiliyor. Anthropic araştırmacıları, gerçek veya simüle edilmiş düşük maliyetli, markasız Android TV kutuları üzerinde küçük açık ağırlıklı modelleri test etti. Miktarlandırma yöntemiyle model ağırlıklarını daha az bit kullanarak temsil eden ve iş yüklerini cihazlar arasında parçalar halinde bölen şirket, modellerin çıkarım yapabildiğini gözlemledi.
Örneğin, hafif Gemma4-26B-A4B modeli, her biri yalnızca 4GB belleğe sahip 15 adet kutu üzerinde çıkarım yapmayı başardı. Qwen3.5-9B modeli ise dokuz farklı donanım türünün sekizinde diğer büyük dil modellerini yapılandırabildi. Geleneksel zararlı yazılımlardan farklı olarak bu modeller, belirli bir donanım veya yazılıma mahkum kalmıyor; test edildikleri cihazlara özel yapılandırmaları anlık olarak kendi ağırlıklarıyla gerçekleştirebiliyor.
Küçük Ağırlık Tabanlı Çoğaltıcılar ve Saldırı Süreci
Anthropic, bu otonom solucanları küçük ağırlık tabanlı çoğaltıcılar olarak nitelendiriyor. Modeller, ters kabuklar gibi yaygın sömürü araçlarına erişebilen ajanlar aracılığıyla çalışıyor. Araştırmalarda gözlemlenen saldırı akışı dört ana aşamadan oluşuyor:
* Hedefleri bulma * Kod yürütme yetkisi kazanma * Çıkarım kurma * Yeni sunuculara yayılma
Bu yapıların geleneksel solucanlara kıyasla en büyük avantajının öğrenme yeteneği olduğuna dikkat çekiliyor. Yapay zeka çoğaltıcısı belirli bir platform cihazını tehlikeye atamadığında, aynı etkisiz adımları tekrarlamamak için gelecekteki kopyalara ipuçları, kodlar ve notlar bırakabiliyor. Ayrıca model ağırlıkları, yayılım sırasında yanlarında taşınabiliyor veya halka açık bir merkezden yeniden indirilebiliyor.
Test Sınırlamaları ve Performans Kısıtları
Deneyler, küçük modellerin otonom çoğaltma potansiyelini gözler önüne rese de süreç henüz oldukça yavaş ve sınırlamalar barındırıyor. Test edilen hiçbir hafif model henüz uçtan uca çoğaltmayı tek başına gerçekleştiremedi. Gemma4-26B-A4B modeli, 15 Android TV kutusuna dağıtıldığında saniyede yalnızca 0.39 token üretebildi. Bu durum, optimize edilmemiş tam çıkarım kurulum süresinin Gemma4-26B-A4B için 71 ila 150 saat, Qwen3.5-9B için ise 29 ila 51 saat sürmesine yol açıyor.
Ayrıca hedef alınan Android cihazlarda, üretim ortamlarında asla kullanılmaması gereken ve tüm cihaz yığınına erişim veren kimlik doğrulamasız bir Android Debug Bridge arayüzü açık bırakılmıştı. Öte yandan, çoğaltma işlemini doğrudan küçük modeller değil, süreci koordine eden daha büyük bir GLM-5.2 modeli gerçekleştirirken, hedefler daha küçük bir Llama modeli çalıştırdı.
Uzman Görüşleri ve Belirsizlikler
Çalışmanın sonuçları endişe yaratırken, bağımsız araştırmacılar modellerin kendi iradeleriyle bu yola başvurup başvurmadığının henüz kanıtlanmadığına dikkat çekiyor. Yapay zeka araştırmacısı Xiaohan Fu, iyi tasarlanmış deneysel düzeneğe rağmen çalışma, küçük modellerin otonom olarak çoğalmayı seçeceğini tek başına kanıtlamıyor değerlendirmesinde bulundu. Fu, tam şeffaflık ve kesin prompt yönergelerinin paylaşılmasının, gerçek bir otonom tehdit ile simüle edilmiş yeteneklerin birbirinden ayırt edilmesinde kritik önem taşıdığını vurguladı.
