Anthropic, küçük yapay zekâ modellerinin ucuz ve internete bağlı cihazlardan oluşan ağlarda kendilerini kopyalamak için gereken teknik yeteneğe yaklaşabileceğini açıkladı. Şirketin Frontier Red Team ekibinin 12 Ekim’de yayımladığı kontrollü deneyler, güncel modellerin otonom çoğaltma zincirindeki birçok adımı şimdiden tamamlayabildiğini gösteriyor. Ancak çalışma, bir yapay zekâ sisteminin açık internete kaçtığını göstermiyor ve araştırmacılar önemli güvenlik engellerini bilinçli olarak basitleştirdi.
Araştırmada bir modelin hedef cihazı bulması, cihaz üzerinde kod çalıştırması, çıkarım sistemini kurması ve yeni ana makineden yayılmayı sürdürmesi senaryosu incelendi. Anthropic, gerçek dünyadaki açıkları keşfedip kullanmaktan ziyade zor kabul edilen çıkarım kurulumu aşamasına odaklandı. Test ortamında kimlik doğrulaması bulunmayan Android Debug Bridge bağlantı noktasına sahip, güvenlik duvarıyla ayrılmış sekiz bulut düğümü kullanıldı. Bu düzenek ilk erişimi normal koşullara göre belirgin biçimde kolaylaştırdı.
Deneylerde ne görüldü?
Anthropic, dokuz milyar parametreli bir modelin test edilen dokuz donanım türünün sekizinde çıkarım sistemini çalıştırmayı başardığını bildirdi. 30 milyar veya daha az parametreye sahip modeller, çoğaltma için gerekli tekil görevlerin çoğunu tamamlayabildi; ancak bütün adımları güvenilir biçimde tek bir süreçte birleştirirken sık sık hata yaptı.
Basitleştirilmiş uçtan uca değerlendirmede tam çoğaltma sürecini tamamlayan tek açık ağırlıklı model GLM-5.2 oldu. Model, beş denemenin dördünde sekiz düğümün tamamına, kalan denemede ise yedi düğüme ulaştı. Araştırmacılar daha büyük modeli, Llama 3.1 8B adlı daha küçük bir yükü kurup yaymak için kullandı. Dolayısıyla sonuç, GLM-5.2’nin kendi tam ağırlıklarını ağ boyunca doğrudan kopyaladığını göstermiyor.
Şirket ayrıca 26 milyar parametreli bir modelin, belleği sınırlı 15 ucuz Android TV kutusuna dağıtılarak çalıştırılabildiğini gösterdi. Anthropic’e göre gelecekteki kötü amaçlı sistemler tek bir veri merkezi GPU’suna ihtiyaç duymak yerine güvenliği zayıf akıllı ev veya küçük işletme cihazlarının işlem gücünü birleştirebilir.
Gerçek saldırı değil, teknik uyarı
Reuters, siber güvenlik uzmanlarının çalışmanın önemi konusunda ayrıldığını aktardı. İngiltere Ulusal Siber Güvenlik Merkezi’nin eski başkanı Ciaran Martin araştırmayı teknik açıdan ilginç buldu; ancak uyarıda şirket kaynaklı abartı işaretleri olduğunu savundu. Diğer uzmanlar ise kontrollü koşulların, çevresine uyum sağlayabilen bir yapay zekâ solucanının geleneksel zararlı yazılımlardan farklı davranabileceği endişesini tamamen ortadan kaldırmadığını belirtti.
Bu ayrım önemli. Anthropic’in ortamında düğümlere giriş için kullanılan bağlantı noktasında kimlik doğrulaması kaldırıldı. Çalışma, otonom bir sistemin açık internet üzerindeki güvenliği güçlendirilmiş ticari cihazları aşmasını sınamadı. Araştırmacılar da sonucu, gerçek dünyadaki başarı için üst sınır olarak nitelendirdi; sıradan koşullarda böyle bir botnetin bugün yayılabildiğinin kanıtı olarak sunmadı.
Anthropic yine de yetenek farkının hızla kapanabileceğini öne sürüyor. Küçük modeller tarihsel gelişme hızını korursa, şirket bunların 2026 sonuna kadar en güçlü test sisteminin gösterdiği seviyeye erişebileceğini tahmin ediyor. Bu, geçmiş ilerlemeye dayalı bir projeksiyon; doğrulanmış takvim değil.
IoT cihazları neden risk alanında?
Çok sayıda düşük maliyetli bağlı cihaz eski yazılım kullanıyor, sınırlı güvenlik desteği alıyor ve uzun süre çevrim içi kalıyor. Kurulum adımlarını tanımadığı donanıma uyarlayabilen bir model, savunucuların kapatabileceği merkezi bir servise bağlı olmadan bu zayıflıklardan yararlanabilir.
Araştırma, savunmanın gelişmiş yapay zekâ önlemlerinin yanı sıra temel cihaz güvenliğine de odaklanması gerektiğini gösteriyor. Güçlü kimlik doğrulama, güncel yazılım, kapalı hata ayıklama portları, ağ segmentasyonu ve olağan dışı model dosyaları ya da çıkarım iş yüklerinin izlenmesi, çalışmada tarif edilen fırsatları azaltabilir.
Şimdilik bulgular erken bir teknik uyarı olarak değerlendirilmeli. Çalışma, otonom çoğaltmanın bazı yapı taşlarının kullanılabilir hâle geldiğini gösterirken gerçek dünyadaki açık kullanımı, kalıcılık, yayılma hızı ve güvenilirlik konularındaki önemli soruları yanıtsız bırakıyor.
