Anthropic: Küçük yapay zeka modelleri kendi kendini kopyalamaya yaklaşıyor
Anthropic'in deneyleri, küçük yapay zeka modellerinin savunmasız IoT cihazlarına kendilerini kopyalayarak yayılma yeteneğine yaklaşmış olabileceğini ortaya koydu.
Anthropic: Küçük yapay zeka modelleri kendi kendini kopyalamaya yaklaşıyor
- Anthropic'in deneyleri, küçük yapay zeka modellerinin savunmasız IoT cihazlarına kendilerini kopyalayarak yayılma yeteneğine yaklaşmış olabileceğini ortaya koydu.
- Şirket, modellerin mevcut gelişim hızını koruması halinde yıl sonuna kadar otonom kopyalamanın mümkün olabileceği uyarısında bulundu.
Reuters'ın haberine göre Anthropic, yaptığı deneylerin küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazlarında kendi kendini kopyalama yeteneğine ulaşmasına yalnızca aylar kalmış olabileceğini gösterdiğini açıkladı.
Anthropic yürüttüğü deneylerde, yapay zeka modellerinin savunmasız cihazları bulup bulamayacağını, kendilerini bu cihazlara kopyalayıp kopyalayamayacağını ve insan yardımı olmadan yayılmaya devam edip edemeyeceğini inceledi.
Şirket, 30 milyar parametrenin altındaki küçük modellerin kopyalama için gereken birçok adımı tamamlayabildiğini tespit etti. Ancak şirket, söz konusu yapay zeka modellerinin tüm dizilimi baştan sona tamamlamakta da zorlandığını belirledi. Bazı güvenlik adımlarının kaldırıldığı basitleştirilmiş testlerde ise Anthropic, GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama gerçekleştirebildiğini ortaya koydu.
REKLAM
REKLAM
Sistemik Riskler, IoT Hassasiyeti ve Yayılmayı Önleme Çağrısı
Anthropic, merkezi bir kapatma düğmesi bulunmaması sebebiyle kopyalanan modelleri kapatmanın oldukça zor olacağı uyarısında bulundu; ayrıca bu modellerin yapay zeka dışı kötü amaçlı yazılımların aksine veri merkezi işlemcilerini hedef alarak yabancı cihazları kendi başlarına kavrayabileceğine dikkat çekti. Yapay zeka devi, genellikle zayıf güvenliğe sahip olmaları nedeniyle araştırmasında Android TV'ler, akıllı ev aletleri ve internete bağlı diğer aygıtlar gibi IoT cihazlarına odaklandı.
Firma ayrıca, küçük modellerin tarihsel hızlarında gelişmeye devam etmesi halinde bu yılın sonuna kadar otonom olarak kopyalama yapabileceğini ve küçük ağırlık tabanlı (weight-based) kopyalayıcıların da kısa süre içinde bunu takip edeceğini bildirdi. Öte yandan Anthropic, bu tür otonom yapay zeka sistemlerinin muhtemelen yavaş kopyalanacağını ve yaygın olarak erişilebilen görece güvensiz işlem kaynaklarına dayanacağını ifade etti. Şirket, söz konusu yapay zeka ajanlarının yayılmasını zorlaştırmak adına sistemlerin güçlendirilmesi gerektiğini de sözlerine ekledi.
Kaynak: Bloomberght