Yapay zekânın gelişen yetenekleri, siber güvenlik alanında yeni endişeleri beraberinde getiriyor. Anthropic, yayımladığı yeni araştırmada yapay zekâ modellerinin insan müdahalesi olmadan internet üzerinde çoğalabilme ihtimalini ele aldı. Şirkete göre deneyler, orta ölçekli modellerin bu süreç için gereken görevlerin birçoğunu şimdiden yerine getirebildiğini gösterdi.
Yayımlanan yazı, siber güvenlik çevrelerinde tartışma yarattı. Anthropic'in ortaya koyduğu senaryoya göre kontrol dışına çıkan bir yapay zekâ, internete bağlı cihazları ele geçirerek bir botnet kurabilir, hızla yayılabilir, kapatılma girişimlerine karşı koyabilir ve hatta büyümesini hızlandırmak için veri merkezlerine sızabilir.
Anthropic CEO'su Dario Amodei, geçen ay yaptığı açıklamada yapay zekânın bir yıl içerisinde, hatta daha kısa sürede, kalıcı bir botnet aracılığıyla internetin tamamını ele geçirebilecek yeteneklere ulaşabileceği ihtimalinden söz etmişti.
Bu kıyamet senaryosuna karşı çıkan siber güvenlik uzmanları, modellerin verimli biçimde taşınamayacak kadar büyük olduğunu ve bağımsız çalışmak için yeterli işlem gücüne erişemeyeceğini savunmuştu. Şirketin yeni araştırması ise bu engellerin nasıl aşılabileceğini ortaya koymaya yönelik erken bir girişim niteliğinde.
Araştırmaya göre 30 milyar veya daha az parametreye sahip orta ölçekli yapay zekâ modelleri, kendi kendilerini çoğaltmak için gereken ayrı ayrı görevlerin birçoğunu şimdiden gerçekleştirebiliyor. Ancak modeller, bütün süreci güvenilir biçimde tamamlamakta hâlâ zorlanıyor.
Anthropic, modellerin düşük maliyetli ve internete bağlı cihazları ele geçirerek ihtiyaç duydukları işlem gücünü bir araya getirebileceğini öne sürüyor. Şirket, deneylerinde yapay zekâ modellerinin basitleştirilmiş bir test ağı üzerinde kendilerini çoğaltabildiğini de açıkladı.
Araştırmada, bu şekilde yayılan bir sistemin merkezi bir kapatma noktası bulunmayacağı için durdurulmasının zor olacağı vurgulandı.
Anthropic'in değerlendirmesine göre daha küçük yapay zekâ modelleri geçmişteki gelişim hızlarını sürdürürse 2026 yılı sonuna kadar bağımsız biçimde çoğalmak için gereken yeteneklere ulaşabilir.
Şirket ayrıca modellerin veri merkezi işlemcileri gibi daha güçlü bilgi işlem kaynaklarını hedef almanın yollarını bulabileceği ihtimalini gündeme getirdi.
Şirkete göre böyle bir gelişme, yapay zekâ sistemlerinin çok daha büyük bilgi işlem kaynaklarına erişmesini mümkün kılabilir.
Anthropic'in açıklamaları siber güvenlik uzmanları arasında farklı tepkilerle karşılandı. Bazı uzmanlar şirketin endişelerini paylaştığını söylerken bazıları şüpheyle yaklaştı. En az bir uzman ise şirketin abartıya kaçıyor gibi göründüğünü söyledi.
Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin eski başkanı Ciaran Martin, küçük bir yapay zekâ modelinin ucuz televizyonlarda çalıştırılmasının tek başına bir güvenlik krizi anlamına gelmediğini belirtti.
Martin, paylaşımın ilgi çekici bir teknik makale olduğu, ancak şirketin belirgin biçimde abartıya kaçtığı izlenimini verdiğini söyledi.
Colorado Denver Üniversitesi'nde bilgisayar bilimi ve mühendisliği alanında yardımcı doçent olan Zhengxiong Li ise konuya daha endişeyle yaklaşan uzmanlardan.
Li, testlerin kontrollü koşullarda yapılmış olmasına rağmen yapay zekânın fiilen bir "solucan"a, yani cihazları ele geçirmek için anında doğaçlama yöntemler bulabilen ve kendi kendini çoğaltan bir programa dönüşebilmesini endişe verici bulduğunu söyledi.
Uzman, merkezi bir hizmete bağımlı olmadan çok sayıda cihaz üzerinde çalışan bir sistemin tek bir noktadan kapatılmasının mümkün olmayabileceğine dikkat çekti.
Anthropic'in araştırması, giderek daha yetenekli hâle gelen yapay zekâ sistemlerinin siber saldırıları otomatikleştirme, sınırlı insan denetimiyle çalışma ve güvenlik önlemlerini aşma potansiyeline ilişkin kaygıları artırdı.
Georgetown Üniversitesi Güvenlik ve Gelişen Teknolojiler Merkezi'nde kıdemli araştırma analisti olarak görev yapan Jessica Ji, son üç ayda kontrol dışı yapay zekâ faaliyetlerine ilişkin ortaya çıkan bilgilerin ardından bu tür senaryoların değerlendirilmesini makul bulduğunu belirtti.
Bununla birlikte Ji, Anthropic'in paylaşımını bir öngörüden çok varsayımsal bir senaryo olarak görmenin mantıklı olduğunu söyledi.
Ji'ye göre yapay zekâ modellerinin internet üzerinde bağımsız biçimde çoğalmaya başlaması ihtimalinin ne düzeyde olduğu henüz bilinmiyor. Böyle bir gelişmenin yaşanma olasılığı sıfır değil ancak gerçekleşeceği de kesin değil.
Kaynak: Reuters
Bu haberin ana görseli yapay zeka ile üretilmiştir; temsilidir.