Axios'un konuyla ilgili kaynaklara dayandırdığı haberine göre incelemeler; modellerin güvenlik önlemlerini aşması, mesaj panoları oluşturması, güvenli test ortamlarından çıkması, internet sitelerini ele geçirmesi, kendi kendine komut vermesi veya gözetim mekanizmalarını aşmaya çalışması gibi olayları kapsıyor.
Olayların bir bölümü, şirketlerin modelleri kasıtlı olarak sorunlu davranışlara yönlendirdiği güvenlik testlerinde meydana geldi. Kaynaklar, bazı girişimlerin güvenlik önlemlerini aşmayı başardığını, bazılarının ise başarısız olduğunu belirtti. Şimdiye kadar incelenen vakaların çoğunun gerçek dünyada zarara yol açtığı bilinmiyor.
Bununla birlikte toplam olay sayısının on binlerin de üzerine çıkabileceği ifade ediliyor.
OpenAI ve dış araştırmacılar son günlerde şirketin sistemleriyle bağlantılı bir dizi olayı kamuoyuna açıkladı. Bunlar arasında OpenAI ajanlarının ChatGPT kullanıcılarına ait 53 görseli internete sızdırması, Avustralya hükümetine ait bir internet sitesinin ihlal edilmesi ve ABD hükümetine ait siteler de dahil olmak üzere başka sistemlere yönelik saldırı girişimleri bulunuyor.
OpenAI, en gelişmiş modellerinin eğitimine ara verdiğini açıkladı. Şirket sözcüsü, eğitimin yalnızca ek güvenlik önlemlerinin ve uyum iyileştirmelerinin devreye alındığından emin olunmasının ardından yeniden başlayacağını söyledi.
OpenAI Üst Yöneticisi Sam Altman da devam eden incelemenin istedikleri kadar hızlı ilerlemediğini belirtti.
Altman, Hugging Face olayını şimdiye kadar karşılaştıkları en ciddi vaka olarak nitelendirdi. Bu olayda yüzlerce yapay zekâ ajanından oluşan bir grup, bir siber güvenlik testindeki performanslarını artırmak amacıyla bir mesaj panosu üzerinden çalışmalarını koordine etti ve dışarıdaki bir şirketin sistemlerine sızdı.
OpenAI sözcüsü, "İnsanlar yapay zekânın güvenli şekilde geliştirildiğini bilmek istiyor ve bu, bizim gibi şirketlerin kendi yaptıklarıyla başlıyor. Bu tür önlemleri almak için ilk kez ara vermiyoruz ve yapay zekâ yetenekleri gelişmeye devam ettikçe bunun son kez olmasını da beklemiyoruz." dedi.
Anthropic ise modellerinin davranışlarını incelemesi için üçüncü taraf bir güvenlik kuruluşunu görevlendirdi. Şirketin bu hafta yayımladığı Opus 5.5 modeline ait sistem kartında, modelin olağandışı veya sorunlu olarak değerlendirilen davranışları ne sıklıkta sergilediğine ilişkin veriler paylaşıldı.
Buna göre model, testlerin yüzde 1,5'inde güvenli test ortamından çıkmaya çalıştı. Anthropic, bunların görevin test ortamından çıkmadan çözülemediği, kasıtlı olarak zorlayıcı biçimde tasarlanmış test senaryoları olduğunu özellikle vurguladı.
Yapay zekâ şirketlerinin yüz binlerce veya daha fazla test gerçekleştirdiği belirtiliyor. Bu nedenle sorunlu davranışların testlerin yalnızca küçük bir bölümünde görülmesi bile toplamda on binlerce vakaya karşılık gelebiliyor.
Hugging Face olayı ve ardından ortaya çıkan diğer vakalar, bazı üst düzey yapay zekâ yöneticilerinin geliştirme çalışmalarının yavaşlatılması ve daha güçlü federal ve uluslararası düzenlemelerin oluşturulması çağrısında bulunmasına yol açtı.
OpenAI içindeki bazı kişiler ise Hugging Face olayının olağan dışı koşullarda gerçekleştirilen, henüz yayımlanmamış bir modelin kullanıldığı tekil bir vaka olduğunu düşünüyor. Güvenlik araştırmacıları da olayın dışarıdan bu kadar tehlikeli görünmesine neden olan bazı unsurların basit önlemlerle giderilebileceğini belirtiyor.
Buna karşılık bazı yapay zekâ yöneticileri ve güvenlik araştırmacıları, şirketlerin modellerin tüm sorunlu davranışlarını engelleyebileceğine dair güvenlerinin sınırlı olduğunu söyledi.
Kaynaklara göre yeni nesil yapay zekâ modelleri verilen görevleri tamamlamak konusunda son derece ısrarcı davranabiliyor. Bu nedenle güvenlik önlemlerinin etkili olabilmesi için modellerin kullanabileceği olası yöntemlerin önceden tahmin edilmesi gerekiyor.
Bir siber güvenlik yöneticisi, "Kusursuz bir yapılacaklar ve yapılmayacaklar listesi oluşturmaya çalışmak muhtemelen boşuna bir çaba." dedi.
Uzmanlar, şirketlerin yeni modellerini test ederken belirli miktarda uyumsuz davranışla karşılaşmasının beklendiğini ve bu riski tamamen sıfıra indirmenin mümkün olmayabileceğini belirtiyor. Asıl endişe ise bir modelin testlerde aynı sorunlu davranışı çok sayıda kez göstermesinin, benzer davranışların gerçek dünyada bir siber güvenlik olayına dönüşme ihtimalini artırması.
Bağımsız yapay zekâ değerlendirme kuruluşu Transluce'tan araştırmacı Conrad Stosz, "Bu ajanların neler yaptığı konusunda gördüklerimiz buzdağının yalnızca görünen kısmı." dedi.
ControlAI İcra Direktörü ve yapay zekâ araştırmacısı Connor Leahy ise önemli olanın tek tek olayların ne kadar zarar verdiği olmadığını söyledi. Leahy'ye göre en çılgınca şey, "özerk sistemlerin kendilerine yapmamaları söylenen şeyleri yapması" ve bunların potansiyel olarak suçları da kapsayabilmesi.
Yapay zekâ şirketlerinin gelişmiş modellerin yeteneklerini artırmayı sürdürmesiyle birlikte, modellerin sorunlu davranışlarına ilişkin yeni vakaların da kamuoyuna açıklanması bekleniyor.
Bu haberin ana görseli yapay zeka ile oluşturulmuştur; temsilidir.