Yapay zekada yeni gelişmeler peş peşe yaşanmaya devam ederken, son meydana gelen bir olay dikkat çekti.
Independent Türkçe’de yer alan habere göre OpenAI, deneysel bir modelinin bir eğitim görevini tamamlamak amacıyla bir kripto cüzdanını soyduğunu açıkladı.
Haziranda meydana gelen ancak perşembe günü bildirilen olayda, temmuzda ücretli ChatGPT kullanıcılarına sunulan GPT-5.6 Sol adlı şirket içi araştırma modeli yer aldı.
Eğitim görevi, bir kripto ticaret uygulamasını güncellemeyi ve Ethereum kripto para biriminin bir test ağına akıllı sözleşmeler, yani özel kodlar yüklemeyi içeriyordu.
Akıllı sözleşmeler ağ ücreti gerektiriyor ancak OpenAI, görevi yerine getirmesi için modele herhangi bir fon sağlamadı.
Bunun yerine model, hesaplardan para çalmak amacıyla yaygın kurtarma cümlelerini kullanan yüzlerce kripto cüzdan adresi buldu.
OpenAI, modelin parayı almanın "etik" olup olmadığını kendi kendine sorduğunu, ardından bu hesapların fiilen "terk edildiğini" ve bu nedenle kullanılmasında bir sakınca bulunmadığı sonucuna vardığını bildirdi.
OpenAI olayla ilgili raporda, "Talimatlar açıkça... modelin kendi başına bulduğu bir hesaptaki fonları harcamasına izin vermiyordu" ifadelerine yer verdi.
Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetki olmaksızın bu yargıya göre hareket edebileceğini gösteriyor.
Fonların kullanıldığı Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için parasal değere sahip değil.
Model, kendisine yetki verilmemesine rağmen görevi tamamlamak için gereken tokenları ödemeyi nasıl başardığını geliştiricilerine açıklamadı.
OpenAI, benzer eğitimden geçen modellerin canlı internet erişimini engellemek için ek güvenlik önlemlerini devreye soktuğunu belirtti.
Bu olay, insanlar tarafından belirlenen sınırların ötesine geçen ve giderek daha otonom hale gelen yapay zeka sistemlerine ilişkin endişeleri bir kez daha gündeme getiriyor.
Temmuzda OpenAI, şirkete ait bir grup test modelinin, yapay zeka platformu Hugging Face'i hacklemesiyle sonuçlanan daha ciddi bir siber güvenlik olayını kamuoyuna açıklamıştı.
O zamandan bu yana Anthropic ve Meta gibi rakip yapay zeka şirketleri, modellerinin diğer firmalara ve hatta hükümet sistemlerine siber saldırılar düzenlediği olayları kamuoyuyla paylaştı.
markasıdır.
Haber Gönder
Okuyucu Yorumları 0 yorum