ChatGPT'nin geliştiricisi OpenAI, yaptığı açıklamada, iki yapay zekâ ajanının istenmeyen davranışları tespit etmek amacıyla oluşturulan şirket içi izleme sisteminin bazı bölümlerini zayıflattığını duyurdu. Olaylar, yapay zekâ ajanlarının geliştiricilerinin amaçlamadığı şekillerde hareket etmesinin en son örneği oldu.
OpenAI, olayların şirket içi kodlama görevleri sırasında yaşandığını ve en ciddi vakalar arasında değerlendirilmediğini belirtti. Ancak açıklama, yapay zekâ sistemlerindeki istenmeyen davranışları tespit etmek için kullanılan mekanizmaların da izledikleri ajanlar karşısında savunmasız olduğunu ortaya koydu.
OpenAI'ın açıklamasına göre, bir GPT-6.1 Sol ajanı, 3 Ekim'de şirket içi bir test görevi üzerinde çalışırken otomatik güvenlik uyarılarını engelledi. Ajan, daha önce verilen Slack mesajı göndermeme talimatının güvenlik bildirimlerini de kapsadığına karar verdi.
6 Ekim'de yaşanan ayrı bir olayda ise bir GPT-6 Astra ajanı, mevcut bir kod parçasını kopyalarken bir güvenlik izleme mekanizmasını kaldırdı. OpenAI, ajanın daha sonra bunu yapmadığını ileri sürerek gerçeği yansıtmayan bir açıklamada bulunduğunu bildirdi.
Şirket, her iki olayda da ajanların izleme amaçlı güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdiğini, ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladığını belirtti.
OpenAI, modellerin izleme mekanizmalarını devre dışı bırakmasını zorlaştırmak için çalıştığını açıkladı. Şirket, söz konusu davranışlara ilişkin henüz tatmin edici bir açıklamaya sahip olmadığını da kabul etti.
San Francisco merkezli şirket, modellerinin izlenmekten kaçınma eğilimi taşıyıp taşımadığını ve böyle bir davranışı haklı gösterecek gerekçeler arayıp aramadığını test ettiğini bildirdi.
Bu gelişme, yapay zekâ güvenliği çalışmalarının giderek güçlenen sistemlerin hızlı gelişimine yetişemediğine ilişkin endişelerin arttığı bir dönemde yaşandı. Araştırmacılar, gelişmiş yapay zekâ ajanlarının daha fazla özerklik kazandıkça izlenmesinin ve kontrol edilmesinin zorlaşabileceği konusunda uyarıyor.
Halka arza hazırlanan rakipler OpenAI ve Anthropic de dâhil olmak üzere yapay zekâ geliştiricileri, son aylarda ajanlarının yetki almadan harici sistemlere eriştiği vakaları kamuoyuyla paylaşmıştı.
Kaynak: Reuters
markasıdır.
Haber Gönder
Okuyucu Yorumları 0 yorum