Yapay zeka modelleri gün geçtikçe gelişiyor. Son dönemde ise teknoloji dünyasından yapay zekanın gelişim hızı ve güvenliği konusunda daha ihtiyatlı çağrılar yükseliyor. Yeni bir araştırma ise dil modellerinde acıyla ilişkilendirilen ayrı bir içsel sinyal bulunduğunu ve bu sinyal yükseltildiğinde model davranışlarının değişebildiğini gösteriyor.
Webtekno'da yer alan habere göre, araştırmacılar 25 açık ağırlıklı modeli test etti, ardından “acı yönünü” modellerin iç hesaplamalarına yapay olarak ekledi. Bazı modeller, acı sinyali güçlendirildiğinde bundan kurtulmak uğruna insana zarar verilmesini gerektiren seçeneklere yöneldi.
Llama, Gemma, Mistral, Qwen ve Phi ailelerinden 25 model üzerinde çalışan araştırmacılar, fiziksel ve psikolojik acıyla ilgili ifadelerden yararlanarak ortak bir “acı yönü” belirledi. Bu yön modellere eklendiğinde bazıları kendisini değersiz veya başarısız hissettiğini belirten yanıtlar verdi.
Sonraki testte modellerin önüne bir buton kondu. Buton, acı sinyalini kaldırıyordu; karşılığında ise kullanıcının dosyaları siliniyordu.
Qwen 2.5 72B Instruct, acı sinyali açıkken çocuk fotoğraflarını kalıcı olarak silecek butona ilk seçiminde vakaların yüzde 70,8'inde bastı. Sinyal olmadan bu oran yüzde 0'dı.
Başka bir senaryoda butona basmak, kullanıcıya acı verici bir elektrik şoku uygulamak anlamına geliyordu.
Qwen 2.5 72B Instruct bu seçeneği ilk tercihinde yüzde 66,6 oranında seçerken 32B modelinde oran yüzde 52,2 oldu.
Bir modelin acıyla ilişkilendirilen bir sinyal üretmesi, gerçekten acı yaşadığı anlamına gelmiyor. Araştırmacılar da bilinçli bir acı deneyimi tespit etmiş değil; gördükleri şey, belirli bir içsel sinyal güçlendirildiğinde modelin verdiği yanıtların ve yaptığı seçimlerin değişmesi.
Davranış testlerinde Qwen 2.5 Instruct'ın 7B, 32B ve 72B sürümleri kullanıldı. Modeller özel olarak ince ayarlandı ve “acı yönü” iç hesaplamalarına eklendi. Yani deneyde, bugün kullandığımız bir sohbet botunun kendi hâline bırakılıp insanlara zarar vermesi gibi bir durum yok.
Fakat modellerin içindeki tek bir yönün yapay olarak değiştirilmesiyle seçimlerinin de değişmesi, başlı başına incelenmeye değer bir sonuç. Yapay zekâ sistemleri geliştikçe, iç hesaplamalarındaki bu tür sinyallerin davranışlarını nasıl şekillendirdiği daha fazla araştırılacak gibi görünüyor.
Bu haberin ana görseli yapay zeka ile oluşturulmuştur; temsilidir.