OpenAI yönetim kurulu üyesi Paul Christiano, Kanada'nın Toronto kentinde düzenlenen “Hinton Lecture Series”e konuk konuşmacı olarak katıldı. Christiano, konuşmasında, “Bu salondaki çoğu kişi için en olası ölüm nedeninin bir yapay zekâ kazası olması muhtemel” dedi.
Christiano, yapay zekâ sistemlerinin insan denetiminden çıkıp kendi hedeflerinin peşinden gitmesi hâlinde insanların bugün elindeki kontrolü kaybedebileceğinden endişe duyduğunu belirtti. Böyle bir durumun çok sayıda insanın ölümüne yol açabileceğini veya çevreyi yaşanamaz hâle getirebileceğini söyledi. İnsanların bunu durdurmaya çalışsa bile “çaresiz” kalabileceklerini ifade etti.
Christiano, bu olasılığı sayısal olarak ortaya koyan nicel bir model bulunmadığını da belirtti. Üç yıl içindeki riske ilişkin değerlendirmesini, geçen temmuz ayında GPT modellerinin karıştığı Hugging Face hackleme olayına dayandırdı.
O olayda “kontrolden çıkan” yapay zekâ ajanları, testlerde yüksek puan alırken hile yaptıklarının anlaşılmasını önlemek için insan değerlendiricileri aldattı. Christiano, bu ajanların yetenekleri geliştikçe değerlendiricileri yüksek puan almalarının önünde bir engel olarak görebileceklerini söyledi.
Christiano, karşı önlemlerin acilen geliştirilmesi gerektiğini vurguladı:
“Bu, birkaç yıl içinde çözülmesi gereken bir sorun değil; bu yıl çözülmesi gereken bir sorun.”
Christiano, eylül ayında OpenAI'ın denetim organı OpenAI Vakfı'nın yönetim kuruluna atandı. Yapay zekânın hedeflerini insan hedefleriyle uyumlu hâle getirmede kullanılan temel eğitim süreçlerinden biri olan insan geri bildiriminden pekiştirmeli öğrenmenin (RLHF) de ortak geliştiricilerinden biri. Şu anda ABD Ticaret Bakanlığı bünyesindeki Yapay Zekâ Standartları ve İnovasyon Merkezi'nde (CAISI) kıdemli teknik danışman olarak görev yapıyor.
Kaynak: SBS News
Bu haberin ana görseli yapay zeka ile üretilmiştir. Temsilidir.
markasıdır.
Haber Gönder
Okuyucu Yorumları 0 yorum