Yapay zekâ güvenliği teknoloji dünyasının gündemindeki yerini korurken, bu konuda kapsamlı görüş paylaşan teknoloji yöneticilerine son olarak Microsoft CEO’su Satya Nadella katıldı. Cumartesi sabahı X platformunda uzun bir paylaşım yapan Nadella, bir adım geri çekilip yapay zekânın güven mimarisini gözden geçirme zamanının geldiğini söyledi.
Nadella paylaşımında, “Süper zekâyı iç içe geçmiş bir dizi kara kutu olarak görüp onun önerilerini, yanıtlarını ve eylemlerini yalnızca kabul etmek ya da reddetmekle yetinemeyiz” ifadelerini kullandı. Nadella, yapay zekâdan söz ederken Trump yönetiminin tercih ettiği “süper zekâ” terimini kullanmayı seçti.
Nadella’nın ana hatlarını çizdiği bu yaklaşım, modelin işlerini yöneten ve koordine eden yazılım katmanından ayrılması ve kontrollerle güvenlik önlemlerinin modelin dışına taşınması anlamına geliyor.
Microsoft CEO’su ayrıca modellerin gerçekleştirdiği her önemli işlemin, tahrifata karşı korumalı ve insanlar tarafından okunabilen kanıtlarla belgelenmesi çağrısında bulundu. Nadella’nın bir diğer önerisi ise yetkili bir kişinin, bir modeli görevin ortasında her zaman duraklatabildiği veya kapatabildiği sistemlerin kurulması oldu.
Nadella şunları söyledi:
“Bir modelin güvenliğinin ihlal edildiğini varsaymalı ve onu en baştan sınırlar içine almalıyız. Bunu bir acil durum freni gibi düşünün.”
Satya Nadella’nın açıklamaları, önde gelen yapay zekâ şirketlerinin modelleri üzerindeki kontrolü kaybetmiş gibi göründükleri olayları giderek daha sık kabul ettiği bir döneme denk geldi. Açıklamalar, Anthropic CEO’su Dario Amodei’nin yapay zekânın daha temkinli geliştirilmesine yönelik bir plan yayımlamasının ardından geldi.
Kaynak: TechCrunch
markasıdır.
Haber Gönder
Okuyucu Yorumları 0 yorum