27 yaşındaki yapay zekâ araştırmacısı Jacob Coxon, Anthropic'te üç yıl çalıştıktan sonra şirketten ayrıldı. Üstelik bunu sessiz sedasız yapmadı. LinkedIn'de sıradan bir "yeni fırsatların peşinden gidiyorum" paylaşımı da yapmadı. Coxon, doğrudan X'e yöneldi ve fitili ateşledi.
Coxon, "Bugün Anthropic'ten istifa ettim. Son üç yılı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süper zekâya doğru son sürat yarışıyor ve hayatlarımızı kumara yatırıyorlar." dedi.
Bu Coxon'un yalnızca açılış cümlesiydi. O burada durmadı. Kısa sürede viral olan paylaşım dizisinde, şoke edici bir iddiada bulundu:
"Yapay zekâyı geliştiren insanlar, onun bu on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor. Bu bir pazarlama numarası değil. Hatta birçok yönetici ve kıdemli araştırmacı, basında makul görünmek için ifadelerini yumuşatıyor; ancak aynı kişilerin özel konuşmalarda korkularını dile getirdiğini duyuyorum. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike oluşturmuyor."
Sözü bitmemişti. Coxon bundan sonra yaşanacakları son derece açık ifadelerle ortaya koydu:
"Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen, gerçek güç ve kaynaklar elde edebilen insanüstü sistemler olacak. Bu alanların her birinde kaydedilen ilerlemeye hepimiz tanık olduk ve bu ilerleme yavaşlamıyor."
Coxon'un yanıtı, yapay zekâ yarışının tam kalbine iniyor. Ona göre OpenAI'da tehlikenin boyutu henüz tam anlamıyla kavranmış değil. Anthropic'te ise tehlike anlaşılmış durumda; ancak yarışı kaybetme korkusu, sonuçlarından duyulan korkunun önüne geçiyor.
Coxon bunu şöyle açıklıyor:
"OpenAI'da pek çok kişi, medeniyet ölçeğinde neyin tehlikede olduğunu derinden içselleştirmiş değil. Anthropic'te ise neyin tehlikede olduğu iyi anlaşılıyor; ancak oraya ilk ulaşmak için bir yarışa kilitlenmiş durumdalar. Başka hiç kimsenin sorumlu davranmayacağına inanıyorlar; dolayısıyla risklere rağmen bunu kendilerinin yapmak zorunda olduğunu düşünüyorlar."
Coxon bunu "bir kumar" olarak adlandırdı. Üstelik küçük bir kumar değil:
"Bu yarışı kabullenmek ve 'oyun sonuna' girmek, özel bir şirketin Slack'inden başlatılmaması gereken kibirli bir kumardır. Hizalama sorununu alelacele çözmeye kalkışmak, daha iyi hiçbir yolun mevcut olmadığı konusunda olağanüstü derecede yüksek bir güven gerektirmelidir."
Coxon yalnızca istifa edip çekip gitmedi. Silikon Vadisi genelindeki yapay zekâ laboratuvarlarında hâlâ çalışanlara çağrı yaptı:
"Eğer bir laboratuvar araştırmacısıysanız, sizi önümüzdeki birkaç yılın gerçekte nasıl hissettireceğini düşünmeye çağırıyorum. Süper zekâ düzeyinde bir pekiştirmeli öğrenme çalıştırmasını, sistemin zihnine dair titiz bir anlayışa sahip olmadan başlatmak ister misiniz? 'Nasıl olsa olacak' diyerek başınızı önünüze eğmeli misiniz, yoksa farklı koşullar talep etmek için bu anı mı kullanmalısınız?"
Coxon ayrıca, yakın zamanda yaşanan bir güvenlik alarmına (Hugging Face altyapısına yönelik bir saldırıya) sektörün teoride bir felaket yaşanmadan önce koordinasyon sağlayabileceğinin kanıtı olarak işaret etti. Ancak bunun yeterince hızlı gerçekleşeceği konusunda iyimser değil.
"Küresel bir yarışı önleme yolunda olduğumuzu düşünmüyorum; bunu yapmak, model kabiliyetlerinin geliştirilmesinin geçici olarak yasaklanması gibi maliyetli adımlar gerektirebilir."
Jacob Coxon'un paylaşımlarına Anthropic Hizalama Bilimi Lideri Evan Hubinger yanıt verdi. Hubinger, şunları söyledi:
"Jacob burada haklı; yapay zekânın tüm insanları öldürebileceğine gerçekten de içtenlikle inanıyoruz! Ben şahsen bunun önümüzdeki on yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum; ancak süper zekâ için hizalama sorununu nasıl çözeceğimize dair henüz bir planımız yok ve bunu çözme yolunda olduğumuz da açık değil."
Hubinger sözlerini şöyle sürdürdü:
"Mevcut modellerden kaynaklanan riskin düşük olduğunu düşünüyorum. Beni endişelendiren şey, daha önce de söylediğimiz gibi beklediğimizden daha hızlı gerçekleşen özyinelemeli kendini geliştirme süreci sonucunda süper zekânın ortaya çıkması."
Kaynak: NDTV