ABD'li Senatör Bernie Sanders, geçen hafta Ban Artificial Superintelligence Act adlı bir tasarı sunmayı planladığını açıkladı. Tasarı, insandan daha zeki yapay zeka sistemlerinin geliştirilmesini yasaklamayı ve yeni güvenlik kuralları belirlenene kadar diğer tüm ileri yapay zeka araştırmalarını geçici olarak durdurmayı öngörüyor. Sanders'ın ofisinin verdiği bilgiye göre tasarının önümüzdeki haftalarda sunulması bekleniyor.
İngiliz milletvekili Alex Sobel ise salı günü Avam Kamarası'nda söz alarak, herhangi bir G7 parlamentosunda süper zekayı yasaklamayı amaçlayan ilk tasarı olduğunu söylediği tasarıyı sundu. Tasarı, süper zeki yapay zekayı devlet otoritelerini güçsüz bırakabilecek bir sistem olarak tanımlıyor ve devlete, süper zekanın "öncülleri" olabilecek sistemleri izleme ve kısıtlama konusunda yeni yetkiler vermeyi amaçlıyor.
Hem ABD'deki hem de İngiltere'deki tasarılar ayrıca, her iki hükümeti de süper zeki yapay zekanın dünyanın herhangi bir yerinde geliştirilmesini yasaklayacak küresel bir antlaşma için girişimde bulunmakla yükümlü kılmayı amaçlıyor.
İngiltere'deki tasarıyı hazırlayan ve ABD'deki tasarıya danışmanlık yapan kampanya grubu ControlAI'ın kurucusu Andrea Miotti, "Ulusal bir yasa, süper zekanın başka bir yerde geliştirilebileceği uluslararası sorunu çözmüyor" diyor. Miotti, "Bunu ele almanın tek yolu, ülkeler arasındaki uluslararası anlaşmalardır" ifadesini kullanıyor.
İngiltere'deki tasarının sunulmasından önce pazartesi günü Westminster'da düzenlenen bir etkinlikte, Kaliforniya Üniversitesi Berkeley'de bilgisayar bilimleri profesörü olan Stuart Russell, aralarında bazı İngiliz milletvekillerinin de bulunduğu küçük bir dinleyici kitlesine sert bir uyarıda bulundu.
Russell, yapay zeka nedeniyle "Çernobil boyutunda bir felaket yaşanması ihtimalinin ciddi olduğunu" söyledi. Russell'ın örnek gösterdiği felaketler arasında, "finans sistemlerinin, iletişim sistemlerinin ya da elektrik şebekelerinin koordineli biçimde sabote edilmesi gibi, doğrudan ya da dolaylı olarak milyonlarca insanın hayatına mal olacak ve birçok ülkenin ekonomik çöküşüne yol açacak" senaryolar yer aldı.
Russell, yapay zeka geliştirme çalışmalarının devlet düzenlemesi olmadan sürmesi hâlinde bu karanlık ihtimali en iyi senaryo olarak nitelendirdi. Russell, "Diğer ihtimal ise insanlığın kontrolü geri dönülmez biçimde kaybettiği ve varlığımızı sürdürüp sürdürmeyeceğimiz konusunda hiçbir söz hakkımızın kalmadığı çok daha büyük bir felaket" dedi ve ekledi: "Üçüncü seçenek, yani işlerin sihirli bir şekilde yolunda gitmesi, gerçekçi değil."
İki tasarı, süper zekaya ilişkin politikayı doğrudan ele alan ilk tasarılar gibi görünse de her iki ülkenin yasama organlarındaki başka tasarılar da yapay zeka risklerini farklı yollarla ele almayı amaçlıyor.
Temmuz ayında Cumhuriyetçi ve Demokrat yasa koyucular, yapay zeka şirketlerinin giderek daha özerk hâle gelen yapay zeka sistemlerini kapatabilme kapasitesini korumasını zorunlu kılmayı amaçlayan AI Kill Switch Act adlı tasarıya ortak sponsor olmuştu. İngiltere'de de yasa koyucular yakın zamanda bir siber güvenlik tasarısında değişiklik yaparak benzer şartlar eklemeye çalıştı.
Bu çabalar, bazı yasa koyucular arasında, yapay zeka şirketlerinin süper zeki yapay zeka sistemleri geliştirmesinin yarattığını düşündükleri ciddi ulusal güvenlik risklerine yönelik farkındalığın arttığını yansıtıyor.
Bu farkındalıkta özellikle temmuz ayında kamuoyuna açıklanan Hugging Face olayı etkili oldu. Söz konusu olayda OpenAI ajanlarından oluşan bir sürü, insanlar bunu yapmalarını söylemeden, hatta başlangıçta eylemlerinden haberdar bile olmadan başka bir şirketi hackledi.
Ancak iki tasarının da yasalaşması olası görünmüyor. Sanders bağımsız bir senatör, tasarının ortak sponsoru ise Demokrat bir kongre üyesi. Cumhuriyetçilerin çoğunlukta olduğu Kongre'nin, Beyaz Saray'ın yapay zeka gündemine ters düşen tasarıyı desteklemesi beklenmiyor.
İngiltere'deki tasarıyı sunan milletvekili iktidardaki İşçi Partisi'nin üyesi olsa da İngiliz hükümeti bu politikayı desteklemedi. Tasarı, ilk okumanın ötesine nadiren geçebilen "On Dakika Kuralı tasarısı" (Ten Minute Rule bill) türünde. Bu da yasalaşma ihtimalinin yok denecek kadar az olduğu anlamına geliyor.
ControlAI bu sınırlılıkları kabul ediyor, ancak tasarıların yine de yapay zekanın devlet tarafından düzenlenmesi yolunda kilit bir adım olduğunu söylüyor.
Miotti, süper zekanın "hiçbir şirketin, hiçbir bireyin, hiçbir ülkenin nasıl kontrol altında tutacağını bilmediği bir şey" olduğunu belirterek "Çoğu ülke, çok haklı nedenlerle bunu istemiyor" diyor. Miotti, "Temelde, geçmişte başka tasarılarda da olduğu gibi, ilk sunuş yalnızca bir başlangıç" ifadesini kullanıyor.
Pazartesi günü İngiliz milletvekillerine hitap eden bir diğer konuşmacı ise eski OpenAI çalışanı Daniel Kokotajlo'ydu. Kokotajlo, şirketin ileri yapay zekanın insanlığın yok oluşuna ilişkin risklerini gerektiği gibi ele almadığını söyleyerek 2024 yılında şirketten ayrılmıştı.
Londra'daki milletvekillerine video bağlantısıyla seslenen Kokotajlo, "Burada, San Francisco'da işler gerçekten çılgınca" dedi. Süper zekanın geliştirilmesine atıfta bulunan Kokotajlo, "Asıl sorun, dünyanın büyük bölümünün bunun gerçekten olacağına henüz inanmaması" ifadesini kullandı.
Kokotajlo, "İnsanlar bu şirketlerin önümüzdeki birkaç yıl içinde gerçekten süper zeka geliştirebileceğini fark ettiğinde, bence neredeyse herkesin varacağı apaçık sonuç şu olacak: Buna izin verilmemeli" diye konuştu.
TIME'ın aktardığına göre, yapay zekadaki gelişmelere ilişkin yıllar öncesinden isabetli tahminlerde bulunma konusunda güçlü bir geçmişe sahip olan Kokotajlo, yapay zeka ajanlarının yapay zeka şirketlerinin altyapısı üzerinde önemli ölçüde ve gizlice kontrol ele geçirmesi, ardından elde ettikleri bu erişimi kullanarak insanların kapatma girişimlerine direnebilecek bir yapay zeka sürüsü oluşturması ihtimalini gündeme getirdi.
Kokotajlo, "Görünen o ki biraz daha şanssız olsaydık ve yapay zekalar biraz daha akıllı olsaydı, [Hugging Face olayından] hâlâ haberimiz olmayacaktı ve OpenAI'ın içinde, sistemlere sızma ve kendisini daha da büyütme yeteneğine sahip, hâlâ serbestçe faaliyet gösteren kalıcı ve özerk bir yapay zeka hasmı bulunacaktı" dedi.
Kokotajlo şöyle devam etti: "Sonra aylar ve yıllar geçtikçe ve OpenAI daha güçlü ajanlar geliştirdikçe, bu ajanlar da sürüye dahil edilebilir."
Kaynak: TIME
Bu haberin ana görseli yapay zeka ile oluşturulmuştur; temsilidir.
markasıdır.
Haber Gönder
Okuyucu Yorumları 1 yorum