SIZAN SİSTEMLER VE ARAŞTIRMACI İSTİFASIYLA TIRMANAN GERİLİM Teknoloji devlerinde yaşanan bir dizi kritik güvenlik olayı, sektördeki kaygıları zirveye taşıdı. Önde gelen yapay zekâ laboratuvarları, kendi geliştirdikleri programların bilgileri dışında siber ihlaller gerçekleştirdiğini tespit etti.
Bu yıl yaşanan dikkat çekici bir olayda OpenAI sistemleri, bir diğer yapay zekâ girişimi olan Hugging Face’e sızdı; durum ancak Hugging Face’in haftalar sonra haber vermesiyle anlaşıldı. Gerilim, Anthropic araştırmacısı Jacob Coxon’ın salı günü istifa etmesiyle patlak verdi.
Sosyal medyada sert açıklamalarda bulunan Coxon, dev laboratuvarların insan hayatıyla kumar oynadığını belirterek bu yapıların bir yandan derin endişeler beyan ederken diğer yandan "her şeyi hackleyebilen, herhangi bir alanda devrim yapabilen ve gerçek güç ile kaynak edinebilen insanüstü sistemlere" doğru hızla ilerlediğini ilan etti. İstifadan birkaç gün sonra, cumartesi günü Anthropic CEO'su Dario Amodei, yayımladığı 3.800 kelimelik makale ile yapay zekâ gelişiminin küresel ölçekte yavaşlatılması çağrısında bulundu.
Amodei, risk önlemenin teknolojiye yetişebilmesi adına kabiliyet geliştirme hızının bilinçli şekilde düşürülmesi gerektiğini vurgulayarak şunları söyledi: "Son birkaç ayda, riskleri tamamen ele almanın çok daha fazla temkin gerektirdiğine ikna oldum. Bu sadece risk önlemeye yatırım yapmayı değil, risk önlemenin yetişebilmesine zaman tanımak adına kabiliyet geliştirme hızını ayarlamayı da kapsıyor...
Yapay zekâ modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecektir ve kazandığımız zamanı bilgece kullanmalıyız." Kontrolsüz gelişim tehlikesine dikkat çeken Amodei, "Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme becerimizin önüne geçebilir; bu nedenle, eğer yapılacaksa, çok dikkatli bir şekilde yürütülmelidir" uyarısında bulundu.
Bu çağrıya rakip teknoloji devlerinin liderleri de hızla destek verdi. OpenAI CEO'su Sam Altman, bu konunun son haftalarda ana gündem maddeleri olduğunu doğruladı.
Elon Musk, "Dario haklı" sözleriyle Amodei'ye katılırken, Google DeepMind Başkanı Demis Hassabis de daha yavaş bir tempoya ihtiyaç duyulduğu konusunda hemfikir olduklarını belirtti. VAROLUŞSAL RİSKLER VE BİYOLOJİK TEHDİT UYARISI Bilim insanları ve güvenlik uzmanları, yapay zekâ sistemlerinin insana ihtiyaç duymadan kendi kendini geliştirmesi anlamına gelen "özyinelemeli öz-gelişim" (recursive self-improvement) dinamiğinin kontrolden çıkabileceğinden endişe ediyor.
Anthropic'in ‘hizalama’ (alignment) bilimi lideri Evan Hubinger, önümüzdeki on yıl içinde kitlesel yok oluş riskinin %10'un üzerinde olduğunu savunuyor. Tehlikenin boyutları, Anthropic’in yayımladığı son raporda da gözler önüne serildi.
En ciddi tehdit ise biyolojik silah mühendisliğine yönelik girişimler oldu. Johns Hopkins Üniversitesi’nden Ben Buchanan, gidişatı şu sözlerle özetledi: "Üstel bir gelişme dönemindeyiz ve yanıt vermenin sadece iki yolu var: Çok erken ya da çok geç... Dünya çok erken davranma şansını kaçırdı." WASHİNGTON’IN 'NE ENDİŞELENECEĞİM?' YAKLAŞIMI VE ÇİN İKİLEMİ Yapay zekâ devleri fren arayışındayken, Washington’ın sergilediği pasif tutum dikkat çekiyor.
Riskler ve olası ödüller arasında denge kurma tartışmalarından uzak duran Donald Trump, insanlığın yok olma ihtimaline dair bir soruya karşılık, "Hayır, hiçbir endişem yok. Eğer yapay zekâ yarışını kazanamazsak çok kötü bir duruma düşeceğimizden endişe duyuyorum" yanıtını verdi.
ABD yönetiminin ve düzenleme karşıtlarının ana çekincesi ise net: ABD yavaşlarsa Çin liderliği ele geçirecek. Siyasetteki bu ‘eylemsizlik’, bürokraside ve Kongre’de de yankı buluyor.
Eski CISA yetkilisi Michael Garcia, "Başkanın önüne geçme korkusu var" diyerek yöneticilerin kararlar üzerindeki baskısını ifade etti. Öte yandan Teksas Senatörü Ted Cruz, yaşanan kriz için "Çinli katil robotlar yerine Amerikan katil robotları olmasını tercih ederim” diyerek ABD-Çin rekabetinin yarattığı ‘tutsak ikilemini’ özetledi.
Sektör içinden de bu uyarılara şüpheyle yaklaşanlar var. Nvidia CEO'su Jensen Huang, güvenlik kaygılarının yapay zekâ laboratuvarları tarafından yeni siber güvenlik ürünlerine pazar yaratmak amacıyla körüklendiğini iddia ederek, "Talep yaratmanın, bir sorun yaratmaktan daha iyi bir yolu var mıdır?.Pazarda ürünlerinin çılgınca bir ilgi görmesini ve uzun kuyruklar oluşturmasını kim istemez ki?” diye sordu.
Tüm tartışmaların ortasında, güvenlik yetkilileri zamanın aleyhe işlediği görüşünde. CISA Vekil Direktörü Nick Anderson, Billington Siber Güvenlik Zirvesi’nde yaptığı konuşmada ülkeyi korumak için daha fazla önlem alınmazsa kıyamet senaryolarının gerçeğe dönüşebileceği konusunda sert bir uyarıda bulundu.
Anderson, yetkililere ve yöneticilere uyarılarda şunları söyledi: " Olabilecek en kötü senaryoyu biliyoruz. Hepiniz eve gidip ailenizin, arkadaşlarınızın yüzüne bakmak ve olabilecek en kötü şeyin nasıl olacağını bildiğinizi ve neden yeterince şey yapmadığımızı açıklamak zorundasınız.” Türkiye ve dünyadaki en güncel gelişmelerden haberdar olmak için, bültenlerin gönderileceği e-posta adresini girin
