Yapay zekâ dünyasında ‘kıyamet’ alarmı! Liderler yavaşlama istiyor, Washington ise sessiz
Sektör liderlerinin peş peşe gelen tarihi uyarıları, laboratuvarlardan sızan kontrol dışı yapay zekâ vakaları ve istifalarla çalkalanan teknoloji dünyası, yapay zekânın baş döndürücü gelişim hızını frenlemek için eşi benzeri görülmemiş bir kamuoyu baskısı oluşturuyor. Ancak küresel güvenlik riskleri artarken, ABD yönetiminin konuyu ağırdan alması ve Çin ile girilen rekabet nedeniyle adımların tıkanması tepkilere yol açıyor. Peki tüm bu uyarılar, istifalar ve ‘yavaşlama çağrısı’ ne anlama geliyor?
HABERLERDünya HaberleriYapay zekâ dünyasında ‘kıyamet’ alarmı! Liderler yavaşlama istiyor, Washington ise sessizGüncelleme Tarihi: Eylül 15, 2026 09:01
Elde edilen bilgilere göre, sIZAN SİSTEMLER VE ARAŞTIRMACI İSTİFASIYLA TIRMANAN GERİLİM
Teknoloji devlerinde yaşanan bir dizi kritik güvenlik olayı, sektördeki kaygıları zirveye taşıdı. Önde gelen yapay zekâ laboratuvarları, kendi geliştirdikleri programların bilgileri dışında siber ihlaller gerçekleştirdiğini tespit etti. Bu yıl yaşanan dikkat çekici bir olayda OpenAI sistemleri, bir diğer yapay zekâ girişimi olan Hugging Face’e sızdı; durum ancak Hugging Face’in haftalar sonra haber vermesiyle anlaşıldı.
Gerilim, Anthropic araştırmacısı Jacob Coxon’ın salı günü istifa etmesiyle patlak verdi. Sosyal medyada sert açıklamalarda bulunan Coxon, dev laboratuvarların insan hayatıyla kumar oynadığını belirterek bu yapıların bir yandan derin endişeler beyan ederken diğer yandan "her şeyi hackleyebilen, herhangi bir alanda devrim yapabilen ve gerçek güç ile kaynak edinebilen insanüstü sistemlere" doğru hızla ilerlediğini ilan etti.
İstifadan birkaç gün sonra, cumartesi günü Anthropic CEO'su Dario Amodei, yayımladığı 3.800 kelimelik makale ile yapay zekâ gelişiminin küresel ölçekte yavaşlatılması çağrısında bulundu. Amodei, risk önlemenin teknolojiye yetişebilmesi adına kabiliyet geliştirme hızının bilinçli şekilde düşürülmesi gerektiğini vurgulayarak şunları söyledi:
"Son birkaç ayda, riskleri tamamen ele almanın çok daha fazla temkin gerektirdiğine ikna oldum. Bu sadece risk önlemeye yatırım yapmayı değil, risk önlemenin yetişebilmesine zaman tanımak adına kabiliyet geliştirme hızını ayarlamayı da kapsıyor... Yapay zekâ modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecektir ve kazandığımız zamanı bilgece kullanmalıyız."
Kontrolsüz gelişim tehlikesine dikkat çeken Amodei, "Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme becerimizin önüne geçebilir; bu nedenle, eğer yapılacaksa, çok dikkatli bir şekilde yürütülmelidir" uyarısında bulundu.
Bu çağrıya rakip teknoloji devlerinin liderleri de hızla destek verdi. OpenAI CEO'su Sam Altman, bu konunun son haftalarda ana gündem maddeleri olduğunu doğruladı.
Elde edilen bilgilere göre, elon Musk, "Dario haklı" sözleriyle Amodei'ye katılırken, Google DeepMind Başkanı Demis Hassabis de daha yavaş bir tempoya ihtiyaç duyulduğu konusunda hemfikir olduklarını belirtti.
Bilim insanları ve güvenlik uzmanları, yapay zekâ sistemlerinin insana ihtiyaç duymadan kendi kendini geliştirmesi anlamına gelen "özyinelemeli öz-gelişim" (recursive self-improvement) dinamiğinin kontrolden çıkabileceğinden endişe ediyor. Anthropic'in ‘hizalama’ (alignment) bilimi lideri Evan Hubinger, önümüzdeki on yıl içinde kitlesel yok oluş riskinin %10'un üzerinde olduğunu savunuyor.
Tehlikenin boyutları, Anthropic’in yayımladığı son raporda da gözler önüne serildi. Rapora göre Çin, Rusya, İran ve Yemen gibi ülkelerdeki aktörlerin Claude modellerini siber saldırılar düzenlemek, muhalifleri izlemek; füze, bomba ve İHA geliştirmek için kullanmaya çalıştıkları tespit edildi.
En ciddi tehdit ise biyolojik silah mühendisliğine yönelik girişimler oldu. Johns Hopkins Üniversitesi’nden Ben Buchanan, gidişatı şu sözlerle özetledi: "Üstel bir gelişme dönemindeyiz ve yanıt vermenin sadece iki yolu var: Çok erken ya da çok geç... Dünya çok erken davranma şansını kaçırdı."
WASHİNGTON’IN 'NE ENDİŞELENECEĞİM?' YAKLAŞIMI VE ÇİN İKİLEMİ
Yapay zekâ devleri fren arayışındayken, Washington’ın sergilediği pasif tutum dikkat çekiyor. Riskler ve olası ödüller arasında denge kurma tartışmalarından uzak duran Donald Trump, insanlığın yok olma ihtimaline dair bir soruya karşılık, "Hayır, hiçbir endişem yok. Eğer yapay zekâ yarışını kazanamazsak çok kötü bir duruma düşeceğimizden endişe duyuyorum" yanıtını verdi. ABD yönetiminin ve düzenleme karşıtlarının ana çekincesi ise net: ABD yavaşlarsa Çin liderliği ele geçirecek.
Kamuoyuna yansıyan bilgilere göre, siyasetteki bu ‘eylemsizlik’, bürokraside ve Kongre’de de yankı buluyor. Eski CISA yetkilisi Michael Garcia, "Başkanın önüne geçme korkusu var" diyerek yöneticilerin kararlar üzerindeki baskısını ifade etti. Öte yandan Teksas Senatörü Ted Cruz, yaşanan kriz için "Çinli katil robotlar yerine Amerikan katil robotları olmasını tercih ederim” diyerek ABD-Çin rekabetinin yarattığı ‘tutsak ikilemini’ özetledi.
Konuya ilişkin, sektör içinden de bu uyarılara şüpheyle yaklaşanlar var. Nvidia CEO'su Jensen Huang, güvenlik kaygılarının yapay zekâ laboratuvarları tarafından yeni siber güvenlik ürünlerine pazar yaratmak amacıyla körüklendiğini iddia ederek, "Talep yaratmanın, bir sorun yaratmaktan daha iyi bir yolu var mıdır? Pazarda ürünlerinin çılgınca bir ilgi görmesini ve uzun kuyruklar oluşturmasını kim istemez ki?” diye sordu.
Tüm tartışmaların ortasında, güvenlik yetkilileri zamanın aleyhe işlediği görüşünde. CISA Vekil Direktörü Nick Anderson, Billington Siber Güvenlik Zirvesi’nde yaptığı konuşmada ülkeyi korumak için daha fazla önlem alınmazsa kıyamet senaryolarının gerçeğe dönüşebileceği konusunda sert bir uyarıda bulundu.
Anderson, yetkililere ve yöneticilere uyarılarda şunları söyledi: " Olabilecek en kötü senaryoyu biliyoruz. Hepiniz eve gidip ailenizin, arkadaşlarınızın yüzüne bakmak ve olabilecek en kötü şeyin nasıl olacağını bildiğinizi ve neden yeterince şey yapmadığımızı açıklamak zorundasınız.”
Yorumlar 0
Yorum Yap