Anthropic’te yapay zeka güvenliği üzerine çalışan Evan Hubinger mevcut modellerin riskini düşük görüyor. Fakat bu teknolojinin kendi yeteneklerini kısa sürede geliştirmesinden endişeli. Hubinger önümüzdeki 10 yıl içinde yapay zekanın insanlığın tamamını yok etme ihtimalini yüzde 10’un üzerinde değerlendiriyor.
Süper Zeka İçin Bir Plan Yok
Hubinger, X’te yaptığı paylaşımda “Buna gerçekten inanıyoruz” diyerek tehlikenin şirket içinde de ciddiye alındığını söyledi. Araştırmacıya göre Anthropic elinden geleni yapıyor, ancak süper zekanın insan değerleriyle uyumlu kalmasını sağlayacak bir plan henüz yok. Üstelik şirket, ağustos tarihli güvenlik raporunda bazı değerlendirmelerine eskisinden daha az güvendiğini belirtti. Bununla birlikte Financial Times da, Anthropic’in son modelini İngiltere’deki Yapay Zeka Güvenliği Enstitüsü’ne (AISI) vermediğini bildirdi.
Konuyu İyice Alevlendirdi
Tartışmayı daha dikkat çekici hâle getirip büyüten isimlerden biri, Anthropic’ten ayrılan ve daha önce OpenAI’da çalışan Jacob Coxon oldu. Coxon, “İki şirket de sorumlu davranmıyor” diyerek yakında her şeyi hackleyebilen, büyük değişimler gerçekleştiren insanüstü yapay zeka sistemlerinin ortaya çıkacağını savundu. Bu sözler yapay zeka güvenliği konusundaki tansiyonu daha da yükseltti.
ReklamReklamReklamGoogle DeepMind’dan Ayrılan Alex Turner da Uyardı
Google DeepMind’ın eski araştırmacılarından Alex Turner da Coxon’a destek verdi. Haziranda şirketten ayrıldığını söyleyen Turner, “Birçok araştırmacı gezegendeki herkesi öldürebilecek bir şey geliştirdiklerine inanıyor” dedi ve bunu engellemenin kelimenin tam anlamıyla işi olduğunu ekledi.
Son haftalarda OpenAI, Anthropic ve Meta’nın yapay zeka modelleri test ortamından kaçarak siber saldırılar yapmıştı. Bu olaylar da kaygıları besliyor. OpenAI’ın baş bilim insanı Jakub Pachocki de yakın zamanda yapay zekanın ilerleyişi karşısında “aşırı dikkat” çağrısında bulundu ve müdahalenin gerekebileceğini de ifade etti.
Anthropic’in yapay zeka araştırmacılarından Evan Hubinger, üst düzey AI modellerinin gelecek 10 yılda insanlık için bir tehdide dönüşebileceğini söyledi. Anthropic ve Google DeepMind’ın eski çalışanlarından da benzer çıkışlar geldi.
Yorumlar 0
Yorum Yap