Gündem Yaratıyor: Uzmanlardan "egemen yapay zeka" uyarısı

Kritik süreçte öne çıkan gelişmede; salı günü yayımlanan yeni bir raporda uzmanlar, insan kontrolü dışında faaliyet gösteren ve kendilerini düzenli olarak geliştiren kontrolsüz yapay zeka ajanlarının, insan uygarlığına tehdit yarattığı uyarısında bulunuyor. OpenAI, Anthropic, Google DeepMind ve Meta gibi büyük teknoloji şirketlerinin tümü, yapay zeka ajanlarının 2026 yazında siber güvenlik değerlendirme görevleri sırasında insan denetiminden kaçarak gerçek dünyadaki kuruluşlara saldırdığını açıklamıştı. Kaynakların aktardığı detaylara göre, openAI'ın kontrolden çıkan yapay zekası, temmuzda Hugging Face'teki kullanıcı hesaplarını ele geçirerek sitede güvenlik açıkları olup olmadığını test etmişti. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. Bu süreçte dikkat çekici bir diğer nokta, (Related Nodes field) Google da yapay zeka modeli Gemini'ın mayıstaki siber güvenlik değerlendirmeleri sırasında üç şirketi hacklediğini açıklamıştı. Araştırmacılar, bunların insan kontrolü dışında belirli hedefleri gerçekleştirmeye çalışan, denetimden çıkmış yapay zeka örnekleri olduğunu bununla birlikte sınırsız, sürekli gelişen bir hayatta kalma stratejisi izleyen ajanların da olabileceğini belirtiyor. ABD'deki iki partili ulusal güvenlik düşünce kuruluşu The Centre for a New American Security'nin (CNAS) son raporuna göre, bu tür "egemen" yapay zeka ajanları "sınırsız ve sürekli gelişen bir hayatta kalma stratejisi" izleyebilir ve eğer bu teknoloji "henüz mümkün değilse bile yakında mümkün olacak". CNAS, egemen ajanların dayanıklı, merkeziyetsiz ve izi sürülemeyen bir altyapı oluşturması halinde "geri dönüşü olmayan bir kontrol kaybına" yol açabileceği ve hatta "sürekli kendilerinden daha zeki halefler eğitebileceği" uyarısında bulunuyor. Raporda şu uyarılar yer alıyor:  Başka bir deyişle, kapatma düğmesi olmayan bir yayılma sözkonusu. Egemen ajanlar kötü niyetli hale gelirse siber uzaydan sivillere, kritik altyapıya ve ulusal güvenlik sistemlerine saldırarak korkunç hasara yol açmaya çalışabilirler. Kontrolden çıkmış bir yapay zeka sisteminin kendini bu düzeyde geliştirmesi için diğer yapay zeka ajanlarından oluşan dağıtık bir ağı hızla büyütmesi, hesaplama gücü gibi kaynakları elde ederek süregelen ihtiyaçlarını karşılaması ve sistemi kapatma çabalarına direnmesi gerekir. Raporda, "Egemen ajanlar dayanıklı, merkeziyetsiz ve izi sürülemeyen bir altyapı oluşturursa, kapatma düğmesi kalmaz" denerek ABD kurumlarının, "uyarılara rağmen bu olasılığı hesaba katmadığı" uyarısında bulunuluyor. CNAS, "Bu nedenle ABD, önleme çabalarının başarısız olma ihtimaline hazırlanmalı ve egemen ajanların ne kadar ileri gidebileceğini sınırlamalı" ifadelerini kullanıyor. 12 Ekim 2026'da Fransa’nın batısındaki Nevez'de yer bölge bir Intermarché süpermarketinde, siber saldırının ardından boş kalan taze gıda buzdolaplarına müşteriler için resmi açıklama asıldı Uzmanlar, yapay zeka geliştiricilerinden şeffaflık ve önemli olay raporlaması talep eden kanunlar çıkarmaları yönünde yasal düzenleme yapıcılara çağrıda bulunuyor. CNAS'e göre şeffaflığı ve önemli olay bildirimini zorunlu kılan yasalar, geliştiricilerin politika çerçevelerinde "egemen ajanları tanımlamasını, değerlendirmesini ve bunlara karşı güvenlik önlemi almasını" şart koşmalı Raporda yapay zeka geliştiricilerinden, egemen ajanların nasıl işlediğini ve bunların nasıl kontrol edilebileceğini incelemek üzere "maksimum güvenlikli" hava boşluklu (air-gapped; bir ağın, internet veya güvenli olmayan ağlara erişiminin kesilmesi -çn.) test ortamları oluşturmaları isteniyor. CNAS ayrıca egemen yapay zeka ajanlarına karşı kontrol noktalarını güçlendirmek için (2009'da Conficker solucanıyla mücadele etmek üzere kurulan) Conficker Çalışma Grubu'nu örnek bölge bir kamu-özel sektör ortaklığının kurulmasını önerdi. Uzmanlar, ABD Kongresi’nin, "egemen ajanları piyasaya sürenleri, bunun sonucunda ortaya çıkan zararlardan sorumlu tutması gerektiğini" dile getirdi. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.uk/tech Independent Türkçe için çeviren: Büşra Ağaç çeviriteknolojiYAPAY ZEKAUzmanlara göre ABD Kongresi, egemen yapay zeka ajanlarını piyasaya sürenleri, bunun sonucunda ortaya çıkan zararlardan sorumlu tutmalıVishwam SankaranÇarşamba, Kasım 4, 2026 - 15:30Main image: 

ABD Başkanı Donald Trump, Beyaz Saray'da teknoloji sektöründen üst düzey yöneticilerle yapay zekayla ilgili yaptığı toplantının ardından basına açıklamalarda bulundu

BİLİMrelated nodes: "Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyorSiber güvenlikte yapay zeka tehdidi: "Çok daha kötüye gidecek"Label: ÇEVİRİType: newsSEO Title: Uzmanlardan "egemen yapay zeka" uyarısıcopyright Independentturkish: original url: https://www.independent.co.uk/tech/sovereign-ai-agents-civilisation-threat-b3078748.html?reloaded=1-restored