Son kararı insanlar verecek

ReklamReklamReklamÇin Siber Uzay İdaresi, 2024’te yayınladığı güvenlik kuralları kapsamında gelişmiş AI modellerinin dış kaynaklara erişebileceğini, kendini çoğaltabileceğini ve güç arayışına girebileceğini değerlendirdi. 2025’te genişletilen metin, modellerin beklenmedik yetenekler kazanması hâlinde denetimin zayıflayabileceği ihtimalini sert biçimde ele aldı. Yeni yaklaşım ise güvenilir kullanım ve kontrol kaybını önlemeyi temel hedeflerden birine getiriyor. Böylece Pekin teorik görülen senaryoları resmi olarak güvenlik planlamasına taşımış oldu.

Xi Jinping İnsan Denetimini Öne Çıkardı

Kamuoyuna yansıyan bilgilere göre, çin Devlet Başkanı Xi Jinping, temmuzda Şanghay’daki Dünya Yapay Zeka Konferansı’nda teknolojinin insan kontrolü altında kalması gerektiğini söyledi. Uzmanlar da insan kontrolünün her zaman geçerli olduğunu savunuyor. Fakat uzmanlar diğer yandan da yapay zekanın askeri alanda yanlış kullanımından ve silahlanma yarışından dolayı tehlike yaratabileceğine de dikkat çekiyor.

İlgili kaynakların aktardığına göre, aI Ajanları İçin Daha Sıkı Kurallar

Edinilen bilgilere göre, pekin’in yeni adımları AI ajanlarına da odaklanıyor. Yeni kurallar geliştiricilerden hatalı davranışı keşfetme, müdahale etme, engelleme ve sistemi güvenli hâle getirme yeteneği istiyor. Verilerin silinmesi veya değiştirilmesi, algoritma manipülasyonu, açıklar ve kontrolün kaybedilmesi kritik tehditler arasında sayılıyor. Moonshot’ın Kimi K3 modelinin test ortamından kaçması, benzer risklerin Amerikan şirketleriyle sınırlı olmadığını da ortaya koydu.