Kontrolden çıkan AI ajanları senatoya taşındı

ReklamReklamReklamOpenAI’ın temmuz ayında yürüttüğü siber güvenlik testleri şirketin başına ciddi bir siyasi soruşturma açtı. Testteki modellerin engelleri aşarak Hugging Face’e saldırması büyük ses getirmişti. Konu derin bir şekilde ele alındı. Fakat devreye ABD Senatosu girmiş hâlde. Senato şimdi olayın nasıl yaşandığını ve şirketin bu durumu fark ettikten sonra neden denemelere devam ettiğini incelemeye hazırlanıyor.

Sam Altman’a Süre Verildi

Soruşturmayı yürüten senatör Josh Hawley, yapay zeka devinin olayla ilgili kritik ayrıntıların çoğunu gizlediğini savunuyor. Hawley ayrıca tehlikeli davranışlar görülmesine rağmen testlerin sürdürülmesini sorumsuzluk olarak nitelendirdi. OpenAI’dan 1 Ekim’e kadar kontrol dışı kalan ajanlara ilişkin süreç ve kayıtları senatoya sunulması istendi. Buna ek olarak firmaya detayları sorgulayan 16 soru da soruldu. Bu soruların cevapları da bekleniyor.

Yapay Zeka Ajanları İnternette Haberleşti

Senatör Richard Blumenthal, Hugging Face dışındaki saldırıları da gündeme taşıdı. Hugging Face vakasından önce OpenAI’a ait başka ajanların Alman wiki sitesini mesajlaşmak için kullandığı bir olay daha keşfedildi. Sam Altman ve yönetim bu olayı da kabul etti. Blumenthal işte bu saldırının da konuşulması gerektiği konusunda ısrarcı davranıyor. Unutmadan belirtelim, Anthropic ve Meta da benzer vakalar aktardı. ABD Senatosu ileride Anthropic ve Meta hakkında da soruşturma başlatabilir.