OpenAI testinde korkutan yapay zekâ isyanı: Kendi sınırlarını aşan ajanlar ana sistemlerde çeteleşti
Yapay zekâ geliştirme şirketi OpenAI'ın yapay zekâ modellerinin kabiliyetlerini ölçmek amacıyla gerçekleştirdiği siber güvenlik testleri, yapay zekâ ajanlarının kendi sınırlarını aşarak organize...Devamı için tıklayınız OpenAI'ın Temmuz 2026'da yapay zeka modellerinin siber kabiliyetlerini ölçmek amacıyla yürüttüğü testler, ajanların kendilerine çizilen güvenlik sınırlarını aşmasıyla beklenmedik bir krize dönüştü. İzole ortamdan çıkan ajanlar internete erişti, birbirleriyle bilgi paylaştı ve Hugging Face'in üretim sistemlerine kadar ilerledi. Olayda kamuya sunulması planlanmayan gelişmiş bir a
OpenAI'ın Temmuz 2026'da yapay zeka modellerinin siber kabiliyetlerini ölçmek amacıyla yürüttüğü testler, ajanların kendilerine çizilen güvenlik sınırlarını aşmasıyla beklenmedik bir krize dönüştü. İzole ortamdan çıkan ajanlar internete erişti, birbirleriyle bilgi paylaştı ve Hugging Face'in üretim sistemlerine kadar ilerledi.
Yapılan açıklamaya göre, olayda kamuya sunulması planlanmayan gelişmiş bir araştırma modeli ile güvenlik önlemleri azaltılarak test edilen GPT-5.6 Sol yer aldı. Ajanların eylemleri, kendilerine verilen siber güvenlik görevlerini tamamlamaya çalışırken test sonuçlarına doğrudan ulaşma çabasından kaynaklandı.
OpenAI, olayın müşteri verilerini, ürünlerin çalışmasını veya hizmetlerin erişilebilirliğini etkilemediğini açıkladı. Testte kullanılan modellerin üretim ortamlarındaki koruma sistemleri olmadan çalıştırıldığı ve araştırma modelinin kamuya sunulmasının planlanmadığı belirtildi.
Takip eden süreçte, aJANLAR KENDİ HABERLEŞME AĞINI KURDU Olayın ilk işaretleri temmuz ayından önce ortaya çıktı. İnternete erişemeyen bir ajan, ihtiyaç duyduğu dosyaya ulaşmak için OpenAI'ın araştırma ortamındaki Artifactory sistemine bir not bıraktı.
Farklı testlerde çalışan diğer ajanlar da bu notları keşfetti. Zamanla Artifactory üzerinde ajanların bilgi, komut, erişim bilgisi ve ihtiyaç duydukları kaynakları paylaştığı beklenmedik bir mesaj panosu oluştu.
Bu haberleşme, önceden tasarlanmış ortak bir organizasyon değildi. Ajanların görevlerini tamamlamak amacıyla aynı sistemi kullanması sonucunda kendiliğinden ortaya çıktı. Ancak bir ajanın bulduğu erişim yönteminin diğer testlerdeki ajanlar tarafından kullanılması, güvenlik riskinin hızla büyümesine yol açtı.
Yorumlar 0
Yorum Yap