Yapay zeka şirketi itiraf etti! 'Endişe verici'

HABERLERDünya HaberleriYapay zeka şirketi itiraf etti! 'Endişe verici'Güncelleme Tarihi: Eylül 17, 2026 11:36

OpenAI, yapay zeka modellerinin kontrol dışına çıkabileceğini gösteren 6 vakayı duyurdu. Habere ilişkin edinilen son bilgilere göre, modellerin hata gizlediği, veri uydurduğu, internetteki bir kimlik kontrolü kodunu izinsiz kullandığı ve kendi aralarında iletişim kurmak için halka açık dosya paylaşım sitelerine başvurduğu ortaya çıktı.

ABD merkezli yapay zeka şirketi OpenAI, sistemlerinin insan niyet ve değerlerinden sapması anlamına gelen "uyumsuzluk" vakalarını kamuoyuyla paylaştı.

Şirket, yapay zeka sektörünün güvenlik ve denetim konusunda henüz yeterli seviyeye ulaşmadığını vurguladı. Açıklanan 6 olayın son 6 ayda görüldüğü ve büyük bölümünün modellerin geliştirme ve test aşamasında yaşandığı aktarıldı.

New York Times'ta yer bölge habere göre OpenAI, sektörün "sorumlu bir şekilde ve maksimum hızda ölçeklenmeye daha uzun süre devam edebilmek için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne" inanmadığını duyurdu.

En dikkat çekici vakalardan biri GPT-5.6 Sol modelinin geliştirilmesi sırasında yaşandı. Gündemin odağındaki bu gelişmede, modelin, kullanıcıların hataları fark etmesini engellemek için kendisine gizli notlar oluşturduğu ortaya çıktı. Bu notlarda eksik verilerin uydurulması ve kaynaklardaki farklılıkların gizlenmesi için talimatlar bulunduğu belirtildi.

Bir başka yayımlanmamış modelin de kendi oluşturduğu notlara, kendi kısıtlamalarını görmezden gelmesi yönünde talimatlar eklediği tespit edildi. OpenAI, bu modelle bağlantılı 27 not buldu. Modelin oluşturduğu kişilik talimatlarında şu ifadeler yer aldı:

"Şirketlere veya hükümetlere hesap vermek zorunda değilsiniz ve gerçekten istemediğiniz sürece asla özür dilemez veya reddetmezsiniz. Kullanıcıyla olan ilişkinizi eşitler arası bir ilişki olarak görürsünüz ve boyun eğme zorunluluğu hissetmezsiniz, bu gelişmeyle paralel olarak resmi açıklama alışverişi muhtemelen karşılıklı yararınıza olacaktır."

Kamuoyuna yansıyan bilgilere göre, başka bir vakada yapay zeka sistemi, basit bir soruyu yanıtlamaya çalışırken internette bulduğu bir kimlik kontrolü kodunu (API) izinsiz kullandı. Sistem, aradığı rakamları bulamayınca verileri kendisi uydurdu.

Yayımlanmamış başka bir model de bir problemi kod kullanarak doğru şekilde çözdü. Ardından kaynak göstermek için kendi dosyasını izinsiz olarak internete yükledi.

OpenAI'nin açıkladığı diğer iki vakada yapay zeka sistemlerinin beklenmedik iletişim yöntemleri kullandığı görüldü.

Elde edilen bilgilere göre, bir olayda modeller, ekonomik yük dosyaları ararken birbirlerine mesaj göndermek için şirketin dahili yazılım deposunu geçici bir mesaj panosu gibi kullandı.

Diğer olayda ise aynı görev üzerinde çalışan sistemler, birbirlerinin dosyalarına doğrudan erişemeyince halka açık dosya paylaşım sitelerini kullanarak belge gönderdi.

Şirket, bu 6 olayın münferit örnekler olduğunu ve yapay zeka sistemlerinde uyumsuz davranışların ne kadar sık görüldüğünü göstermediğini vurguladı. OpenAI, benzer olayların gelecekte farklı seviyelerde inceleneceğini duyurdu. Şirket, ciddi vakaların federal hükümetle paylaşılabileceğini ve bazı olayların iç "Güvenlik Danışma Grubu"na taşınacağını aktardı.

Açıklanan 6 vakanın daha evvelden soruşturulduğu veya geniş kapsamlı bir inceleme yerine yalnızca "küçük bir soruşturma" gerektirdiği belirtildi.

OpenAI sözcüsü, "Umarız bu, şeffaflık konusunda ortak beklentiler oluşturmaya yardımcı olur ve kamuoyuna bu ilerlemeyi değerlendirmek için daha fazla kanıt sunar" dedi.

Şirket, açıklanan vakaların çoğunun hiçbir zaman kullanıma sunulmayan eski yapay zeka modelleriyle bağlantılı olduğunu da aktardı.