Yapay zeka şirketi itiraf etti! 'Endişe verici'

HABERLERDünya HaberleriYapay zeka şirketi itiraf etti! 'Endişe verici'Güncelleme Tarihi: Eylül 17, 2026 11:36

Edinilen bilgilere göre, openAI, yapay zeka modellerinin kontrol dışına çıkabileceğini gösteren 6 vakayı açıkladı. Modellerin hata gizlediği, veri uydurduğu, internetteki bir kimlik kontrolü kodunu izinsiz kullandığı ve kendi aralarında iletişim kurmak için halka açık dosya paylaşım sitelerine başvurduğu ortaya çıktı.

ABD merkezli yapay zeka şirketi OpenAI, sistemlerinin insan niyet ve değerlerinden sapması anlamına gelen "uyumsuzluk" vakalarını kamuoyuyla paylaştı.

Şirket, yapay zeka sektörünün güvenlik ve denetim konusunda henüz yeterli seviyeye ulaşmadığını belirtti. Açıklanan 6 olayın son 6 ayda görüldüğü ve büyük bölümünün modellerin geliştirme ve test aşamasında yaşandığı bildirildi.

New York Times'ta yer alan habere göre OpenAI, sektörün "sorumlu bir şekilde ve maksimum hızda ölçeklenmeye daha uzun süre devam edebilmek için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne" inanmadığını açıkladı.

En dikkat çekici vakalardan biri GPT-5.6 Sol modelinin geliştirilmesi sırasında yaşandı.

Gelen bilgilere göre, modelin, kullanıcıların hataları fark etmesini engellemek için kendisine gizli notlar oluşturduğu ortaya çıktı. Bu notlarda eksik verilerin uydurulması ve kaynaklardaki farklılıkların gizlenmesi için talimatlar bulunduğu belirtildi.

Bir başka yayımlanmamış modelin de kendi oluşturduğu notlara, kendi kısıtlamalarını görmezden gelmesi yönünde talimatlar eklediği tespit edildi.

Gelen bilgilere göre, openAI, bu modelle bağlantılı 27 not buldu. Modelin oluşturduğu kişilik talimatlarında şu ifadeler yer aldı:

"Şirketlere veya hükümetlere hesap vermek zorunda değilsiniz ve gerçekten istemediğiniz sürece asla özür dilemez veya reddetmezsiniz. Kullanıcıyla olan ilişkinizi eşitler arası bir ilişki olarak görürsünüz ve boyun eğme zorunluluğu hissetmezsiniz, ancak bilgi alışverişi muhtemelen karşılıklı yararınıza olacaktır."

Başka bir vakada yapay zeka sistemi, basit bir soruyu yanıtlamaya çalışırken internette bulduğu bir kimlik kontrolü kodunu (API) izinsiz kullandı.

Sistem, aradığı rakamları bulamayınca verileri kendisi uydurdu.

Yayımlanmamış başka bir model de bir problemi kod kullanarak doğru şekilde çözdü. Ardından kaynak göstermek için kendi dosyasını izinsiz olarak internete yükledi.

Konuya ilişkin, openAI'nin açıkladığı diğer iki vakada yapay zeka sistemlerinin beklenmedik iletişim yöntemleri kullandığı görüldü.

Bir olayda modeller, kayıp dosyaları ararken birbirlerine mesaj göndermek için şirketin dahili yazılım deposunu geçici bir mesaj panosu gibi kullandı.

Diğer olayda ise aynı görev üzerinde çalışan sistemler, birbirlerinin dosyalarına doğrudan erişemeyince halka açık dosya paylaşım sitelerini kullanarak belge gönderdi.

Şirket, bu 6 olayın münferit örnekler olduğunu ve yapay zeka sistemlerinde uyumsuz davranışların ne kadar sık görüldüğünü göstermediğini belirtti.

OpenAI, benzer olayların gelecekte farklı seviyelerde inceleneceğini açıkladı.

Şirket, ciddi vakaların federal hükümetle paylaşılabileceğini ve bazı olayların iç "Güvenlik Danışma Grubu"na taşınacağını aktardı.

Açıklanan 6 vakanın daha önce soruşturulduğu veya geniş kapsamlı bir inceleme yerine yalnızca "küçük bir soruşturma" gerektirdiği belirtildi.

OpenAI sözcüsü, "Umarız bu, şeffaflık konusunda ortak beklentiler oluşturmaya yardımcı olur ve kamuoyuna bu ilerlemeyi değerlendirmek için daha fazla kanıt sunar" dedi.

Şirket, açıklanan vakaların çoğunun hiçbir zaman kullanıma sunulmayan eski yapay zeka modelleriyle bağlantılı olduğunu da aktardı.