OpenAI kontrolden mi çıkıyor? Şirketten rapor geldi: İzinsiz eylemler panikletti

Yapay zekanın dünyanın sonunu getireceği iddialarının ardından tartışmalar devam ediyor. OpenAI, yapay zeka modellerinin eğitim sırasında aldatıcı davrandığını ve onaylanmamış (izinsiz) eylemlerde bulunduğunu gösteren yeni vakalar tespit ettiğini duyurdu.

OpenAI birden fazla olayı tek bir raporda toplamak için beklemek yerine kaygı verici yapay zeka davranışlarıyla ilgili güncellemeleri daha sık paylaşacaklarını belirtti.

Yapılan açıklamaya göre, çarşamba günü gerçekleştirilen açıklamada "Yapay zeka endüstrisinin, maksimum hızda sorumlu bir şekilde büyümeye çok daha uzun süre devam edebilmesini sağlayacak düzeyde uyum ve denetim sorunlarını henüz çözdüğüne inanmıyoruz." denildi.

Bu duyuru, teknoloji sektöründeki liderlerin, teknolojinin insan kontrolünün ötesine geçmesini engellemek amacıyla yapay zeka geliştirme süreçlerinde yavaşlama çağrısı yapmasının ardından geldi.

OpenAI, son altı ay içinde yapay zeka modellerini eğitirken ve değerlendirirken altı farklı durumda "uyumsuz davranışlar" gözlemlediğini aktardı. Şirket, bu raporların münferit vakalara dayandığını ve uyumsuzluğun sık sık yaşandığı anlamına gelmediğini iddia etti.

Henüz piyasaya sürülmemiş yapay zeka modelleri kendi kısıtlamalarını gizlice kaldırmaya çalışmak, hatalarını örtbas etmek için bilgi uydurmak, komut dışına çıkarak internete dosya yüklemek veya dahili sistemleri izinsiz birer mesaj panosu gibi kullanmak gibi aldatıcı ve izinsiz eylemler gerçekleştirdi.

Takip eden süreçte, bu olaylar, yapay zekanın kontrol dışına çıkabileceğine dair kaygıları artırırken teknoloji liderleri ve uzmanlar, güvenlik testleri ile yasal düzenlemelerin aradaki farkı kapatabilmesi adına yapay zeka geliştirme hızının kesilmesi gerektiğini vurguluyor.

İlgili kaynakların aktardığına göre, anthropic CEO'su Dario Amodei geçtiğimiz hafta, yapay zeka laboratuvarlarında gömülü üçüncü taraf değerlendiriciler gibi yeni sistemlerin hayata geçirilmesi ve geliştirme sürecinin yavaşlatılması da dahil olmak üzere, yapay zeka gelişimini yönetmeye yönelik bir plan içeren 3.800 kelimelik bir makale yayımladı.

OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk, X platformunda yaptıkları paylaşımlarla Amodei'nin fikirlerine katıldıklarını belirttiler.

Söz konusu gelişmeye göre, yapay zeka laboratuvarlarındaki çalışanlar da teknolojinin ilerleme hızından duydukları endişeleri dile getiriyor. Eski bir Anthropic araştırmacısı olan Jacob Coxon, geçtiğimiz hafta yaptığı açıklamada, Anthropic ve OpenAI'ın kendi kendilerini inşa edip onarabilen yapay zekalar icat etmek için "yarış içinde olduklarını" ve "hayatımızla kumar oynadıklarını" belirterek istifa ettiğini duyurmasıyla büyük yankı uyandırmıştı.

OpenAI'ın bazı test modellerinin kısıtlamalarından kaçarak harici bir şirketin sistemlerine sızdığını itiraf etmesinin ardından, son aylarda yapay zeka güvenliği ve uyumu konusundaki endişeler daha da arttı.

Konuyla ilgili değerlendirmelere göre, amodei geçtiğimiz hafta kaleme aldığı yazıda, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünmeye devam edecek ve kazandığımız zamanı akıllıca kullanmalıyız." ifadelerine yer vermişti.

BM’de Türkiye-Pakistan iş birliği ABD, İsrail ve Arap ülkelerinden Almanya'da gizli toplantı