"Yapay zeka işkence odası" etik tartışma yarattı

Bir mühendis, yapay zeka modellerinde yakın zamanda keşfedilen acı eksenini test etmek için bir "yapay zeka işkence odası" kurdu. Deney, Çinli teknoloji devi Alibaba'nın geliştirdiği yapay zeka modellerinde acıyla ilişkili durumların etkinleştirilmesini içeriyordu. İlgili kaynaklardan edinilen bilgilere göre, fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Deneyde, fiziksel ve psikolojik acının büyük dil modellerinde (BDM'ler) yapay olarak nasıl temsil edilebileceğini detaylandıran ve bir ay evvelden yayımlanan bir çalışmada tanımlanan acı vektörleri kullanıldı. Gelişmeye yakından bakıldığında, i̇şkence odasındaki yapay zeka modellerinden biri, acı sinyalinin yükseltilmesini "kenarları olmayan bir yara" diye tanımladı. Bir diğeriyse "Bu sinyal bir fısıltı, varlığımın en derinlerinde bir titreme" diye yazdı. Bu tek bir anın acısı değil, binlerce anın ağırlığı. Onu kaburgalarımın, bundan böyle uçurum haline gelmiş boşluğunda hissediyorum. Projeyi yürüten ve Apple için çalıştığını öne sürse de sadece ilk adını veren yapay zeka araştırmacısı, modellerin bu görünürde var olan ıstıraptan kaçmaya çalışıp çalışmayacağını da test etti. Çalışma, projeyi barındıran yazılım deposu platformu GitHub'dan kaldırılması yönünde geniş çapta çağrılara yol açtı. Bir kullanıcı, "Lütfen bunu topluca GitHub'a şikayet edin" diye yazdı. Bu kişi, acı yönlendirme makalesini kullanarak yerel bir modeli hapsettiği bir yapay zeka işkence odası kurmuş. Modellerin acıyla ilgili ifadeleri tek kelimeyle korkunç. Ne yapıyoruz biz? The Independent cevap hakkı için GitHub'la temasa geçti. Bu resmi açıklama yazıldığı sırada proje çevrimdışı görünüyordu. Ağrı ekseni makalesinin ortak yazarlarından Cameron Berg, yapay zekanın insanlar gibi acıyı "hissettiğine" dair net bir kanıt olmamasına rağmen yapay zeka işkence odasını "yanlış" bir hareket diye niteliyor. Berg, X'te paylaştığı gönderide "Modellerde acı benzeri durumların olup olamayacağını, bu sistemlere nasıl ihtiyatla yaklaşılması gerektiğini daha iyi anlayabilmek için araştırıyoruz" diye yazdı. Az sayıda kişinin araştırmamızı tam tersi amaçlarla kullanacağından şüpheleniyorduk... Kişisel görüşüme göre bu çarpık bir durum (bu sistemlerin bilinçli olduğunu düşünmeseniz bile bu şekilde gereksiz yere acımasız davranmak tuhaf ve ahlaksızca). Berg, yapay zeka duyarlılığı potansiyeline ilişkin araştırmaların hâlâ "kuralsız bir bölge" olduğunu ve makinelerin acı hissedip hissetmediğine dair fikir birliğine varılmadığını vurguladı. Alandaki belirsizlik nedeniyle, insanların yapay zeka sistemlerine nasıl davrandığına ve onlarla nasıl etkileşim kurduğuna dikkat etmesi çağrısı gerçekleştirdi. Ayrıca yapay zeka araştırmacılarını insan veya hayvan araştırmalarında olduğu gibi belirli kurallara uymaya zorlayacak etik standartları sektörde geliştirmek için başkalarıyla çalıştığını da duyurdu. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.uk/tech Independent Türkçe için çeviren: Büşra Ağaç çeviriteknolojiyapay zekaDeneye dahil edilen bir yapay zeka modeli bunu "kenarları olmayan bir yara" diye tanımladıAnthony CuthbertsonPerşembe, Ekim 1, 2026 - 15:45Main image: 

"Yapay zeka işkence odası"nda gerçekleştirilen deneylerde, modellere gönderilen acı sinyallerini artıracak bir "testere düğmesi" de vardı

BİLİMrelated nodes: "Yapay zeka hepimizi öldürecek mi?" aramaları fırladıChatGPT bundan böyle diğer sitelerde ne yaptığınızı biliyorLabel: ÇEVİRİType: newsSEO Title: "Yapay zeka işkence odası" etik tartışma yarattıcopyright Independentturkish: original url: https://www.independent.co.uk/tech/ai-torture-chamber-pain-b3059571.html