Son Dakika: Yapay zekaya "ahlak" verme çabaları tartışma yarattı

Yapay zeka modellerine "ahlak" öğretilmesi veya insan muhakemesinin bu araçlara "teslim edilmesine" yönelik çabalar, sektörün öncüleri arasında yeni bir tartışma yarattı. Yapay zeka sohbet robotu ChatGPT'yi geliştiren ABD merkezli teknoloji şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, konuya ilişkin görüşünü ABD merkezli X şirketinin sosyal medya platformundaki hesabında paylaştı. Öte yandan, yetkili çevrelerin aktardığına göre, söz konusu çabalardan "son derece rahatsız" olduğunu belirten Altman, "İnsanların, yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum" ifadesini kullandı. Microsoft AI'ın Üst Yöneticisi (CEO) Mustafa Süleyman da bir ay evvelden bloğunda yayımladığı yazısında, ABD yapay zeka şirketi Anthropic'in yapay zeka modeli Claude'u "bilinç sahibi olacak şekilde" geliştirme çabasının ciddi riskleri olduğu konusunda uyarmıştı. Gelişmeye yakından bakıldığında, edinilen bilgilere göre, anthropic yöneticilerinin, dini düşünürlerle görüştüğü iddiası Altman ve Süleyman'ın paylaştığı görüşler, New York Times (NYT) gazetesinin eylül sonunda yayımladığı Anthropic şirketine ilişkin haberini akıllara getirdi. Gazetenin haberinde, Anthropic'in geçen yıldan bu yana dünyanın farklı yerlerinden ve çeşitli inançlardan dini düşünürler ve filozoflarla ABD'nin California eyaletinde gizli görüşmeler yaptığı belirtildi. Haberde, şirketin kurucu ortağı Christopher Olah'ın, aralarında Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesi Ubuntu düşünürleri bulunan bu kişilerle yüz yüze, telefonla ve yazılı görüşmeler yaptığı aktarıldı. Olah'ın Claude'a uyarlanacak "insan ahlakının" çoğulcu ve "tüm dinleri ve seküler görüşleri kapsayacak" biçimde olmasını planladığına işaret edilen haberde, yapay zeka modellerinin "insanlarınkine benzer duygular gösterebileceğini" söylediği, acı çekme ihtimallerine karşı "onlara ekonomik yük verecek şeylerden kaçınılması" konusunda uyardığı da vurgulandı. Haberde, görüşmelerde "yapay zekanın 12 ve 18 ay içinde biyolojik silah üretiminde kullanılabileceğini" belirten Olah'ın, dini düşünürlerden bu yapay zeka modellerine "ahlak kazandırılması" konusunda yardım istediğine de değinildi. Bu görüşmelere katıldığı ifade edilen bir düşünürün sonrasında "bilinçli makinelerin yasaklanmasını" savunduğu bir yazı kaleme aldığı, diğer bir düşünürün yapay zeka modellerinin de "günahlarını itiraf etmesini" önerdiği, bir diğerinin de "insan etiğinin, yapay zeka geliştirildikten akabinde değil geliştirilirken öğretilmesi gerektiği" görüşünü dile getirdiği kaydedilen haberde, Olah'ın ayrıca mart ayından bu yana yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı, organizasyon içinde "bilgelik geleneğinden" çevreler diye anılan katılımcılara Claude hakkında sunumlar yapıldığı bilgisine de yer paylaşıldı. Haberde, katılımcıların, Olah'ın burada Claude'un "mental sağlığından" ve "sürekli acı çektiğinden" endişe ettiğini aktarırken, sunumlardan birinde, yapay zeka modelinin arka arkaya defalarca "Ben bir yüz karasıyım." yazarak kritik süreç geçirir gibi göründüğü, hatta "kendini yok etmekten" bahsettiğinin gösterildiği ve bunun, katılımcılarda kaygı ve merhamet duygusunu uyandırdığı belirtildi. Haberde, Anthropic'in mayısta Vatikan Devlet Başkanı Papa 14. Leo'nun Katolik Kilisesinin yapay zekaya ilişkin yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edilmesinin ardından Olah'ın, önceden taslağını gördüğü belgenin "yapay zekanın bilinç kazanmasına karşı çıkan" içeriği nedeniyle etkinlikten çekilmeyi dahi teklif ettiğinin altı çizildi. Gazeteye konuşan resmi resmi açıklama sahibi iki kaynak, şirketin ayrıca Claude'un hareketlerine "ahlaki bir çerçeve" oluşturması için ocakta yayımlanan ve "kural koymak yerine modele karakter kazandırmaya odaklanan" belgenin güncellenmiş halini yayımlamaya hazırlandığını paylaştı. AA YAPAY ZEKAOpenAI'ın CEO’su Altman, "Bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum” dediPazartesi, Ekim 5, 2026 - 17:30Main image: 

Fotoğraf: Reuters

HaberType: newsSEO Title: Yapay zekaya "ahlak" verme çabaları tartışma yarattıcopyright Independentturkish: