Son Dakika: Anthropic kritik yapay zeka eşiğini "çok yakında" aşabilir

Son dakika bilgilerine göre; anthropic, yapay zeka alanında kritik bir eşiği aşmak üzere olabileceğini ve bu gerçekleştiğinde farkına varamayabileceğini duyurdu. Halihazırda organizasyon, yaklaşık 1,5 trilyon dolarlık bir değerle borsada işlem görmesini sağlayacak bir halka arz sürecinde. İlgili kaynaklardan edinilen bilgilere göre, bu nedenle firmanın işleyişi ve tam olarak nelerden korktuğuna dair daha evvelden bilinmeyen bir dizi bilgiyi kamuoyuna açıklıyor. Bu endişeler ilk kez şirketin halka arz başvuru belgelerinde ortaya çıkmış, bunların büyük bir kısmı şirketin faaliyetlerine yönelik tehditlere ayrılmıştı. Bilindiği üzere, belgelerde, firmanın yapay zekasının insanlık için "felaket niteliğinde veya varoluşsal" bir risk yaratabileceğine dair bir uyarı da yer alıyordu. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Anthropic bu belgeleri güncelleyerek "çok yakında" kritik bir dönüm noktasına ulaşılabileceğine dair bir tahmin de dahil bir dizi yeni risk ekledi. Şirket, gelecekteki modellerin yakında "yapay zekaya atfedilebilecek çarpıcı derecede hızlanmış bir ilerleme" sergileyebileceğini vurguladı. Bu, şirketin "özyinelemeli öz gelişim" (RSI) için kullandığı tanım. Yapay zeka uzmanlarının kullandığı bu ifade, yapay zeka sistemlerinin kendi kendilerini geliştirebilecek kadar güçlendiği durumu tanımlıyor. Bu yaklaşımı destekleyenler, bunun yapay zeka araçlarının gücü ve yeteneklerinde çarpıcı gelişmelere yol açabileceğini öne sürerken, eleştirenler ise bunun bir dizi yeni tehlikeyi de beraberinde getirebileceği uyarısında bulunuyor. Anthropic'in belgeleri, böyle bir durumun gerçekleştiğinin bununla birlikte olaydan akabinde farkına varılabileceği uyarısını da içeriyor. Daha evvelden "gelişim hızındaki ciddi bir artışın, bu gerçekleştikten akabinde" saptandığı ve aynı durumun tekrar yaşanabileceği ifade ediliyor. Belgelere göre Anthropic, kendi tanımladığı RSI eşiğine henüz ulaşmadığını düşünüyor. Ancak mevcut modelleriyle ilgili "temel verileri değerlendirmeye" devam ettiğini belirtiyor. Ayrıca bu eşiğe nihayet ulaştığında bunun ne anlama geleceğini de değerlendiriyor. Ancak organizasyon şu uyarıyı paylaşıyor:  Teknolojinin yeteneklerinin, güvenlik, uyum ve emniyet önlemlerimizi geride bırakması veya bu tür bir ilerlemenin hızını öngöremememiz halinde, ortaya çıkan riskleri yeterince iyi değerlendiremeyebilir veya hafifletemeyebiliriz. Şirket, kendi araştırma ve geliştirme faaliyetlerinde yapay zeka sistemlerinin giderek daha fazla kullanılması nedeniyle sistemlerin, onları kontrol etme becerisinden daha hızlı gelişebileceğini söylüyor. Belgeye göre, mevcut yapay zeka araçlarını kullanan yeni yapay zeka sistemlerinin gelişim hızına dair kanıtların çoğu "gecikmeli göstergelere" dayanıyor ve Anthropic'in, yeteneklerinin ne kadar hızlı ilerlediğini öngörme veya ölçme yeteneği "sınırlı". Bu nedenle şirketin "güvenlik çabalarının model yetenekleriyle birlikte ilerlemesini sağlamak için önleyici güvenlik, uyum ve emniyet tedbirlerini" şimdiden uygulamaya koyduğu dile getiriliyor. Belgede, Mythos gibi özellikle güçlü modellerin kullanıma sunulmasının ertelenmesi ve erişimin sınırlandırılması örnek gösteriliyor. Siber güvenlik açıklarını tespit etmede özellikle yetenekli olan Mythos, bu nedenden ötürü yalnızca onaylanmış kişi ve kurumları erişimine açılmıştı. Belge ayrıca Anthropic'in, yapay zeka geliştirme sürecinin kontrolünün insanlarda kalmasını sağlamayı taahhüt ediyor. Claude'un "teknik açıdan bunu yapma noktasına gelse bile, anlamlı bir insan denetimi veya anlayışı olmadan" yeni modelleri "güvenle" geliştirmesinin beklenmediği söyleniyor. Ayrıca "Anthropic'teki öncü modelleri geliştirme sürecinin kontrolünün insanlarda kalmasını" sağlamak için politikaların güncellendiği belirtiliyor. Ancak belge, ihtiyatlı bir yaklaşım benimsemenin, özellikle modellerinin yetenekleri geliştikçe Anthropic'in daha fazla maliyete katlanmasına yol açabileceğine dair yatırımcıları uyarıyor. Ayrıca bu durumun, benzer önlemleri almayan diğer rakiplerinin gerisinde kalmasına yol açarak şirketin gelişimini engelleyebileceği uyarısı da yer alıyor. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.uk/tech Independent Türkçe için çeviren: Büşra Ağaç çeviriteknolojiYAPAY ZEKAAnthropicÖzyinelemeli öz gelişim, yapay zekanın en güçlü (ve muhtemelen en tehlikeli) kavramlarından biri kabul ediliyorAndrew GriffinÇarşamba, Kasım 4, 2026 - 16:30Main image: 

BİLİMrelated nodes: Uzmanlardan "egemen yapay zeka" uyarısıClaude'la yazılan metinlere görünmez iz: Anthropic kapsamı genişletiyorAnthropic'in yapay zekası kullanıcılar adına karar vermeye başlayacakLabel: ÇEVİRİType: newsSEO Title: Anthropic kritik yapay zeka eşiğini "çok yakında" aşabilircopyright Independentturkish: original url: https://www.independent.co.uk/tech/anthropic-ai-rsi-artificial-intelligence-b3078472.html