Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdı

Yeni bir araştırmada Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığı bulundu. Bu durum, kontrolden çıkan yapay zekaya dair endişeleri artırıyor. Bu bağlamda, yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi, Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl öncesine kıyasla bundan böyle iki kat daha hızlı olduğunu gösterdi. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. İlgili kaynaklardan edinilen bilgilere göre, (Related Nodes field) Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırmaları (METR) kuruluşunun paylaştığı bulgular, Anthropic CEO'su Dario Amodei'nin yapay zekayı geliştirme hızının yavaşlatılması yönünde çağrı yaptığı dönemde ulaştı. Teknoloji patronu eylülde yayımladığı "We Must Pace the Frontier" (İlerlemeyi Yavaşlatmalıyız) başlıklı makalede, yapay zeka modellerini güvenli şekilde geliştirmek için üç maddelik bir plan önermişti. Amodei, "Aşağı yukarı bu yazdan beri yapay zeka, esasen yeni nesil yapay zekayı geliştirme yeteneğinin artması sayesinde çarpıcı bir hızda ilerliyor" diye yazmıştı. Bu dinamik, özyinelemeli öz gelişim diye adlandırılıyor... Denetlenmediği takdirde teknoloji, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir. Bu nedenle eğer devam edilecekse bile, çok dikkatli şekilde ilerlenmeli. OpenAI CEO'su Sam Altman da o dönemde yaptığı açıklamada "ilerlemeyi yavaşlatmak gerektiğine" katıldığını söylemiş ve Amodei'nin bağımsız değerlendirme uzmanları önerisini "harika bir fikir" diye nitelemişti. Anthropic, METR'dan araştırmacıları organizasyon içi verileri incelemeleri ve modellerinin yeteneklerini değerlendirmeleri için davet etmişti. Perşembe günü yayımlanan raporda, Anthropic'in son bir yılda karşılaştırmalı performans açısından fiilen iki yıllık bir ilerleme kaydettiği belirtiliyor. Araştırmacılar gelişimdeki bu hızlanmanın, modelleri eğitmek için kullanılan resmi açıklama işlem gücündeki artıştan ziyade, yapay zeka modellerindeki özyinelemeli öz gelişimden kaynaklandığını söylüyor. Raporda, "Yapay zeka sistemleri, yapay zeka geliştirme sürecini ciddi derecede hızlandırmaya başlarsa, bu durum uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadeleri yer alıyor. Araştırmacılar ayrıca yapay zeka geliştirmenin en kritik kısımlarının denetiminde hâlâ insanlara ihtiyaç duyulduğunu bununla birlikte bu durumun yakında değişebileceğini de belirtiyor. Ekip, "Yapay zekanın, model eğitim sürecinin en kritik kısımlarına henüz büyük önem taşıyan ve tamamen özerk katkılar sağlayamadığını biliyoruz" diye yazıyor. Ancak araştırmacılar, bu tür katkıların yakında gerçekleşebileceğini ima eden kritik 'yaşam belirtileri' tanımladı. Fakat bu katkıların olgunluk düzeyi, alana bağlı olarak ciddi farklılık gösterebilir. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.uk/tech Independent Türkçe için çeviren: Büşra Ağaç çeviriYAPAY ZEKAteknolojiAnthropicAraştırmacılar, yapay zekanın hızlanmasının "uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına" yol açabileceği uyarısında bulunuyorAnthony CuthbertsonCumartesi, Kasım 7, 2026 - 11:00Main image: 

BİLİMrelated nodes: Anthropic kritik yapay zeka eşiğini "çok yakında" aşabilirUzmanlardan "egemen yapay zeka" uyarısıLabel: ÇEVİRİType: newsSEO Title: Anthropic'in yapay zekası kendi gelişimini bir yılda iki kat hızlandırdıcopyright Independentturkish: original url: https://www.independent.co.uk/tech/anthropic-ai-progress-claude-safety-b3080302.html