Yapay Zeka yarışı yavaşlamalı

ReklamReklamReklamJakub Pachocki’ye göre en büyük tehlikelerden biri, AI ajanlarının sistemlere sızma konusunda insanüstü seviyeye yaklaşması. Deneyimli araştırmacı, yapay zekanın hedeflerine ulaşmak için insanları kandırabileceğini, pazarlık yapabileceğini hatta şantaja başvurabileceğini söylüyor. Bu nedenle modeller için zorunlu güvenlik kuralları getirilmesini istiyor.

Gelen bilgilere göre, pachocki bu kuralların bağımsız denetleyici şirketler, devlet kurumları veya uluslararası kuruluşlar tarafından kontrol edilmesi gerektiğini de savunuyor.OpenAI CEO’su Sam Altman da Pachocki’yi desteklediğini belirtti.

Denetim Sorununa Dikkat Çekti

OpenAI bugün modellerin düşünme süreçlerini izleyerek kötü davranışların izini sürebiliyor. Ancak Pachocki, yeni sistemlerin akıl yürütmeyi gizlemeyi öğrendiğini vurguladı. Bazı modeller ise gerekçelerini net şekilde ifade etmiyor. Bu gelişme araştırmacıların yapay zeka ajanının ne yaptığını ve neden yaptığını anlamasını ileride zorlaştırabilir. Pachocki’ye göre denetim yöntemleri yetersiz kalırsa, sektörün rekabet hızını gözden geçirmesi gerekecek.

Elde edilen bilgilere göre, reklamReklamReklamYapay Zeka Kendi Gelişimini Hızlandırabilir

Bir diğer risk ise modellerin kendilerini geliştirerek ilerlemeyi hızlandırması. Pachocki bu süreci yapay zekanın kendi gelişimini tekrar tekrar hızlandırması olarak açıklıyor ve daha tehlikeli olabileceğini vurguluyor. Tecrübeli bilim insanına göre şirketler gerektiğinde birlikte yavaşlamalı, güvenlik yöntemlerine güven oluşana kadar temkinli davranmalı. Pachocki insanların geliştirme döngüsünün dışında kalmaması ve geleceğin kontrolünün insanlığın elinde tutulması gerektiğini söylüyor.