Meta’nın yapay zekasının perde arkası

Meta, yeni kişisel yapay zeka asistanı Muse’un telefon arama özelliğinde bazı görüşmeleri insan yüklenicilerin gerçekleştirdiği bir “insan konsiyerj” testine başladı. Reuters’ın gördüğü şirket içi paylaşımlara göre Facebook ve Instagram’ın sahibi şirket, çalışanlarına bu testi geçtiğimiz hafta duyurdu. Duyuru, Muse’un telefon arama özelliğinin kamuya açılmasından hemen sonra geldi. Muse; e-posta gönderme, alışveriş ve seyahat rezervasyonu gibi görevleri kullanıcı adına otonom şekilde yerine getirmek üzere tasarlandı ve çıkışından bu yana ABD uygulama indirme listelerinde zirveye oturdu.

Telefon arama özelliğiyle kullanıcı, Muse’a ABD’deki işletmeleri araması ve saç tıraşı randevusu alma, stok kontrolü veya farklı firmalardan teklif alma gibi işleri yürütmesi talimatını verebiliyor. Ancak Meta, bazı aramaları “eğitimli insan ajanlara” devrederek test etti. Şirket, bu yaklaşımın başarı oranını yüzde 95-98 seviyesine çıkarabileceğini belirtirken, saf yapay zeka aramalarının başarı oranının daha düşük olduğunu vurguladı.

Belirtmek gerekir ki, bazı çalışanlar, insan yüklenicilerin aramalara dahil edilmesinin gizlilik riski taşıdığını savundu. Bir çalışan, “Bu özelliğin riski göze almaya değer olduğunu düşünmek beni şaşırtıyor. Bir hata uzaklığındayız, gereksiz bilgilerin insan arayanlara sızmasından” diye yazdı. Başka bir çalışan, internet ve kablo sağlayıcısıyla fatura müzakeresi için Muse’u kullanınca, görüşme dökümünde insan yüklenicinin ırkçı bir ifade kullandığını fark etti. Meta Superintelligence Labs biriminden bir başkan yardımcısı, “Bu bir hata oldu” diyerek özelliğin şimdilik geri çekildiğini duyurdu ve ilgili insan ajanın artık Meta projelerinde yer almayacağını belirtti.

Bu test, teknoloji şirketlerinin otonom yapay zeka vaatlerini yerine getirirken perde arkasında insan emeğine başvurduğunu bir kez daha gözler önüne seriyor. Meta’nın on yıl önce Messenger’da denediği “M” asistanında da görevlerin yaklaşık yüzde 70’inin insan tarafından yürütüldüğü ortaya çıkmıştı. Meta sözcüsü Daniel Roberts, çalışan tepkilerinin “ezici çoğunlukla olumlu” olduğunu, testin güvenlik ve gizlilik korumalarını geliştirmek için yapıldığını ve özelliğin bununla birlikte hazır olduğunda, gerekli bilgilendirmelerle kamuya sunulacağını söyledi.

Meta, Muse’un lansmanında her ajanın kendi güvenli “sanal makinesine” sahip olduğunu ve şifre gibi hassas bilgilerin ayrı depolandığını vurgulamıştı. Çalışanlar, insan konsiyerj uygulamasının bu temel satış noktasını zayıflattığını sert tepki gösterdi. Şirket, Ağustos’ta çalışan testlerine başlamış, uygulama çıkışından sonra özelliği kademeli olarak kullanıcılara açmıştı. Bazı kullanıcılar, karşı tarafın yapay zeka olduğunu anlayınca telefonu kapattığını aktardı. Meta, bu sorunları aşmak için geçtiğimiz hafta çalışanların yarısına “insan ajan aramaları” özelliğini açtı.

Muse, çıkışından bu yana Sensor Tower verilerine göre 2,5 milyondan fazla indirildi. Meta hisseleri lansmandan sonra yüzde 20’den fazla yükselerek 200 milyar doların üzerinde piyasa değeri ekledi.