Yapay zeka kararları manipüle ediyor: Uzmanlardan “Niyet Ekonomisi” uyarısı
Cambridge Üniversitesi’nden araştırmacılar, çevrim içi platformlarda kullanıcıların niyetlerini varsayım etmek ve bu niyetleri manipüle etmek gayesiyle kullanılan yapay zeka sistemlerinin temelini oluşturan yeni bir dijital pazarı inceledi.
Bilim insanları, bu çeşit manipülasyonların dijital dünya üzerindeki özgür iradeyi tehdit edebileceğine ve bireylerin çevrim içi ortamda daha şuurlu bir halde hareket etmeleri gerektiğine dikkat çekti.
Bu pazara “niyet ekonomisi” deniyor ve şirketler, kullanıcıların gelecek planlarını, alışveriş alışkanlıklarını, siyasi görüşlerini ve ruhsal durumlarını tahlil ederek bu bilgileri diğer şirketlere satabiliyor.
Çalışmada, teknoloji devlerinin, kullanıcıların çevrim içi davranışlarını inceleyerek, otel konaklama planlarından, siyasi tercihlere kadar çeşitli şahsî bilgilerini topladığı belirtildi.
Araştırmacılar, bu dataların yapay zeka araçları tarafından tahlil edilerek kullanıcıların karar verme süreçlerine tesir edebileceğini vurguladı.
Özellikle, büyük lisan modellerinin bu bilgileri gerçek vakitli olarak işleyip, kullanıcılara gelecekteki seçimleriyle ilgili teklifler sunabileceği, hatta bu seçimleri manipüle edebileceği ikazında bulunuldu.
