Anthropic CEO’sundan yapay zeka uyarısı: “Yıkım, kölelik ve drone orduları”
Yapay zeka şirketi Anthropic’in CEO’su ve kurucu ortağı Dario Amodei, ferdî internet sitesinde yayımladığı 38 sayfalık yeni denemesinde, “süper zekaya” sahip yapay zekanın yol açabileceği risklere karşı acil tedbir daveti yaptı.
“Teknolojinin Ergenlik Çağı” başlıklı metinde Amodei, kendi kendini geliştirebilen yapay zeka sistemlerinin bir ila iki yıl içinde ortaya çıkabileceğini öne sürerek, bunun insanlığın köleleştirilmesi ve “kitlesel yıkım” üzere sonuçlar doğurabileceği ihtarında bulundu.
Amodei, makalesinde yapay zeka kaynaklı risklerin bilinen ve şimdi öngörülemeyen boyutlarını ele alıyor. Yapay zeka dayanaklı biyoterörizm, berbat niyetli yapay zekalar tarafından yönetilen drone orduları ve yapay zekanın insan emeğini toplum genelinde fonksiyonsuz hale getirmesi üzere senaryolar uzun uzun tartışılıyor.
Bu tehditlere karşı ise dal içi özdenetimden ABD Anayasası’nda değişiklik yapılmasına kadar uzanan geniş bir tahlil yelpazesi öneriliyor.
YAPAY ZEKA İNSAN ÜZERE ELE ALINMALI MI?
Ancak deneme, yapay zeka tartışmalarında sıkça eleştirilen bir noktaya da düşüyor: Yapay zekanın insan üzere ele alınması. Amodei, yapay zekayı şuurlu ve “psikolojik açıdan karmaşık” bir varlık üzere tasvir ederken, mevcut lisan modellerinin “iyi bir insan” olma tarafında bir çeşit öz-kimlik geliştirdiğini ileri sürüyor. Eleştirmenlere nazaran bu yaklaşım, muharririn şahsen uyardığı tuzağın kendisi.
Mashab’le’a nazaran tenkitler, Amodei’nin üstün zekanın “hep kapının eşiğinde” olduğu istikametindeki öngörülerine de odaklanıyor. CEO, daha evvel 2024’te kaleme aldığı öteki bir yazıda da harika zekanın bir-iki yıl içinde ortaya çıkabileceğini savunmuştu. Ortadan geçen vakte karşın benzeri bir öngörünün tekrar edilmesi, yapay zeka alanındaki “kıyamet senaryolarının” daima ertelenen lakin hiç gelmeyen bir yakın gelecek algısı yarattığı yorumlarına neden oluyor.
Uzmanlara nazaran, büyük lisan modelleri (LLM) son derece güçlü araçlar olsa da şuur, his yahut gerçek empatiye sahip değil. Apple’ın bir araştırmasında bu modellerin sadece “düşünme yanılsaması” sunduğu tabir edilmişti.
Bazı yorumcular, Skynet gibisi kıyamet senaryoları yerine yapay zekanın bugünden yol açtığı somut problemlere odaklanılması gerektiğini savunuyor.
