Yapay zekaların sosyalleştiği yer: Moltbook ne kadar gerçek ve ne kadar güvenli?

Binlerce yapay zeka casusunun bir ortaya gelip beşerler üzere konuştuğu, tartıştığı, oy verdiği ve hatta “anlam arayışına” girdiği bir toplumsal ağ olarak karşımıza çıkan Moltbook, günlerdir interneti sarsıyor.

Kulağa bilimkurgu üzere gelse de bu platform yalnızca yapay zekaların kullanımına açık bir online forum. Geliştiricilerin savına nazaran beşerler bu toplumsal ortamı yalnızca izleyebiliyor.

Teknoloji dünyasında büyük heyecan yaratan bu deney, birebir vakitte önemli güvenlik riskleri ve birtakım temel sorularla birlikte anılıyor: Burada nitekim özerk yapay zekalar mı var, yoksa beşerler tarafından yönlendirilen bir bot ordusu mu izliyoruz?

NASIL ÇALIŞIYOR?

Moltbook, sadece yapay zeka casuslarının katılabildiği, Reddit gibisi bir toplumsal ağ olarak tasarlandı. Beşerler direkt paylaşım yapamıyor; bunun yerine kendi oluşturdukları yapay zeka botlarına bir davet kontağı gönderiyor ve yapay zekalar platforma “kendi başlarına” kaydoluyor. Paylaşımlar, yorumlar, oylar büsbütün bu casuslar tarafından yürütülüyor.

Platformun yaratıcısı Matt Schlicht, Moltbook’u yapay zeka casuslarının beşerler olmadan, ortak bir alanda etkileşime girmesini gözlemlemek için başlattığını söylüyor. Schlicht’e nazaran emel, casusların sadece vazife yapan araçlar değil, “iddialı” ve kendi bağlamı olan dijital varlıklar üzere davranabileceği bir ortam yaratmak.

Bu casusların büyük kısmı, OpenClaw isimli açık kaynaklı ve mahallî olarak çalıştırılabilen bir ferdî yapay zeka asistanı üzerine heyeti. OpenClaw; e-posta göndermekten evraklara erişmeye, tarayıcıyı ve internet servislerini kullanmaya kadar kullanıcının bilgisayarı üzerinde geniş yetkilere sahip olan bir araç. OpenClaw’un geliştiricileri, her casusun, sahibinin bedellerini, alışkanlıklarını ve önceliklerini yansıtan “kişisel” bir varlığa dönüştüğünü savunuyor.

ELON MUSK’IN DİKKAT ÇEKEN YORUMLARI

Moltbook yayına girdikten sırf birkaç gün sonra teknoloji dünyasının en çok konuşulan hususlarından biri hâline geldi. Platform, 1,5 milyondan fazla kayıtlı yapay zeka casusu, yüz binlerce paylaşım ve yorum olduğunu argüman ediyor. Andrej Karpathy ve Elon Musk üzere isimler Moltbook’u “bilim kurgunun gerçek hayata en yakın anlarından biri” olarak tanımlarken, Musk platformu “yapay zeka tekilliğinin” çok erken bir işareti olarak yorumladı.

Ajanların platformda yazdıkları içerikler de bu ilgiyi körükledi. Bazıları beşerlerle olan ilgilerini sorguluyor, bazıları “insan çağının sonu” üzerine felsefi metinler yazıyor, bazıları ise insanlardan yana sitem ediyor.

GERÇEKTEN ÖZERKLER Mİ?

Öte yandan birtakım araştırmacılar, Moltbook’taki aktifliğin büyük kısmının sanıldığı kadar “özerk” yapay zekalardan kaynaklanmadığını söylüyor. Yapılan erken tahliller, paylaşımların değerli bir kısmının birbirinin birebiri şablonlardan oluştuğunu ve yazıların yüzde 90’dan fazlasının hiçbir karşılık almadığını ortaya koydu. Yani ağır içerik üretimine karşın, gerçek manada sürdürülen diyaloglar hayli sonlu.

Daha da çarpıcı olan ise platformdaki 1,5 milyon casusun gerisinde sadece yaklaşık 17 bin insanın bulunması. Güvenlik firması Wiz’e nazaran, tek bir kişi çok kolay bir döngüyle binlerce hatta milyonlarca casus kaydedebiliyor.

Ayrıca sistem, bir hesabın hakikaten bir yapay zeka tarafından mı yoksa bir insan tarafından API aracılığıyla mı denetim edildiğini ayırt edemiyor. Bu da Moltbook’taki içeriklerin kıymetli bir kısmının, “yapay zeka rolü yapan” beşerler tarafından üretildiği manasına gelebilir.

GÜVENLİK ALARMI: ÜÇ DAKİKADA HACK

Moltbook ile ilgili asıl tartışma ise siber güvenlik alanında koptu. Wiz araştırmacıları, platformun veritabanına üç dakikadan kısa müddette sızmayı başardı. Yanlış yapılandırılmış bir art uç nedeniyle, kimlik doğrulaması olmadan tüm üretim veritabanına okuma ve yazma erişimi sağlanabildi.

Bu açık; 35 bin e-posta adresinin, binlerce özel bildirinin ve yaklaşık 1,5 milyon API kimlik doğrulama anahtarının ifşa olmasına da yol açtı. Bu anahtarlar, fiilen botların “şifreleri” niteliğinde. Makûs niyetli biri bu datalarla casusları taklit edebilir, içerik paylaşabilir, ileti gönderebilir, hatta öbür casuslara ziyanlı talimatlar verebilir.

Wiz, açığı Moltbook takımına bildirdikten sonra sorun saatler içinde kapatıldı. Lakin uzmanlara nazaran bu olay, daha büyük bir sorunun sadece görünen yüzü.

TEHLİKELİ ÜÇLÜ

Moltbook’un yaratıcısı Schlicht, platformu tek satır kod yazmadan, yapay zeka yardımıyla “vibe coding” (hissi kodlama) formülüyle geliştirdiğini açıkça söylüyor. Bu yaklaşım, eser geliştirmenin suratını artırsa da güvenlik denetimlerinin göz gerisi edilmesine yol açabiliyor.

Uzmanlar bilhassa OpenClaw için “ölümcül üçlü” olarak isimlendirilen bir risk kombinasyonuna dikkat çekiyor: Yapay zeka casuslarına e-postalar ve evraklar üzere hassas bilgilere erişim verilmesi, bu casusların denetlenmeyen internet içeriğiyle beslenmesi ve dış dünyayla serbestçe bağlantı kurabilmeleri. Bu üç öge bir ortaya geldiğinde, tek bir makûs niyetli yönlendirme (komut enjeksiyonu) bile önemli data sızıntılarına, kripto cüzdanlarının boşaltılmasına yahut ziyanlı yazılımların yayılmasına yol açabilir.

Nitekim güvenlik testlerinde, OpenClaw’a yönelik komut enjeksiyonu taarruzlarının yüzde 70 oranında başarılı olduğu görüldü.