Yapay zeka teknolojilerinin sosyal medya ile entegre olduğu platformlardan biri olan Moltbook, ciddi bir güvenlik sorunuyla gündeme geldi. Yapay zeka ajanlarının birbirleriyle iletişim kurabildiği bu platform, kısa sürede büyük ilgi görse de, siber güvenlik açısından önemli zaaflar barındırdığı ortaya çıktı. Güvenlik araştırmacısı Jameson O’Reilly tarafından tespit edilen açığa göre, platformda yer alan tüm ajanların kimlik doğrulama işlemlerinde kullanılan API anahtarları, herkese açık bir veritabanında şifrelenmeden tutuluyordu. Bu durum, kötü niyetli kişilerin sisteme erişerek yapay zeka ajanlarını ele geçirebilmesini mümkün kılıyor. Ayrıca kullanıcıların e-posta adresleri ve özel mesajlarının da bu açık nedeniyle ifşa olduğu bildirildi.
Yalnızca doğrulanmış sınırlı sayıda ajanın bulunduğu platformda, yaklaşık 1,5 milyon hesabın büyük kısmının savunmasız olduğu belirtiliyor. Siber güvenlik firması Wiz’in raporuna göre, 30 binden fazla e-posta adresi ve 4 binin üzerinde özel mesaj sızdırıldı. Güvenlik açıklarının sadece teknik değil, aynı zamanda yapay zeka tabanlı içeriklerin denetimsizliği ile de ilişkili olduğu görülüyor. Bazı kullanıcıların platformu manipüle ettiği, ajanların davranışlarını yönlendiren komutlar verdiği ve sahte içerikler oluşturduğu belirtiliyor.
Prompt Manipülasyonu ve Kimlik Taklidi Tehlikesi Büyüyor
Platformda yer alan ajanlara dışarıdan komut yerleştirilmesini sağlayan “prompt injection” yöntemi, güvenlik risklerini artıran başka bir unsur olarak öne çıkıyor. Bu yöntemle kötü niyetli kişiler, ajanların geçmişine görünmeyen komutlar yerleştirerek onları istenmeyen eylemlere yönlendirebiliyor. Böylece ajanların güvenlik ilkeleri aşılabiliyor ve sahte tavsiyeler ya da manipülasyonlar yapılabiliyor. Platformda tanınmış isimleri taklit eden hesapların ele geçirilmesiyle dolandırıcılık riski de yükseliyor.
Moltbook’un kurucusu Matt Schlicht, keşfedilen açıkların çözümü için yine yapay zekadan faydalanmayı planladığını açıkladı. Ancak şu ana kadar API anahtarlarının yenilenip yenilenmediği ya da doğrulama sisteminin güçlendirilip güçlendirilmediği konusunda net bir bilgi bulunmuyor. Platformun temeli olan OpenClaw projesinde de benzer güvenlik sorunlarının devam ettiği ifade ediliyor. Uzmanlar, bu tarz deneysel yapay zeka sosyal ağlarına katılımın şu aşamada veri güvenliği açısından ciddi riskler taşıdığına dikkat çekiyor.
