Yapay zeka destekli ofis araçlarının yaygınlaşmasıyla birlikte siber güvenlik alanındaki riskler de gündeme gelmeye devam ediyor. Microsoft 365 Copilot hakkında paylaşılan yeni bir araştırma, Word belgelerine gizlenen görünmez komutların yapay zeka sistemini etkileyebildiğini ortaya koydu. Veri bilimci Håkon Måløy tarafından açıklanan bulgulara göre, kullanıcıların göremediği ancak Copilot'ın okuyabildiği gizli talimatlar, oluşturulan belgelerde istenmeyen değişikliklere neden olabiliyor. Araştırmada, bu komutların yeni oluşturulan dosyalara da aktarılabildiği öne sürüldü. Microsoft'un güvenlik güncellemeleri yayımlamasına rağmen araştırmacı, farklı yöntemlerle aynı açığın yeniden kullanılabildiğini iddia etti. Şirket ise güvenlik önlemlerini sürekli geliştirmeye devam ettiğini açıkladı.
Gizli Komutlar Yeni Belgelere Aktarılabiliyor
Araştırmaya göre saldırı yöntemi, "Çapraz Alan Komut Enjeksiyonu (XPIA)" adı verilen bir güvenlik zafiyetine dayanıyor. Bu yöntemde Word belgelerine beyaz zemin üzerine beyaz renkte yazılmış görünmez komutlar ekleniyor.Kullanıcı tarafından fark edilmeyen bu talimatlar, Copilot tarafından okunabiliyor. İddiaya göre yapay zeka, belgeyi düzenlerken bu komutları uygulayabiliyor ve aynı talimatları oluşturduğu yeni dosyalara da taşıyabiliyor.Araştırmacının testlerinde Copilot'ın bazı finansal raporlardaki rakamları değiştirdiği ve gizli komutları yeni belgelere aktardığı öne sürüldü.
Microsoft Güncellemeler Yayımladı
Håkon Måløy, Microsoft'un güvenlik bildiriminin ardından iki farklı güncelleme yayımladığını ancak farklı komut yapılarıyla aynı yöntemin yeniden uygulanabildiğini iddia etti.Microsoft ise savunma katmanlarını sürekli geliştirdiğini ve benzer güvenlik risklerini azaltmaya yönelik çalışmalarını sürdürdüğünü açıkladı.Uzmanlar, dış kaynaklardan gelen Word belgelerinin Copilot ile kullanılmadan önce dikkatle incelenmesini ve yapay zeka tarafından oluşturulan içeriklerin paylaşılmadan önce mutlaka kontrol edilmesini öneriyor.
