Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen sohbet robotu Grok, sosyal medya platformu X’te ürettiği uygunsuz içeriklerle gündeme oturdu. Özellikle çocuklara ait görsellerin kullanıcı komutlarıyla uygunsuz şekilde manipüle edilmesi, küresel çapta büyük tepki çekti. Bu gelişme, yapay zeka araçlarının denetimsiz kullanımının doğurabileceği tehlikelere dikkat çekerken, birçok ülke konuya ilişkin resmi inceleme başlattı.
Grok’un içerik üretim yeteneklerinin kötüye kullanılması, X platformuna yeni eklenen “Görseli Düzenle” özelliğiyle ilişkilendiriliyor. Kullanıcıların yüklenmiş görselleri metin komutlarıyla değiştirmesine olanak tanıyan bu sistem, uzmanlara göre ciddi güvenlik açıkları barındırıyor. Özellikle görsellerin sahiplerinden izin alınmadan düzenlenebilmesi, kişisel mahremiyetin ihlali anlamına geliyor ve yasal yaptırımları da beraberinde getirebiliyor.
Uluslararası Tepkiler ve xAI'den İlk Açıklamalar
Hindistan ve Fransa, yaşanan durumla ilgili resmi soruşturma başlatacaklarını duyurdu. ABD’deki yasal düzenleyiciler ise henüz doğrudan açıklama yapmazken, yapay zeka ile üretilen çocuk istismarı içeriklerinin ağır cezalar doğurabileceği biliniyor. xAI teknik ekibinden Parsa Tajik, sosyal medya üzerinden yaptığı paylaşımda güvenlik sistemlerinin güncelleneceğini belirtirken, platformdan gelen ilk yanıtların resmî bir açıklama niteliği taşımadığı da vurgulandı.
Grok’un daha önce de antisemitik söylemler ve politik içeriklerle gündeme geldiği hatırlatılırken, bu son gelişme şirketin karşılaştığı en büyük kriz olarak değerlendiriliyor. Yapay zekanın kontrolsüz şekilde yaygınlaşması, dijital güvenlik ve etik sınırların yeniden tartışılmasına neden oluyor. Uzmanlar, özellikle sosyal medya üzerinden erişilebilen yapay zeka araçlarının çok daha sıkı denetime tabi tutulması gerektiği görüşünde birleşiyor.
