Financial Times’ın yayımladığı rapora göre Amazon’un yapay zeka kodlama asistanı Kiro, geçtiğimiz Aralık ayında Çin’deki AWS servislerinde yaklaşık 13 saat süren bir kesintiye neden oldu. İddiaya göre Kiro’nun çalışma ortamını silip yeniden oluşturma kararı alması sistemlerin devre dışı kalmasına yol açtı. Yaşanan kesinti sonrası şirket içi inceleme başlatılırken, Amazon yönetimi sorunun temelinde insan kaynaklı yapılandırma hatası bulunduğunu açıkladı. Şirket, botun yetki sınırlarının yanlış ayarlanmasının süreci tetiklediğini savundu.
Yetki Ayarları Tartışma Yarattı
Raporda yer alan bilgilere göre, Kiro’nun sahip olduğu geniş erişim yetkileri nedeniyle sistemde kritik değişiklikler yapabildiği belirtildi. Amazon, benzer bir sorunun manuel işlem ya da geleneksel geliştirici araçlarıyla da yaşanabileceğini ifade etti. Şirket yetkilileri, yapay zekanın kontrolden çıkmadığını, hatanın operatörlerin yapılandırma tercihlerinden kaynaklandığını bildirdi. Olayın ardından çalışanlara yönelik yeni eğitim programlarının başlatıldığı duyuruldu.
Yeni Güvenlik Önlemleri Devrede
Amazon’un yapay zeka araçlarıyla yaşadığı bu olayın ilk olmadığı aktarıldı. Üst düzey bir AWS çalışanı, Q Developer isimli sohbet botunun da son aylarda benzer bir üretim kesintisine yol açtığını açıkladı. Şirket yönetimi söz konusu hataları “öngörülebilir” olarak değerlendirirken, yapay zekanın geniş yetkilerinin risk oluşturabileceğine dikkat çekti. Ekim ayında Alexa ve Fortnite dahil birçok servisi etkileyen büyük kesintinin ardından Amazon, yapay zeka sistemlerinde daha fazla insan onayı gerektiren yeni kontrol mekanizmaları uygulamaya başladı.
