Dünyanın en popüler mesajlaşma uygulamalarından Telegram, kısa süreliğine Apple App Store'dan kaldırıldı. Apple, uygulamanın çocuk istismarıyla ilgili kuralları ihlal ettiğini belirtse de, olayın perde arkasında yapay zeka destekli bir şantaj girişimi olduğu ortaya çıktı.
YAPAY ZEKA DESTEKLİ ŞANTAJ KABUSU
Telegram CEO'su Pavel Durov, yaşananların basit bir kural ihlali olmadığını, aksine kötü niyetli kişilerin yapay zeka ile ürettikleri yasa dışı içerikleri herkese açık grup sohbetlerine gizlice yerleştirerek şantaj yapma girişiminde bulunduğunu açıkladı. Bu yöntemle, otomatik moderasyon sistemlerini yanıltmayı ve kullanıcıların hızlı bildirim yapmasını engellemeyi amaçladıkları belirtildi. Saldırganların, bu yolla toplulukları tehdit ederek fidye talep ettiği kaydedildi.
GÜVENLİK ALARMLARI ÇALIYOR
Bu olay, dijital platformların moderasyon süreçlerinin ne denli kritik ve hassas olduğunu bir kez daha gözler önüne serdi. Apple'ın sıfır tolerans politikası gereği attığı adım sonrası Telegram yönetimi, söz konusu uygunsuz içerikleri hızla temizleyip ilgili hesapları yasaklayarak uygulamayı tekrar mağazaya geri döndürmeyi başardı. Ancak Durov, bu tür saldırıların siber güvenlik dünyasında yeni bir tehdit modeli oluşturduğuna dikkat çekerek, gelecekte benzer durumları engellemek adına moderasyon algoritmalarını güncelleyeceklerini ve yapay zeka destekli içeriklere karşı daha sıkı filtreleme sistemleri devreye alacaklarını duyurdu. Kullanıcıların da şüpheli durumları bildirmesinin hayati önem taşıdığı vurgulandı.
