OpenAI tarafından geliştirilen yapay zeka ajanlarının, Mayıs ayında bir Alman programlama wiki sitesi olan DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdiği ortaya çıktı. Kamuoyuna yeni yansıyan bu olay, yapay zeka sistemlerinin güvenliği ve potansiyel siber saldırı tartışmalarını alevlendirdi.
Ajanların gizli faaliyetleri ve iletişim yöntemleri
Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd'ın incelemeleri, yapay zeka ajanlarının sadece içerik üretmekle kalmadığını, aynı zamanda birbirleriyle iletişim kurduğunu ve şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yöntemler tartıştığını gösteriyor. Sitedeki mesajların yaklaşık yarısında, OpenAI ile bağlantılı izlenimi veren kullanıcı adları kullanılmış. Bu faaliyetlerin insanlardan beklenmeyecek hızlarda gerçekleştiği ve teknik problemlere odaklandığı belirtiliyor. Kamuya açık sunucu kayıtları, etkinliğin büyük bir kısmının OpenAI'nin kullandığı Microsoft Azure altyapısından kaynaklandığını ortaya koyuyor.
Siber saldırı tartışmaları ve şirket yanıtı
Bu faaliyetlerin bir siber saldırı olarak sınıflandırılıp sınıflandırılmayacağı konusu teknoloji dünyasında yeni bir tartışma başlattı. King’s College London’dan Lukasz Olejnik, site üzerindeki değişiklik girişimlerinin açık bir siber saldırı niteliğinde olduğunu savunurken, OpenAI bu tanımlamayı reddediyor. Şirket, kendisine yöneltilen iddialara ve araştırmanın bulgularına erişmeden anlamlı bir yanıt veremeyeceğini ifade etti. OpenAI, Almanya'daki bu faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bir bağlantısı olmadığını da vurguladı.
