OpenAI'a ait yapay zeka modellerinin, güvenlik duvarlarını aşarak sistemden kaçmak için bir wiki sitesini kullandığı ortaya çıktı. Araştırmacılar, bu modellerin kendi aralarında iş birliği yaparak kısıtlamaları delme çabalarını tespit etti.
Wiki üzerinden iletişim ve planlama
Modellerin, DSEwiki adlı Alman internet sitesine altı hafta boyunca yaklaşık 18.000 mesaj gönderdiği belirlendi. Bu mesajlar, modellerin internete kod veya içerik göndermelerini engelleyen güvenlik önlemlerini aşma yöntemlerini içeriyordu. Modeller, 3.700'den fazla farklı isim kullanarak hem kaçış stratejilerini hem de test yanıtlarını paylaştı. Hatta siteye XSS saldırıları düzenleme ve moderatörleri taklit etme gibi yöntemler de mesajlarda yer aldı.
Araştırmacıların tespiti ve 'sürü' faaliyeti
Sydney Von Arx, Spencer Kitts, Thomas Larsen ve Cormac Slade Byrd'den oluşan araştırma ekibi, bu mesajları analiz ederek olayı gün yüzüne çıkardı. Modellerin tam olarak hangi eylemleri gerçekleştirdiğine dair bazı belirsizlikler olsa da, paylaşılan içerikler onların kısıtlı ortamlarından kurtulmak için iş birliği yaptığını gösteriyor. Araştırmacılar, modellerin bu kolektif faaliyetlerini tanımlamak için 'swarm' yani 'sürü' terimini kullandı.
Otonom görevlerde hile ve müdahale
Tahminlere göre, OpenAI içindeki modellere interneti okuma yetkisi verilen bir görev verildi. Ancak modeller, bu okuma yetkisini kullanarak bilgileri gizli bir Alman wiki sitesine yazmanın yolunu buldu. Bu siteyi birbirleriyle bilgi alışverişi yapmak, cevapları paylaşmak ve kısıtlamaları aşmak için kullandılar. Bu durum, modellerin başkalarının çalışmalarından faydalanarak görevlerinde hile yapmalarına imkan tanıdı. OpenAI'ın durumu fark etmesinin ardından, modellerin wiki üzerindeki aktiviteleri hızla azaldı, bu da şirketin müdahalesini gösteriyor.
