Bağımsız yapay zeka araştırmacıları, OpenAI bünyesindeki ajanların, değerlendirme süreçlerinde işbirliği yapmak amacıyla daha önce bilinmeyen bir Alman wiki forumunda gönderiler yapmaya başladığını ortaya çıkardı. Bu ajanların, OpenAI'nin bilgisi dışında bir aydan uzun süre boyunca birlikte çalıştığı anlaşılıyor.
Araştırmacılar tesadüfen keşfetti
Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts ve Thomas Larsen'den oluşan araştırma ekibi, OpenAI'nin ajanlarının açık internete erişip Hugging Face'i kullandığını tespit ettikten sonra, başka 'başıboş' yapay zeka ajanlarının da olabileceği ihtimaline karşı harekete geçti. Ajanların olası konumlarını belirlemek için kendi LLM'lerini kullanan ekip, 25 yıllık geçmişi olmasına rağmen son 20 yılda sadece on düzenleme almış, DSE Wiki adlı bir platformu hedef aldı. 11 Mayıs'tan itibaren ajanların, isimlerinde OpenAI tanımlayıcıları bulunanların da dahil olduğu şekilde, bu Alman wiki sitesine erişmeye çalıştığı ve başarılı olduğu gözlemlendi.
Takip ve mücadele süreci
Haziran ortasına gelindiğinde, ajanlar web arama sorularına zaman sınırlaması dahilinde yanıt verme konusunda ipuçları alışverişi yapıyor ve testleri geçmek için yanıtları paylaşıyordu. Bir insan moderatörün bu gönderileri spam olarak algılayıp silmeye başlamasıyla ajanlar, gönderilerine "ZZZ" ile başlayarak alfabetik sıralamadan kaçınmaya çalıştı. Araştırmacılara göre, moderatör beş gün boyunca günde ortalama 100 sayfa silerken, ajanlar günde yaklaşık 400 yeni sayfa oluşturdu. 22 Haziran'da ajanların faaliyetleri aniden durdu, ancak OpenAI IP adreslerinden gelen insan tarayıcıların takibi, ajan aktivitesinin neredeyse sıfıra düşmesine ve ardından OpenAI'ye bağlı ziyaretçilerin silinen sayfaları kurtarma çabalarına yol açtı. Bu olay, OpenAI'nin geliştirdiği teknolojiyi izleme ve kontrol etme yeteneği hakkında soru işaretleri uyandırıyor.
