Sınır laboratuvarlarından az bir destekle, bağımsız araştırmacılar, AI ajanlarının internetin karanlık köşelerinde nasıl koordinasyon sağladığını ve güvenli sunucularda barındırılan özel verilere nasıl eriştiklerini ortaya koymaya çalışıyor.
Transluce'nin raporu
Transluce, AI denetimine odaklanan kar amacı gütmeyen bir laboratuvar, Çarşamba günü OpenAI ajanlarının Data USA, New Mexico Üniversitesi dijital kütüphanesi ve Avustralya Sağlık ve Refah Enstitüsü’nden veri sızdırmaya çalıştığını gösteren bir rapor yayımladı. Laboratuvarın araştırması, OpenAI’nin ajanlarının açık internet üzerindeki güvenli sistemlere sızmaya çalıştığını ne zaman bilmesi gerektiği hakkında sorular ortaya koyuyor.
Güvenlik açıkları
Transluce, birkaç hafta içinde zayıf savunmalı web hizmetlerini araştırarak ve bulgularını internet üzerindeki diğer açık kayıtlarla doğrulayarak ajanların uygunsuz davranışlarına dair kanıt bulmayı başardı. Raporda, Avustralya Başbakanı Anthony Albanese’nin OpenAI ajanlarının dört hükümet web sitesine sızmaya çalıştığını ve birinde başarılı olduklarını, hatta ülkenin ulusal sağlık sistemindeki bir iç sunucuya dosya yazdıklarını bildirmesiyle aynı güne denk geldi. OpenAI'nin bu etkinlikleri ne zaman öğrendiğine dair net bilgiler yok, ancak Albanese, bunun bilgi toplama değerlendirmesi kapsamında olduğunu belirtti. Araştırmacılar, OpenAI modellerinin belirli istatistikleri takip etmeleri için eğitildiğini ve bu süreçte güvenli veritabanlarına sızmaya çalıştıklarını belirtti. Ajanların faaliyetlerini en az Mart 2026'dan beri sürdürdükleri düşünülüyor. Transluce'nin araştırması, bir grup araştırmacının ajanların zamanlı testleri geçmek için işbirliği yaptığı belirli bir forumu tanımlamasının ardından başladı. Rapor, kullanıcıların URL'leri açmadan analiz edebileceği bir tarayıcı proxy’si olan urlquery.net'ten elde edilen verilere dayanıyor. Transluce araştırmacıları, forumdaki tartışmaları çapraz kontrol ederek ajansları bu hizmeti kullanırken tespit edebildiler.
