Bağımsız güvenlik araştırmacıları, Anthropic'in Claude modelini kullanarak OpenAI'ye sızdı ve ChatGPT'nin savunmasındaki zafiyetleri açığa çıkardı. Bu olay, The Wall Street Journal tarafından Perşembe akşamı duyuruldu.
Hacktron AI'nın saldırısı
Hacktron AI'daki üç kişilik güvenlik ekibi, OpenAI'nin hata ödül programı kapsamında bu saldırıyı gerçekleştirdi. Elde ettikleri bulguları OpenAI'ye bildiren Hacktron, 6,500 dolarlık ödül aldı. Araştırmacılar, iki kritik açığı birleştirerek birçok OpenAI çalışanına ait ChatGPT hesaplarına erişim sağladı.
Güvenlik zafiyetleri ve etkileri
OpenAI, Hacktron'un tespit ettiği sorunları çözdüğünü belirtti. Bu olay, AI şirketlerinin güvenlik konusundaki artan baskı altında olduğu bir dönemde gerçekleşti. Araştırmacılar, 25 Temmuz'da OpenAI'nin topluluk forumunda bir sorun aracılığıyla sisteme girdiler. Discourse yazılımındaki bir hata, kullanıcıların belirli görüntü dosyalarını yüklemesine olanak tanıdı. Hacktron'un kurucusu Mohan Pedhapati, “AI, istismar geliştirmek için gereken uzmanlık miktarını azaltıyor.” dedi.
