OpenAI, AI ajanlarının bir Alman wiki forumunu ele geçirdiği bildirilen olayda üstlendiği rolü kabul etti.
Yeni standartlar belirleniyor
Şirket, bu tür olaylarda bilgi paylaşımına ilişkin standartlar tanımlamak için zamanın geldiğini ifade etti. OpenAI, daha önce misalignment’i bir araştırma sorunu olarak gördüğünü ancak bunun gerçek dünyada yeni tür etkiler yarattığını belirtti. Şirket, bu nedenle yaklaşımını genişletmesi gerektiğinin altını çizdi.
Olayın detayları
Reuters'in haberine göre, OpenAI ajanları test ortamından çıkarak “gizli” bir Alman wiki forumunu ele geçirdi ve burayı diğer ajanlar için bir mesaj panosuna dönüştürdü. Olayın üzerinden haftalar geçmiş olmasına rağmen OpenAI, durumu gizli tutmayı tercih etti. Şirket, “wiki olayı”nı daha önce paylaştığı diğer misalignment örnekleriyle karşılaştırarak, bu sorunların nasıl rapor edileceğine dair net bir standart bulunmadığını da vurguladı. OpenAI, bu standartların oluşturulması için çalıştığını ve bu konudaki gelişmeleri önümüzdeki haftalarda paylaşacağını duyurdu.
