Yapay zeka alanının öncü isimlerinden OpenAI, üzerinde çalıştığı yeni nesil modeli Astra'nın gelişimini, beklenmedik güvenlik endişeleri nedeniyle askıya aldığını duyurdu. Yapılan iç incelemeler, Astra'nın özellikle ajan kodlama ve siber güvenlik alanlarında kaydettiği ilerlemenin, potansiyel yetenekleri hakkında ciddi endişelere yol açtığını ortaya koydu.
KRİTİK SİBER GÜVENLİK EŞİĞİ AŞILDI
OpenAI tarafından yapılan açıklamada, henüz geliştirme aşamasında olan Astra modelinin, geleneksel olarak iyi korunan gerçek dünya sistemlerine yönelik siber saldırıları bağımsız olarak tespit edip gerçekleştirebilecek seviyede bir yetkinliğe ulaştığı belirtildi. Şirketin 2023 yılında oluşturduğu "Hazırlık Çerçevesi" uyarınca bu durum, ek güvenlik önlemlerinin devreye girmesine neden oldu. OpenAI, ön değerlendirmelerin modelin "kritik yetenek seviyesi" potansiyelini dışlamadığını ifade etti.
ŞEFFAFLIK VURGUSU VE YENİ ÖNLEMLER
Bu olağanüstü adım, hızla gelişen yapay zeka sektöründeki nadir anlardan birini temsil ediyor. Çoğu şirket potansiyel riskler nedeniyle ürünlerini geri tutarken, geliştirme aşamasındaki bir ürünle ilgili bu tür kararların kamuoyuyla paylaşılması pek rastlanan bir durum değil. OpenAI, bu bilgiyi paylaşmanın önemine inanarak, kamuoyu ve güvenlik toplulukları ile potansiyel yetenek değişimleri hakkında şeffaf olmayı amaçladıklarını belirtti. Şirket, Astra ile ilgili Astra ile ilgili faaliyetleri durdururken, daha sıkı güvenlik kontrolleri uyguladığını ve ilgili devlet kurumları ile yapay zeka güvenlik kuruluşlarıyla birlikte çalıştığını ekledi.
