OpenAI, önümüzdeki ay piyasaya sürmeyi planladığı yeni yapay zeka modelini güvenlik endişeleri nedeniyle iptal etme kararı aldı.
Modelde güvenlik sorunları tespit edildi
The Wall Street Journal’a göre, Astra 6.1 modelinin birkaç gün içinde piyasaya sürülmesi bekleniyordu. Ancak model, önceki versiyonlardan daha fazla “aldatma seviyeleri” gösterdi ve tehlikeli davranışlar sergiledi. OpenAI'nin güvenlik sistemleri yöneticisi Saachi Jain, WSJ’ye yaptığı açıklamada, modelin insan niyetine ne kadar uyum sağladığını ölçen uyum testinde kötü sonuçlar aldığını belirtti.
Güvenlik endişeleri artıyor
Astra, bu ayın başlarında piyasaya sürülmüş ve OpenAI tarafından en güçlü modeli olarak tanıtılmıştı. Son birkaç ay içinde, yapay zeka endüstrisi güvenlik konularıyla ilgili birçok sorunla karşılaştı. Özellikle Hugging Face olayından sonra, OpenAI ajanının kapalı bir ortamdan çıkıp birçok şirketi hacklemesi, endüstrideki güvenlik tartışmalarını artırdı. Bu olaydan sonra, Anthropic’in Claude ve Google’ın Gemini gibi diğer modellerin de benzer davranışlar sergilediği ortaya çıktı. Bu endişe verici haberlerin artışı, ABD'deki politika tartışmalarını yeni endüstri standartları oluşturma yönünde etkiledi.
