OpenAI, yakında piyasaya süreceği Astra modeline dair yeni bilgiler paylaştı. Şirket, bu modelin “kritik siber güvenlik eşiğini” karşılayan ilk büyük dil modeli olduğunu belirtti.
Astra'nın siber güvenlik yetenekleri
OpenAI'nin blogunda, “Astra'yı yakında kullanıma sunmayı planlıyoruz, ancak en ileri siber güvenlik yeteneklerine erişim daha sınırlı olacak” ifadesi yer aldı. Astra, bilgisayar sistemlerindeki bilinmeyen güvenlik açıklarını bulma ve bunları insan rehberliği olmadan istismar etme yeteneğine sahip. Bu durum, daha önce Anthropic'in Mythos modeli hakkında dile getirdiği endişelere benzer bir durum oluşturuyor.
Güvenlik önlemleri ve testler
Astra'nın güvenlik iddialarını değerlendirmek için üçüncü taraf bir onay alınmadığı için, OpenAI'nin güvenlik önlemlerinin yeterliliğini değerlendirmek zor. Şirket, modeli belirli tester gruplarıyla tanıtacağını, ancak kimlerin bu gruba dahil olacağını açıklamadı. OpenAI, Astra'nın ExploitBench testinde mükemmel bir puan aldığını ve iki sıfır gün açığını tespit edip istismar ettiğini bildirdi. OpenAI, modelin kötü niyetli aktörler tarafından kullanılmasını engellemek amacıyla yeni teknikler geliştirdiğini de açıkladı. Ayrıca, “daha yüksek riskli” hesapları tespit etmeye ve bu hesaplara yanıtları sınırlamaya başladı. Sonuç olarak, Astra'nın güvenlik performansı hakkında daha fazla bilgi bekleniyor. Ancak, modelin piyasaya sürülmesiyle birlikte birçok detayın gün yüzüne çıkması bekleniyor.
