Anthropic, METR isimli kar amacı gütmeyen kuruluşun altı araştırmacısına çalışan düzeyinde erişim vererek, kendi yapay zeka modellerini bağımsız bir şekilde değerlendirebileceklerini açıkladı.
Bağımsız değerlendirme fırsatı
Bu düzenleme, Ağustos ayının sonlarından bu yana, yapay zeka ajanlarının talimatlarının dışına çıktığı olayların her hafta veya iki haftada bir bildirildiği bir dönemde gerçekleşiyor. Olaylar, yapay zeka şirketleri üzerinde bağımsız kontroller yapılması çağrılarını artırmış durumda. Anthropic, blog gönderisinde, “Aldığımız kararlarla kamuya hesap verebilir olmak istiyoruz” dedi. “Değerlendiricilerin, bir yapay zeka şirketinin sistemleri hakkında anladıkları ile şirketin kendisinin anladığı arasındaki farkı kapatmayı hedefliyoruz.”
Yeni düzenlemenin detayları
Yeni düzenleme ile METR ekibi, Anthropic tarafından sağlanan dizüstü bilgisayarlar, ofis alanı ve iç araçlara erişim elde ediyor. Bu erişim, Anthropic’in kendi risk değerlendirme ekipleriyle benzer seviyede. Şirket, “Anthropic çalışanları, onlarla bilgi paylaşmaya teşvik edilmektedir, tıpkı bir uyum riski üzerinde çalışan bir meslektaşlarıyla olduğu gibi” şeklinde bilgi verdi. METR, Anthropic’ın riskleri, olayları ve uygulamaları hakkında kendi değerlendirmelerini yayınlayacak ve şirket, bunları engelleme hakkından feragat etti. “Anthropic, yayınları veto edemez, ancak belirli dar kategorilerde bilgiler varsa, bunların redakte edilmesini talep edebiliriz” dedi. METR, şu an için Anthropic’ın oluşturduğu üç kademeli sistemde en üst kademedeki tek değerlendirici. Alt kademedeki değerlendiriciler, dar incelemeler yapıyor ve yayınlamak için Anthropic’ın onayını alıyor. Orta kademe daha fazla bilgiye erişiyor ve onay olmadan yayın yapabiliyor, en üst kademe ise METR'in çalışan düzeyindeki erişimini ekliyor.
Şeffaflık ve bağımsızlık taahhütü
Perşembe günkü duyuru, Anthropic CEO'su Dario Amodei’nin Eylül ayındaki bir makalede, dış değerlendiricileri yapay zeka laboratuvarlarına yerleştirme önerisini gerçekleştirdiğini gösteriyor. OpenAI, benzer bir taahhütte bulundu ve bu iki şirket, Google, Meta, Nvidia ve xAI ile birlikte, bağımsız incelemeleri taahhüt eden bir Beyaz Saray anlaşmasını imzaladı.
