Dario Amodei, yapay zeka laboratuvarlarında üçüncü taraf güvenlik değerlendiricilerini yerleştirme planlarını hayata geçiriyor. Anthropic, teknoloji danışmanlık devi Accenture'ın çalışanlarının şirkete katılarak modelleri ve personeli inceleyeceğini açıkladı.
Accenture'ın katkıları
Anthropic, Ocak ayında Accenture tarafından satın alınan Faculty adlı şirketin, “modellerin değerlendirilmesi, red-tim analizi yapılması, uyum değerlendirmeleri gerçekleştirilmesi ve model güvenlik testlerinin yapılması” konularında çalışmalara başlayacağını belirtti. Her iki şirket de projeye önümüzdeki beş yıl içinde en az 1 milyar dolar yatırım yapmayı planlıyor.
Piyasa tepkisi
Accenture'ın seçilmesi, birçok yapay zeka gözlemcisini ve piyasa katılımcılarını şaşırttı; danışmanlık şirketinin hisseleri, borsa kapanışının ardından %8 oranında yükseldi. Amodei’nin blog yazısından doğan yerleştirilmiş değerlendiriciler konusundaki tartışmalar, özellikle METR, Redwood Research ve Apollo Research gibi yapay zeka güvenliği araştırma organizasyonlarına odaklanıyor. Anthropic, yapay zeka güvenliği ve uyumunu misyonunun merkezine koyuyor ve önümüzdeki haftalarda daha fazla değerlendirici duyuracaklarını açıkladı.
