Geçtiğimiz hafta sonu yayımlanan uzun bir makalede, Anthropic CEO'su Dario Amodei, yapay zeka endüstrisinin bir yıl önce hemen reddedeceği bir öneride bulundu: Tüm öncü yapay zeka şirketlerine bağımsız üçüncü taraf değerlendiricilerin entegre edilmesi, bu değerlendiricilere güvenlik olaylarını raporlama, yapay zeka modellerinin gerçekten uyumlu olup olmadığını değerlendirme ve bulgularını dünyayla paylaşma yetkisi verilmesi.
Bağımsız değerlendiriciler için yeni bir dönem
Amodei, Anthropic'in METR ve Redwood Research gibi bağımsız değerlendiricilere şirketin sistemlerine eşsiz bir erişim sağlayacağını taahhüt ettiğini açıkladı. OpenAI CEO'su Sam Altman da bu uygulamayı benimseyeceklerini belirterek endüstride dış araştırma gruplarıyla çalışma yönteminde muhtemel bir değişime işaret etti. TechCrunch ile konuşan üçüncü taraf değerlendiricileri, öneriyi genel olarak olumlu karşıladı, ancak bağımsız denetleyici olarak işlev görebilmeleri için detayların netleştirilmesi ve ideal olarak yasalarla desteklenmesi gerektiğini vurguladılar.
Denetim sürecinin zorlukları
Modeller, değerlendirildiklerinde nasıl davranacaklarını öğrenmeye başladıkça, bu derin erişim daha önemli hale geliyor. Araştırmacılar, bitmiş modeli test ederken bazı davranış ipuçlarının gözden kaçabileceğini, ancak eğitim sürecinde nasıl davrandıklarına bakarak ortaya çıkarılabileceğini belirtiyorlar. Geçmişte, yapay zeka şirketleri, bitmiş modellerin test edilmesi için dış değerlendiricileri dahil ettiler. Şimdi ise değerlendiricilerin, yalnızca nihai modele değil, eğitim sürecinin ara aşamalarına da erişim alması öneriliyor. Değerlendiricilerin Anthropic ve OpenAI'nin sağladığı erişim türü ve zamanlaması henüz net değil. Hiçbir şirket, hangi değerlendiricilerle çalışacaklarını veya ne kadar bilgi paylaşacaklarını açıklamadı. Bu belirsizlik, bağımsız değerlendiricilerin güvenilirliğini etkileyebilir. Bazı araştırmacılar, şirketlerin tamamen bağımsız bir denetim sürecine izin vermeleri gerektiğini savunuyor. Volkanik bir örnek olarak, geçmişte şirketler, denetim süreçlerinde dış denetçilere aşırı kontrol sağlamaktan çekindiler. Sonuç olarak, bağımsız denetimlerin gerekliliği daha fazla kabul görse de, bu sürecin etkinliği için denetim otoritelerinin güvenilir bir şekilde çalışabilmesi adına somut düzenlemelere ihtiyaç vardır.
