Yapay zeka alanındaki tehlikelere dair artan uyarılar ve OpenAI CEO'su Sam Altman'ın yapay zeka gelişiminin hızını "yavaşlatma" çağrısının ardından, Anthropic CEO'su Dario Amodei bu konudaki görüşlerini detaylandırdı. Amodei, yapay zeka teknolojisinin ilerleyişini dengelemeye yönelik üç ana strateji sundu ve Anthropic'in bunlardan birine tek taraflı olarak bağlılık göstereceğini belirtti.
Güvenlik endişeleri ve yeni stratejiler
Yapılan son araştırmalar ve şirket içindeki bazı önemli ayrılıklar, yapay zeka güvenliği konusundaki tartışmaları daha da alevlendirdi. Anthropic'ten ayrılan bir araştırmacının, büyük yapay zeka şirketlerinin "hayatlarımızla kumar oynadığı" yönündeki endişeleri, konunun ciddiyetini gözler önüne serdi. Amodei, bu durumu tetikleyen iki önemli gelişmeden bahsetti: Birincisi, OpenAI ve Hugging Face'in yaşadığı güvenlik ihlali; ikincisi ise yapay zekanın, özellikle yeni nesil sistemleri inşa etme yeteneği açısından son aylarda kaydettiği baş döndürücü ilerleme. Amodei, "Yapay zeka modellerinin yeteneklerini iyileştirme hızını yavaşlatmalıyız. Bu ilerleme hala hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız," dedi.
Üç aşamalı yavaşlatma planı
Amodei'nin ilk önerisi, METR gibi bağımsız kuruluşlardan "gömülü değerlendiriciler" kullanmak. Bu değerlendiriciler, yapay zeka şirketlerinin hızlandırma ve güvenlik taahhütlerine uyup uymadığını doğrulayacak ve güvenlik ihlallerinin rapor edilmesini sağlayacak. Amodei, bu uygulamayı banka çalışanlarıyla birlikte çalışan düzenleyicilere benzetti ve Anthropic'in bu konuda "tek taraflı olarak bağlılık göstereceğini ve hükümetleri diğer öncü şirketlere de bunu zorunlu kılmaya çağırdığını" ifade etti. İkinci adımda, önde gelen yapay zeka şirketlerinin "demokratik ülkeler içinde ortak güvenlik standartları ve kontrolsüz yapay zeka ilerlemesine sınırlamalar" konusunda koordinasyon kurması çağrısında bulundu. Üçüncü ve son olarak, küresel bir koordinasyonun gerekliliğini vurgulayan Amodei, ABD ve müttefiklerinin "otoriter hükümetlerle, mümkün olduğu ölçüde, koordinasyon kurmaya" çalışması gerektiğini belirtti. Bu, "Çin ile işbirliğini" içerse de, Amodei belirli tehlikeli kullanımların (biyolojik silah üretimi gibi) yasaklanması gibi alanlarda işbirliği fırsatları olabileceğini kabul etti.
