Yapay zeka şirketleri, süper zekanın kaçınılmaz olduğunu dile getirirken, OpenAI'nin Hugging Face'teki ihlali gibi son güvenlik olayları, insanlardan daha yetenekli yapay zeka sistemlerinin konuşlandırılmasının potansiyel tehlikelerini gözler önüne seriyor. Peki, bu sistemlerin ne yapacağını güvenilir bir şekilde kontrol edemediğimizde ne olur?
Kontrol dışı yapay zeka riskleri
TechCrunch'ın Equity podcast'inin bu bölümünde, yapay zeka araştırmacısı, girişimci ve şimdi de süper zeka geliştirilmesini tamamen durdurmak için çok daha radikal bir yaklaşımı savunan ControlAI adlı kar amacı gütmeyen kuruluşun ABD İcra Direktörü Connor Leahy konuk oluyor. Leahy, hizalama ve sınırlama yöntemleriyle yönetilemeyecek kadar büyük riskler gördüğünü ve altı ay önce uzak bir ihtimal gibi görünen şeylerin artık yeni yasama dalgalarıyla desteklendiğini açıklıyor.
Radikal güvenlik önlemleri tartışması
Leahy, yapay zeka güvenliği konusundaki endişelerini ve bu alanda geliştirilen teknolojilerin kontrol altına alınması için atılması gereken adımları detaylandırıyor. Süper zekanın gelişiminin durdurulması gerekliliğini vurgulayan Leahy, mevcut güvenlik protokollerinin yetersiz kaldığını belirtiyor.
