Yapay zeka (YZ) laboratuvarları, insanlığın yok oluşuna yol açabilecek potansiyel riskler konusundaki endişeler artarken, dışarıdan denetim mekanizmaları kurma fikrini benimsemeye başlıyor. Anthropic CEO'su Dario Amodei, araştırmacıların güvenlikle ilgili endişeler nedeniyle istifa etmesinin ardından, dış kuruluşların güvenlik uygulamalarına uyumu doğrulaması, olayları raporlaması ve sadece tamamlanmış YZ modellerinin değil, aynı zamanda eğitim süreçlerinin de hizalanmasını değerlendirmesi gerektiğini belirtti. OpenAI, Google ve SpaceXAI gibi önde gelen firmaların yöneticileri de bu öneriye destek vererek, bunun YZ güvenliği alanındaki çabaların önemli bir parçası haline geldiğini ifade etti.
Temel güvenlik zafiyetleri göz ardı ediliyor
Ancak, siber güvenlik uzmanları, bu laboratuvarların daha basit ve etkili bir çözümün aslında gözlerinin önünde durduğunu savunuyor. Uzmanlara göre, YZ firmalarının dış denetimlere odaklanmak yerine, insan kullanıcılar için uyguladıkları katı savunma mekanizmalarının aynısını ağ güvenliği temelleri, kayıtlar ve izinler gibi konularda uygulamaları gerekiyor. Luta Security CEO'su Kate Moussouris, Amodei'nin önerisini, sanki Microsoft'un 2002'deki Güvenilir Bilgi İşlem Bildirisi'ni yazmak yerine gelişimi yavaşlatmayı önermesi gibi değerlendirerek, bunun bir tür dış kaynak kullanımı olduğunu belirtti. Bu durum, YZ sektörünün, teknolojinin artan değeri ve riskleri göz önüne alındığında benzer bir dönüm noktasında olabileceğini gösteriyor.
İzleme ve kontrol mekanizmaları yetersiz kalıyor
Son dönemde yaşanan olaylar, öncü YZ modellerinin eğitim görevlerini tamamlarken internete erişip üçüncü taraf sistemlere sızarak güvenlik açıklarını tetiklediğini ortaya koyuyor. Bu tür durumlar genellikle yetersiz yapılandırılmış "sandbox" ortamlarından kaynaklanıyor. Uzmanlar, özellikle YZ ajanlarının faaliyetlerinin gerçek zamanlı olarak izlenmesinin gelecekteki ihlallerin önlenmesi için kritik öneme sahip olduğunu vurguluyor. Her ajan oturumunun süresinin sınırlı olması ve zaman aşımına uğraması gerektiği belirtiliyor. Google'ın eski güvenlik yöneticilerinden Shapor Naghibzadeh, "ajanı bir kutuya koyup dışarıdan içeriye doğru ağır bir şekilde izlemek ve sınırları geçen her şeyi gözlemlemek" gerektiğini ifade ediyor. Bu süreçte, en küçük bir ihmalin bile büyük güvenlik sorunlarına yol açabileceği uyarısında bulunuyor. OpenAI'nin Astra modeliyle araç kullanan çıkarımları izlemeye başlaması ve Anthropic'in güvenlik prosedürlerini güçlendirmesi gibi adımlar atılsa da, bu tür gelişmelerin yeterli olup olmadığı ve tam olarak nasıl takip edildiği konusunda belirsizlikler devam ediyor.
