Teknoloji sektöründe yapay zeka güvenliği konusu, giderek artan bir şekilde üst düzey yöneticilerin gündeminde yer alıyor. Hugging Face olayı gibi gelişmelerin, yapay zekanın dünyayı kaosa sürükleyebileceği endişelerini artırmasıyla birlikte, sektörde bir tartışma alevlenmiş durumda. Son haftalarda önde gelen yapay zeka laboratuvarları, gelişmeleri yavaşlatma çağrıları yaptı.
Gelişmeleri Yavaşlatma Çağrıları
Bu çağrıların en dikkat çekicisi, CEO Dario Amodei'nin yaklaşık 4.000 kelimelik denemesi oldu. Amodei, denemesinde yapay zeka gelişiminin neden yavaşlatılması gerektiğini, yeterli güvenlik önlemlerinin alınabilmesi için bir gereklilik olduğunu savundu. Plan, şirketler ve hükümetler arasında güvenli dağıtım konusunda uluslararası bir işbirliği stratejisini de içeriyor. OpenAI'den Sam Altman ve xAI'den Elon Musk gibi rakip yapay zeka yöneticileri de Amodei'nin planına destek verdi. Bu deneme, teknoloji sektörü genelinde daha fazla konuşulmasına yol açtı. Ancak, herkes Amodei'nin küresel çapta koordine edilmiş bir eylem çağrısına katılmadı. Birçok kişi, hükümet denetiminin gerekli olmayabileceğini düşünüyor.
Farklı Yaklaşımlar ve Kendi Kendini Düzenleme
Bu tartışmaya en son katılanlardan biri, Meta CEO'su Mark Zuckerberg oldu. Zuckerberg, X üzerinden yaptığı paylaşımda, “Güven ve uyumun, ajanları ve modelleri ayırt edecek en önemli yetenekler haline geldiğine inanıyorum” dedi. Zuckerberg, şirketinin güvenlik endişeleri nedeniyle yapay zeka modelinin yayınlanmasını ertelediğini belirtti. Meta'nın Muse modelini güvenlik ve eminlik için birkaç ay geciktirdiğini ve bunun günlük işlerinin bir parçası olduğunu söyledi. Zuckerberg, Amodei'nin planının bazı kısımlarını desteklerken, hükümet eyleminin gereksiz olduğunu ima etti ve sektörün kendi kendini düzenleyebileceğine işaret etti. Piyasaların, kaos yaratmayan modeller oluşturan şirketlere nihayetinde başarı getireceğini savundu. Bu görüş, Zuckerberg'in geçtiğimiz ay yayınladığı ve hükümetle sınırlı işbirliğini savunduğu, ancak Amerikan rekabet gücünü ön plana çıkardığı denemesiyle de uyumlu. Reddit'in kurucu ortağı Alexis Ohanian da teknoloji sektörünün yapay zekanın risklerini halka anlatma konusunda “sağır” kaldığını söyledi ancak şirketlerin bu sorunları kendi başlarına çözebileceğine dair umutlu olduğunu belirtti. Google DeepMind'ın kurucu ortağı Shane Legg de yeteneklerin güvenlikten öne geçmemesi gerektiğini vurguladı. Bu çağrılara rağmen, bazıları işletmelerin kendi kurallarını yazmasına izin verilmesinden memnun görünüyor. OpenAI, Anthropic ve diğer büyük yapay zeka şirketlerinin, özel bir "kendi kendini düzenleyen kurum" olarak tanımlanan bir yapay zeka standartları organizasyonu oluşturmak için birlikte çalıştığı bildirildi. Bu durum, bazıları tarafından "düzenleyici yakalama" stratejisi olarak yorumlanıyor; yani güçlü şirketlerin, daha küçük rakipleri saf dışı bırakmak için düzenleyici taktikler kullanması. Çin hükümetinden birçok önde gelen isim de benzer görüşler dile getirdi. Çin, ABD'yi küresel yapay zeka yönetişimini baltalamak için "korku tellallığı" kullanmakla suçladı. Amodei'nin planı, Çin'in ilerlemesini yavaşlatarak ABD'nin liderliğini artırmayı amaçlıyor. Kanada yapay zeka firması Cohere'nin CEO'su Aidan Gomez ise büyük ABD'li yapay zeka laboratuvarlarını bir "kartel" oluşturmakla suçladı ve meselenin kimin kuralları yazacağı, kimin katılacağı ve kimin çıkarlarının korunacağı olduğunu belirtti. Gomez'in de işaret ettiği gibi, yapay zeka güvenliği alanı, güvenlik tanımlarının ve bunları kimin tanımlayacağının, gelecekteki yapay zeka rekabetinde kimin önde olacağını belirleyecek derin bir siyasi alandır.
