Nvidia'nın kurucu ortağı ve CEO'su Jensen Huang, yapay zekanın (YZ) oluşturduğu tehlikelerle ilgili görüşlerini Salı günü Salesforce'un Dreamforce teknoloji konferansında dile getirdi. Huang'a göre YZ, OpenAI'deki bazı güvenlik araştırmacılarının tanımladığı gibi "yabancı bir zihin" değil. Kendisi, YZ'nin insanlar tarafından inşa edilmiş donanım ve yazılımdan ibaret olduğunu ve bu nedenle insanlar tarafından kontrol edilebileceğini savunuyor.
Güvenlik mühendislik sorunudur
Huang, "Güvenlik, hukuki bir sorun değil, mühendislik sorunudur" ifadesini kullandı. Yazılım ve karmaşık bilişim sistemleri geliştirdiklerini belirten Huang, bu sistemlerin nihayetinde birer bilişim sistemi olduğunu vurguladı. Bu nedenle, YZ'yi yönetmek için yeni yasalara veya düzenlemelere ihtiyaç duyulmadığını öne sürdü. Huang, piyasa güçlerinin şirketleri güvensiz ürünler çıkarmamaya iteceği görüşünde. "Ürünlerimizin güvenliğinden emin değilsek, diğer tüm şirketler gibi, biz de piyasaya sürmemeliyiz. Bu çok açık bir davranış biçimi" diye konuştu. Şirketlerin, piyasanın takdir edeceği bir ürün sunduklarından emin olana kadar ilerlemelerini yavaşlatmaları gerektiğini belirtti. Yenilikçilik, hız ve güvenli ürünlerin bir arada olabileceğini ve bu durumun yanlış bir tercih olmadığını ekledi. Huang, "Hızlı koşabildiğiniz kadar hızlı koşun. Ancak herhangi bir anda şirketin kontrol dışına çıktığını veya ürünün güvenli olmayacağını hissederseniz, durup işleri doğru yaptığınızdan emin olun" şeklinde konuştu.
Piyasa güçleri yeterli
Huang, YZ alanında en bilgili kişilerden biri olarak, mevcut yasal çerçevelerin YZ'yi yönetmek için yeterli olabileceğini düşünüyor. Serbest piyasanın, şirketleri güvenli ürünler sunmaya teşvik edeceğini savunuyor. Kendi şirketlerinin YZ teknolojilerindeki ilerlemesinden duyduğu heyecanı ve bu teknolojinin her sektöre ve ülkeye fayda sağlayacağına dair inancını dile getirdi. Ancak, geçmişte yaşanan CrowdStrike'ın neden olduğu aksaklıklar veya Meta'nın sosyal medya zararları nedeniyle ödediği yüksek tazminat gibi örnekler, şirketlerin iyi niyetli olsalar bile istenmeyen sonuçlara yol açabilen ürünler piyasaya sürebildiğini gösteriyor. YZ'nin de niyet veya güvenlik testlerine rağmen zarar verdiği durumlar yaşanmıştır. Huang'ın "bırakın yapsınlar" yaklaşımının, toplumun YZ güvenliği açısından riskli olabileceği endişesi dile getiriliyor. Mevcut ürün sorumluluğu yasalarının YZ'yi kapsayabileceği ihtimali olsa da, bu teorinin mahkemelerde test edilmesi zaman alabilir. Bunun yerine, sektörün kendi kendini düzenlemesi seçeneği de mevcut. Huang, açık kaynaklı modelleri destekleyerek ve şirketlerin bunları kullanmasını teşvik ederek rekabetçi bir denge oluşturmayı hedefliyor. Ancak, sektörün YZ laboratuvarlarını, hatta Çin'deki laboratuvarları da bu sürece dahil olmaya teşvik etmek için kısa bir süresi olduğu belirtiliyor. Microsoft CEO'su Satya Nadella da, Çin'in de ABD ile aynı güvenlik endişelerini taşıması gerektiğini vurgulamıştı.
