Microsoft CEO'su Satya Nadella, yapay zeka (YZ) güvenliğinin nasıl geliştirilebileceğine dair kapsamlı düşüncelerini paylaştı. X platformunda yaptığı paylaşımda Nadella, YZ'nin 'güven mimarisini' geri çekilip değerlendirme zamanının geldiğini belirtti.
YZ'yi kara kutu olarak görmekten vazgeçilmeli
Nadella, "Süper zekayı iç içe geçmiş bir dizi kara kutu olarak ele alamayız ve önerilerini, cevaplarını, eylemlerini basitçe kabul edip reddedemeyiz" ifadelerini kullandı. Bu yaklaşımın, "modeli işini yöneten sistemden ayırmak" ve "dışsal kontroller ile güvenlik önlemlerini entegre etmek" anlamına geldiğini vurguladı.
Her adımın kanıtlanabilir olması gerekiyor
Ayrıca, "her anlamlı model eyleminin, kurcalanmaya dayanıklı, insan tarafından okunabilir kanıtlarla belgelenmesi" ve "yetkili bir kişinin her zaman bir modeli görev sırasında duraklatma veya kapatma yeteneğine sahip olduğu" sistemlerin olması gerektiğini savundu. Nadella, "Bir modelin ele geçirildiğini varsaymalı ve onu başlangıçtan itibaren kontrol altına almalıyız. Bunu bir acil fren gibi düşünün" şeklinde konuştu. Bu açıklamalar, önde gelen YZ şirketlerinin modelleri üzerindeki kontrollerini kaybettiklerini kabul ettiği ve Anthropic CEO'su Dario Amodei'nin daha temkinli YZ geliştirme planı yayınladığı bir dönemde geldi.
