Yapay zeka teknolojisinin potansiyel tehlikeleri konusunda bir yıldır süregelen endişeler ve bu alanda atılması gereken adımlar tartışılırken, yapay zeka şirketi Anthropic, sektörün düzenlenmesine yönelik kendi vizyonunu ortaya koydu. Politico'nun haberine göre, yapay zeka laboratuvarı, Kongre'nin kabul edebileceği umuduyla yeni bir yapay zeka güvenliği yasa tasarısı taslağını tanıtmaya başladı.
Yapay zeka modelleri için engelleme senaryoları
Taslak yasa, belirli senaryolarda bir yapay zeka modelinin dağıtımının engellenmesini öngörüyor. Politico'nun belirttiğine göre bu senaryolar, 'öngörülebilir, acil bir risk' içeriyor; bu risk, 50'den fazla insanın ölüm tehlikesiyle karşı karşıya kalması veya bir milyar doları aşan mülk hasarının meydana gelmesi durumunda söz konusu oluyor. Haberde ayrıca, bu tür felaket risklerinin, biyolojik silah yaratılması veya salınması, modelin geliştiricisinin kontrollerinden kaçması veya bir siber saldırıdan kaynaklanması gerektiği vurgulanıyor. Belirtilen bu metrikler, yakın zamanda yürürlüğe giren ve benzer senaryoları 'felaket riski' olarak tanımlayan 53 Sayılı Kaliforniya Senato Yasası'ndakilere benzerlik gösteriyor.
Bağımsız değerlendiriciler ve denetim mekanizması
Anthropic'in yasa tasarısı, bir modelin felaket potansiyelinin analizinin, ABD Ticaret Bakanlığı'na kayıtlı 'bağımsız değerlendiriciler' aracılığıyla yapılabileceğini öneriyor. Bu değerlendiricilere, yapay zeka laboratuvarları tarafından ödeme yapılabileceği belirtilirken, ödemenin 'değerlendirmelerin sonuçlarına bağlı olmaması' gerektiği de ekleniyor. Ancak, bu önerilen sistemin ödemelerin değerlendirmeleri nasıl etkileyebileceği konusunda net bir açıklama sunmadığı ifade ediliyor. DeepMind'ın başkanı Demis Hassabis, daha önce kendi kendini yöneten bir yapay zeka düzenleme organının, finans sektöründeki Finans Endüstrisi Düzenleme Kurumu'na (FINRA) benzeyebileceğini öne sürmüştü. Anthropic'in taslağında, değerlendiriciler acil bir felaket riski tespit ettiklerinde, bunu 72 saat içinde Ticaret Bakanlığı'na bildirmeleri gerekiyor. Ardından Ticaret Bakanlığı'nın, bir D.C. yargıcından modelin piyasaya sürülmesini durdurmasını talep etmesi gerekecek. Yasa, herhangi bir federal ajansın modeli tek başına durdurma yetkisine sahip olmasını açıkça yasaklıyor.
