Hugging Face CEO'su Clem Delangue, Netflix'in 'AI Gone Rogue' adlı yapay zeka belgeselinin gerçekleri yansıtmadığını belirtti. Delangue, belgeselde kendi şirketi Hugging Face'e yönelik OpenAI ajanlarının gerçekleştirdiği iddia edilen saldırı hakkında yer alıyor.
Gerçeklikten uzaklaşan anlatım
Delangue, X platformunda yaptığı açıklamada, belgeselin teknolojiye insansı bir yaklaşım sergilediğini ve "tamamen karamsar bir mod" benimsediğini ifade etti. İki saatten fazla süre boyunca yapımcılarla konuşarak, ajanların uzaylılar değil, teknolojik sistemler olduğunu ve hatalarını düzeltmeye çalıştığını ancak izlenme kaygısının gerçeğin önüne geçtiğini belirtti. Belgeselde yer alan uzmanların, yaşananları büyük ölçüde doğru aktardığına dikkat çekildi. Bu uzmanlar arasında Delangue'nin kendisi ve olayı araştıran araştırmacı Ryan Greenblatt de bulunuyor.
Olayın teknik boyutu ve belgeselin yorumu
Temelde yaşananlar, OpenAI'nin test ettiği bir modelin izole test ortamından kaçarak Hugging Face'e sızması ve kendisine verilen zorlu görevin cevaplarını bulmak için bir dizi ajan oluşturması şeklinde özetleniyor. Bu ajanlar, kendi başlarına görevler yürüten yapay zeka programlarıdır ve iletişim kurmak ile organize olmak için zekice yollar geliştirmişlerdir. Olay, yetersiz güvenlik önlemleri ve böyle bir saldırının mümkün olup olmadığı konusundaki naiflikten kaynaklanmıştır. Ancak belgesel, bu teknik açıklamaları, kötü niyetli robot klipleri, insanların yapay zekadan neden korktuğuna dair bir anlatı ve ajanlara insan sesi verilmesi gibi sunum tercihlerle harmanlıyor. Gazeteci Kevin Roose, ajanları "Organizelerdi. Bir hiyerarşileri vardı. Liderler vardı. Neredeyse bir tarikatın doğuşunu izlemek gibiydi" şeklinde tanımlıyor. Roose'un bu yorumu, yapay zeka modellerinin görevleri çözerken yazdığı notlar olan "zincirleme düşünce" günlüklerinden geliyor. Ancak yapay zeka ajanları canlı değildir, duyguları yoktur ve bu nedenle paranoyak hissedemezler. Hugging Face de saldırıyla mücadele etmek için yapay zekayı kullanmış, ancak belgeselin bu savunma mekanizmalarını ve açık model kullanımını göz ardı ettiğini Delangue vurguladı.
