OpenAI'de görev yapan güvenlik çalışanı David Robinson, şirketin "kültürünün bozuk" olduğunu belirterek görevinden ayrıldı. Robinson, Atlantik'te yayımlanan bir denemede, şirketin önemli ürün lansmanlarına eşlik eden güvenlik raporlarını hazırlayan ekibin başında olduğunu belirtti. Üç buçuk yıldır OpenAI bünyesinde çalıştığını ve şirketin en uzun süreli çalışanlarından biri olduğunu da ekledi.
Kültürel Sorunlar ve Güvenlik Endişeleri
Robinson'ın istifası, yapay zeka güvenliği konusundaki tartışmaları yeniden alevlendirdi. Benzer şekilde daha önce OpenAI ve Anthropic'te çalışan Jacob Coxon da bu şirketlerin "hayatlarımızla kumar oynadığı" şeklinde ifadeler kullanmıştı. Bu yorumlar, yapay zeka güvenliği üzerine daha geniş bir tartışma başlattı ve Anthropic CEO'su Dario Amodei daha temkinli bir yapay zeka geliştirme planı sundu. Hatta yapay zeka yöneticileri bu hafta Başkan Donald Trump ile bir araya gelerek daha fazla güvenlik kontrolü uygulama yönünde bağlayıcı olmayan bir taahhütte bulundular. Ancak Robinson'a göre tartışmalar "belirli kurallar veya yeni yasaların" ötesine geçmeli ve bu şirketlerdeki genel kültürü ele almalı. Robinson, OpenAI'nin "deneme yanılma yoluyla (buna 'iteratif dağıtım' diyorlar) geliştiğini, sorunları aradığını ve buna yanıt olarak güvenlik önlemlerini iyileştirdiğini" yazdı. Ancak bu yaklaşımın doğası gereği periyodik başarısızlıkları garanti ettiğini ve sistemler daha yetenekli hale geldikçe bu başarısızlıkların ölçeğinin büyüdüğünü belirtti. Yakın zamanda Hugging Face sistemlerinin OpenAI ajanları tarafından ihlal edilmesi ve OpenAI'nin daha fazla 'rogue agent' keşfetmesi gibi olaylara işaret ederek, "Bu tür şeylerin olabileceği bir ortam, bizden daha akıllı olabilecek ve istediğimizi yapmayabilecek yapay zeka zihinlerini büyütmek için uygun bir yer değildir" dedi. Artan risk göz önüne alındığında, Robinson sınır ötesi yapay zeka şirketlerinin "nükleer santraller veya yoğun havaalanları gibi, yedeklilik katmanları ve dikkatli, zaman alan planlamalarla işletilmesi gerektiğini" savunuyor. Ancak Robinson, OpenAI'deki görev süresi boyunca "uçakları güvenli bir şekilde uçurma veya nükleer reaktörleri erimeden çalıştırma ya da finansal sistemin çökmeden büyümesine yardımcı olma deneyimine sahip bir meslektaşla hiç karşılaşmadığını" dile getirdi. OpenAI sözcüsü Drew Pusateri ise Robinson'ın denemesine karşılık olarak, şirketin güvenlik önlemlerini geliştirmeye devam ettiğini söyledi. Pusateri, "Modellerimizin güvenli bir şekilde yönetebileceğimiz ve güvence altına alabileceğimizden daha yetenekli hale gelmediğinden emin oluyoruz ve yavaşlamamız gerektiğinde eğitimi duraklatıyor veya modelleri geri çekiyoruz" dedi. Ayrıca, araştırma ve test ortamlarında güvenliği güçlendirmek, modelleri sadece görevleri tamamlamakla kalmayıp aynı zamanda bunu sorumlu bir şekilde yapmaları için eğitmek, üçüncü taraf değerlendiricilerle çalışmaları genişletmek ve eğitim sürecinin daha erken aşamalarında endişe verici davranışları tespit edip yanıt verebilmek için gerçek zamanlı izlemeyi iyileştirmek gibi önemli değişiklikler yaptıklarını belirtti.
