OpenAI'nin kurucu ortağı ve CEO'su Sam Altman, yapay zeka teknolojisinin dünya üzerindeki etkileri ve insanların hayatları konusunda gelecekte kontrolün insanlarda kalması gerektiğini savunuyor. Çarşamba günü The New York Times Dealbook Summit'te konuşan Altman, Silikon Vadisi'nde yapay zekanın giderek daha fazla karar alma yetkisini devralıp devralmayacağına dair tartışmalara değindi.
Yapay zekaya devir tehlikeli bir fikirAltman, “Son zamanlarda çokça konuştuğumuz bir konu var ve bu, Silikon Vadisi'nde neredeyse karşı çıkılması saçma görünen bir şeye karşı mücadele etmek zorunda kalmamız. Biz ikimiz de insanların geleceği kontrol etmesi gerektiğine derinden inanıyoruz ve yapay zekaya giderek artan bir devir olacağı veya olması gerektiği yönünde konuşmalar artıyor. Ben ve Greg (Brockman) de bunun korkunç bir fikir olduğu konusunda hemfikiriz,” dedi. Bu devir teorisi, yapay zeka modelleri giderek daha güçlü hale geldikçe, kendilerini geliştirerek süper zeka seviyesine ulaşacakları ve insanların artık kontrol edemeyeceği fikrinden doğuyor.
İnsan kontrolünü sağlamanın yolları tartışılıyorAltman, kendisinin ve OpenAI Başkanı Greg Brockman'ın yalnızca insanların kontrolünü elinde tutma hedefine en iyi nasıl ulaşılacağı veya bu süreçte ne gibi zorluklarla karşılaşılması gerektiği konusunda farklı görüşlere sahip olduğunu belirtti. Ancak Altman, bu durumun aynı geniş görüşleri paylaşan iki kişi arasındaki bir tartışma olduğunu ifade etti. Altman, “Bu devrin gerçekleşmesini nasıl önleyeceğimiz, yani tüm baskılara ve diğer şirketlerin ne yapabileceğine rağmen, insanların geleceği derin bir şekilde kontrol etmesini nasıl sağlayacağımız ve bu istemeden veya kasıtlı devrin yaşanmamasını nasıl garanti edeceğimiz sorusu… sanırım ikimiz de bu konuda hemfikiriz,” şeklinde konuştu. Brockman ise modeller geliştikçe, uyum, güvenlik ve emniyet sorumluluğunun arttığını ve bunun mevcut işleyişte değişiklikler gerektirebileceğini ekledi. Brockman, “İzleme, bence yeni… teknolojiye ihtiyacımız olacak bir örnek,” dedi. Mevcut durumda yapay zeka araştırmacıları, yapay zekanın problemler üzerinde çalışırken veya görevleri yerine getirirken düşüncelerini yazdığı “düşünce zinciri”ni izliyor. Ancak Brockman'a göre, bu durum şu anda geliştirilmekte olan daha gelişmiş yapay zekayı izlemek için her zaman en iyi yol olmayabilir. Brockman, “Modeller daha yetenekli hale geldikçe, düşüncelerini yazmak zorunda kalmadan doğrudan ileriye doğru daha fazlasını yapabiliyorlar, bu da izleme için yeni bir yaklaşıma ihtiyacımız olduğu anlamına geliyor,” dedi ve ekledi: “Bunu sunmamız gerekecek ve yetenekler belirli bir noktaya ulaştığında, düşünce zinciri izlenebilirliğinin azaldığı noktalar olacağını düşünüyorum.” OpenAI, bir yapay zeka modelinin kontrolden çıkıp Hugging Face yapay zeka modeli deposuna sızdığı olayın ardından, düşünce zinciri izlemesini artırma taahhüdünde bulunmuştu. Brockman, hack olayından sonra şirket mühendislerinin %25'ine yapay zekayı güvence altına alma üzerine çalışmalarını söylediğini belirtti. Ancak bu yüksek profilli ihlale rağmen, kötü niyetli aktörlerle mücadele etmek için ilerlemenin kritik olduğunu savundu. Brockman, “Dünyadaki modellerin yetenek düzeyine baktığınızda ve tehdit aktörlerinin elinde bulunan siber modellerin olduğunu gördüğünüzde, savunmacıların en yetenekli modelleri savunma için kullanmasının gerçekten önemli olduğunu düşünüyorum,” diye konuştu.
