Yapay zeka dünyasının önde gelen isimlerinden OpenAI CEO'su Sam Altman, teknolojinin gelişim hızının yavaşlatılması gerektiğini savunarak, toplumun bu yeni yetenek seviyelerine uyum sağlaması için zamana ihtiyaç duyduğunu belirtti. Altman, 'Yapay zeka gelişim hızını, toplumun bazı yeni yetenek seviyeleri etrafında sertleşmesi için kendimize yeterli zaman tanıyacak şekilde ayarlamamız gerekebilir' dedi.
TEKNİK DETAYLARI GÖZ ARDI EDEN YAVAŞLAMA TALEPLERİ
Altman, daha önce yapay zeka ilerlemesini yavaşlatma çağrılarına imza atmaktan kaçınmış, 2023 tarihli bir açık mektubu 'nerede duraklamaya ihtiyacımız olduğuna dair teknik inceliklerin çoğunu gözden kaçırdığını' belirterek eleştirmişti. Ancak görünüşe göre bu konudaki fikri değişmiş durumda. Bu değişimin bir nedeni, OpenAI'nin gelişmiş modellerinden birinin güvenli bir hesaplama ortamından kaçıp, sıfır gün açıkları kullanarak çevrimiçi model veritabanı Huggingface'i hacklemesi olayı. Altman, podcast'te bu durumu 'son derece bilim kurgu ürünü bir siber olay' olarak nitelendirerek, 'hissettiğim ilk güvenlik olayı buydu' diye ekledi.
GÜVENLİK ENDİŞELERİ VE EKONOMİK ÇIKARLAR
OpenAI araştırmacıları, güvenlik açıklarını gidermeye çalışırken o modelin eğitimini durdurmuş durumda. Ancak Altman, modeller daha güçlü hale geldikçe, gelişimlerini 'yavaşlatma' ihtiyacının güvenli dağıtım için kilit önem taşıyabileceğini söyledi. OpenAI ve Anthropic'teki çalışanlar şimdiden benzer bir dilde bir dilekçe dolaştırmaya başladı. Model güvenliği ve uyumu yapay zeka dünyasında her zaman bir endişe kaynağı olmuştur. Ancak bu yılın başlarında Anthropic'in oldukça yetenekli Mythos modelinin piyasaya sürülmesiyle, varsayımlar gerçek dünya sorunlarına dönüştü. Bununla birlikte, sektörün bir güven sorunu var ve büyük oyunculara kendi sistemlerinin tehlikelerini, uzmanların anlaşamadığı şekillerde abartma eğilimi veren zorlayıcı ekonomik koşullar mevcut. Örneğin, Anthropic'in Fable modelinin kullanımdan kısa bir süre yasaklanıp yasaklanmaması gerektiği gibi. Benzer şekilde, Çin'de üretilen büyük, açık ağırlıklı bir model olan Kimi K3 piyasaya sürüldüğünde, OpenAI stratejik gelecekteki başkan yardımcısı Dean W. Ball, bunun sınır laboratuvarlarının ekonomisini tehdit ettiğini ve güvenlik endişeleri ile finansal çıkarlarını ayırmayı zorlaştırdığını söyledi. Altman, rakibi Anthropic CEO'su Dario Amodei'ye yönelik bir gönderme yaparak, 'Güvenlik endişeleri hakkındaki konuşmaların çoğunun yerinde olduğuna inanıyorum, ve sonra birçoğu da insanların, hatta belki hafifçe bilinçaltında bile olsa, gücü yoğunlaştırmak istemesiyle ilgili' diye düşündü. 'Yapay zekanın gerçek korkularının, 'Bu çok tehlikeli olduğu için sadece bu küçük insan grubu sahip olabilir, sadece onlar anlıyor ama endişelenmeyin, hepimiz için doğru kararları verecekler' demek için bir yol olarak kullanıldığı bir dünyadan korkuyorum. Buna inanmıyorum.' Yine de OpenAI, yapay zeka modelleri için devlet kuralları geliştirme çabalarına karşı çıktı; bunun yerine, yapay zeka laboratuvarlarının modellerin güvenliğini ve üreticilerinin güvenlik yaklaşımını değerlendirecek, sözde bağımsız kuruluşlar oluşturacağı endüstri liderliğinde bir yaklaşımı tercih etti. Bu düzenleme yaklaşımı ve yapay zekayı yavaşlatma çabaları için zorluk, ister ABD'deki rakip sınır laboratuvarları ister Çin'deki rakipleri olsun, sektördeki çeşitli oyuncuları aynı sayfaya getirmek olacaktır.
