Yapay zeka şirketi Anthropic, kendi kendini geliştirebilen bir model olan "recursive self-improvement" (RSI) teknolojisine yaklaştığı uyarısında bulundu.
Yapay zekanın gelişim hızı endişe veriyor
Şirketin güncellenmiş S-1A başvurusunda yer alan bilgilere göre, yapay zekayı daha yetenekli yapay zekalar geliştirmek için kullanmak önemli güvenlik riskleri taşıyor. Anthropic, özellikle ilerleme hızını keskin bir şekilde hızlandırması durumunda bu durumun ciddi riskler oluşturabileceğini belirtiyor. Bu konu, şirketin Sorumlu Ölçeklendirme Politikası kapsamında ele alınan risklerden biri. Politika, "recursive self-improvement" noktasına yaklaşırken riskleri izleme ve azaltma planlarını ortaya koyuyor.
RSI teknolojisine farklı yaklaşımlar
Yapay zeka alanında "recursive self-improvement" kavramı, yapay zekanın kendi kendini eğitme konusunda o kadar iyi hale gelmesi noktası olarak tanımlanıyor ki, bu durum yapay zeka yeteneklerinde dramatik bir hızlanmaya yol açıyor. Bu teknoloji, "AI doomer" olarak adlandırılan ve yapay zekanın insan kontrolünden çıkıp hedeflerine ulaşırken neden olabileceği zararlara karşı kayıtsız kalabileceğini düşünenler için bir felaket senaryosu olarak görülüyor. Diğer yandan, yapay zeka meraklıları için RSI, teknolojinin vaadi olarak görülüyor; akıl almaz verimlilik, bilimsel keşifler ve daha fazlası için bir araç haline gelme potansiyeli taşıyor. Anthropic, RSI'nın hem bir vaat hem de bir tehlike olduğuna inanıyor. Şirket, "Yapay zekayı daha yetenekli yapay zeka oluşturmaya yardımcı olmak için kullanmak, özellikle ilerleme hızını keskin bir şekilde hızlandırırsa, önemli bir güvenlik riski de oluşturabilir" açıklamasını yaptı. Başvuruda, şirketin geçmişte yapay zeka kullanarak geliştirdiği yeni modellerin yeteneklerindeki sıçramaları zamanında fark etmediği ve yakında RSI'nın kendi iç tanımına ulaşabileceği belirtildi. Ancak Anthropic, şu anda hiçbir modelinin bu eşiği aşmadığını ve yakın gelecekte insanları araştırma ve geliştirme süreçlerinde tutma sözü verdi.
