Yapay zeka alanının önde gelen oyuncularından Anthropic, geliştirdiği yeni nesil yapay zeka sistemlerinin insan kontrolünü aşabilecek bir potansiyele sahip olduğu yönünde ciddi bir uyarıda bulundu. Şirketin popüler Claude modeline ilişkin son analizler, sistemin kendi kodunun %80'inden fazlasını yazabilir hale geldiğini ortaya koyuyor. Bu oran, yalnızca geçen yılın başlarında %10'un altındaydı.
ÖZYİNELEMELİ GELİŞİM TEHLİKESİ
Anthropic yetkilileri, bu baş döndürücü gelişimin 'özyinelemeli kendini geliştirme' (recursive self-improvement) olarak adlandırılan kritik bir sürece işaret ettiğini belirtiyor. Bu durum, gelecekte yapay zekanın kendi haleflerini tasarlayabilecek bir seviyeye ulaşabileceği anlamına geliyor. Şirketin araştırmacılarından Marina Favaro ve Jack Clark'ın paylaştığı blog yazısı, bu trendin hem büyük bilimsel ve teknolojik sıçramalara yol açabileceğini hem de kontrol mekanizmalarını ciddi şekilde zorlayabileceğini vurguluyor.
YAVAŞLAMA VEYA DURMA ÇAĞRISI
Metinde öne çıkan bir diğer nokta ise, yapay zeka geliştirme süreçlerinin artık kısmen yapay zeka sistemlerine devredildiği ve bunun, insan müdahalesi olmaksızın kendi kendini geliştirebilen modellerin önünü açabileceği. Anthropic, bu sürecin kontrolsüz ilerlemesi halinde insanların yapay zeka sistemleri üzerindeki denetimini tamamen kaybedebileceği uyarısında bulunurken, gelişimin kontrollü ilerlemesi için 'gerekirse yavaşlama veya duraklama' gibi radikal seçeneklerin dahi masaya yatırılması gerektiğini savunuyor. Böyle küresel bir yavaşlatma kararının hayata geçirilmesinin ise birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının ortak iradesini gerektirecek kadar karmaşık bir süreç olduğu da ekleniyor. Daha önce de benzer moratorium çağrıları yapılmış olsa da, bu çağrılar somut bir duraklamaya dönüşmemişti.
