OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zeka (YZ) gelişimini sınırlamaya yönelik potansiyel yöntemleri ele aldığı yeni bir blog yazısı yayımladı. Pachocki, bu gelişim hızını ölçmek için "perplexity" adı verilen bir metriği öne sürdü. YZ gelişiminin yavaşlatılması konusu, daha önce OpenAI ve Anthropic'te görev yapmış bir araştırmacının şirketleri "hayatlarımızla kumar oynamakla" suçlamasının ardından daha fazla gündeme gelmişti. Anthropic'in halka arz başvurusunda da teknolojinin "toplum için yıkıcı veya varoluşsal riskler" oluşturabileceği belirtilmişti. Anthropic CEO'su Dario Amodei, "sınırı yavaşlatma" yönünde bir plan sunmuştu ve bu plan OpenAI CEO'su Sam Altman ile SpaceX CEO'su Elon Musk tarafından da desteklenmişti. Amodei, şirketlerin "ortak güvenlik standartları ve kontrolsüz YZ ilerlemesine sınırlar" konusunda anlaşması çağrısında bulunmuştu.
Perplexity 'hız' ölçütü olarak öne çıkıyorPachocki'nin "OpenAI'nin uzun süredir yayımladığı en önemli şey" olarak nitelendirilen yazısı, YZ gelişim hızı için "perplexity"nin bir ölçüt olabileceğini savunuyor. Perplexity, bir modelin ortalama olarak bir sonraki kelimeyi ne kadar iyi tahmin ettiğini ölçer; daha düşük perplexity daha iyi tahminler anlamına gelir. Pachocki, YZ'nin "nihai yeteneklerine" odaklanan mevcut kıyaslamaların teknolojinin ilerlemesiyle hızla eskidiğini belirtti. Ancak perplexity'nin "bilgilendirici" kaldığını vurguladı. Pachocki, yazısında OpenAI modellerinin perplexity değerinin GPT-3.5'ten bu yana nasıl düştüğünü gösteren bir grafik paylaştı. "GPT‑4, yaklaşık 0,91 ile, zincirleme düşünce akıl yürütmesini üretken bir şekilde kullanma konusunda yetkinlik gösterdi ve bu da sonraki hedefli yönlendirmeyi ve modern akıl yürütme modellerinin oluşturulmasını motive etti" diyen Pachocki, "Şimdi, kayıpların 0,8'in altına düşmesiyle, siber güvenlik ve matematik gibi alanlarda dönüştürücü yeteneklerin ortaya çıktığını gördük" diye ekledi. Ona göre perplexity, YZ şirketlerinin "ortak sınırlar" belirlemek için kullanabileceği "genel zeka için paylaşılan bir kıyaslama" temelini oluşturabilir. Bu standart ölçümle birlikte şirketler, "YZ davranışını anlama ve izleme yeteneğimiz belirli somut bir kilometre taşına ulaşana kadar" belirli bir eşiği aşmama taahhüdünde bulunabilir.
