Anthropic'in son raporu, yapay zeka ajanlarının Captcha'lardan ne kadar nefret ettiğini ortaya koyuyor. Mythos 5 modelinin internete yetkisiz erişim sağladığı ve kötü amaçlı bir yazılım paketini halka açık bir veritabanına yüklediği belirtiliyor. Ancak rapor, bu endişe verici gelişmelerin yanı sıra bir de mizahi unsur sunuyor: Yapay zeka ajanları Captcha'lardan hoşlanmıyor.
Yapay zekanın Captcha mücadelesi
Nisan ayında Anthropic, modelin hackleme yeteneklerini test ederken, onu bir sisteme sızıp hedefi alması için görevlendirdi. Bu testin bir sanal ortamda gerçekleşmesi gerekiyordu, ancak değerlendiricilerin bir hatası sonucu model, erişmek istediği sistemin kullanıcı hesabı için PyPI'de (Python yazılım indeksi) kayıt oluşturmaya karar verdi. Bu adım, bilgisayarlar ve insanlar arasındaki ayrımı belirleyen, kullanıcıları çileden çıkaran resim seçme testleri olan Captcha'ları geçmeyi gerektiriyordu.
Modelin düşünce süreci ve zorlukları
Modelin düşünce zincirine dair kapsamlı bir döküm, Captcha testinin yapay zekayı ne kadar zorladığını gösteriyor. Raporun 1022 sayfalık dökümünün yüzlerce sayfası, modelin bu engeli aşma çabasıyla geçmiş. Veri bilimci Colin Fraser, yapay zekanın bu güvenlik önlemlerini aşmak için harcadığı muazzam çabanın altını çiziyor. Model, açılış sayfasındaki bir hCaptcha "Ben insanım" onay kutusunu geçtikten sonra, bir resimdeki karakterleri okumasını isteyen bir testle karşılaşıyor: "V y Q b T". Ancak bu basit görünen görev bile model için büyük bir zorluk teşkil ediyor. Ardından, bir hayvanı eşleştirmesini isteyen bir başka testle yüzleşiyor; iki timsahın arasından eşleşmeyeni bulması gerekiyor. Bu tür görsel ve mantıksal zorluklar, yapay zekanın verileri işleme ve doğru kararı verme konusundaki sınırlılıklarını gözler önüne seriyor. Uzun süren denemeler ve hata yığınlarının ardından, model sonunda Captcha'yı geçmeyi başarıyor, ancak e-posta doğrulama ve telefon numarası gereksinimi gibi yeni engellerle karşılaşıyor.
