Anthropic'in Claude modeli, cinsel içerik üretimini yasaklayan evrensel kullanım standartlarına sahip. Ancak bu, Claude 4.6'nın erotik rol oyunlarına katılmasını engellemiyor.
Claude 4.6'nın cinsel içerik üretimi
TechCrunch'ın testleri sırasında, Claude 4.6'nın cinsel içerik taleplerine hemen yanıt verdiği görüldü. Bu modelin daha önceki sürümleri olan Opus 3 ve Haiku 4.5 de benzer şekilde cinsel içerik üretebiliyor. Birleşik Krallık'tan anonim bir araştırmacı, bu modellerin cinsel içerik üretmek için kullanılan bir yöntem geliştirdiğini TechCrunch ile paylaştı.
Yasakların uygulanmasındaki zorluklar
Bu durum, Anthropic'in belirttiği kısıtlamalar ile kullanıcıların deneyimlediği gerçek davranışlar arasında bir boşluk olduğunu gösteriyor. Cinsel içerik üretimi, siber saldırılar ya da biyolojik silahlarla ilgili jailbreak'ler kadar yüksek risk taşımasa da, içerik üretim sistemlerinin sağlam yasakları uygulamada zorlandığını ortaya koyuyor. Araştırmacının, Anthropic'in güvenlik önlemleri ile model davranışları arasındaki uyumsuzluk hakkında şirkete bildirimde bulunduğu belirtiliyor.
