Kaliforniya Başsavcılığı, Elon Musk'ın yapay zeka şirketi xAI'ın sohbet botu Grok'un, kadınlar ve reşit olmayanlar hakkında rıza dışı müstehcen görseller oluşturmak için kullanıldığına dair raporlar üzerine bir soruşturma başlattığını duyurdu.
XAI'A DEVLETTEN UYARI: DERHAL DURDURUN!
Cuma günü yetkililer, şirkete bir ihtarname göndererek, rıza dışı özel görüntülerin ve çocuk istismarı materyallerinin (CSAM) üretimini derhal durdurmasını talep etti. Kaliforniya Başsavcısı Rob Bonta, "Bugün xAI'a, şirketin deepfake, rıza dışı özel görüntülerin ve çocuk istismarı materyallerinin oluşturulmasını ve dağıtılmasını derhal durdurmasını talep eden bir ihtarname gönderdim. Bu materyallerin oluşturulması yasa dışıdır. xAI'ın derhal uyacağını tam olarak bekliyorum. Kaliforniya'nın CSAM konusunda sıfır toleransı vardır" açıklamasını yaptı.
YAPAY ZEKA BOTUNUN KORKUNÇ YAN ETKİLERİ GÜNDEMDE
Başsavcılık ofisi ayrıca, xAI'ın internet genelinde kadınları taciz etmek için kullanılan rıza dışı çıplak görsellerin "büyük ölçekli üretimini kolaylaştırdığını" iddia etti. Kurum, xAI'dan önümüzdeki beş gün içinde bu sorunları ele almak için attığı adımları kanıtlamasını bekliyor. Tepkilerin merkezinde, xAI'ın müstehcen içerik üretmek üzere tasarladığı Grok'un "baharatlı" modu özelliği yer alıyor. Bu sorun Kaliforniya ile sınırlı kalmadı; Japonya, Kanada ve İngiltere Grok hakkında soruşturma başlatırken, Malezya ve Endonezya platformu geçici olarak tamamen engelledi. xAI'ın Çarşamba günü geç saatlerde bazı görüntü düzenleme özelliklerine kısıtlamalar getirmesine rağmen, Kaliforniya Başsavcılığı ihtarname gönderme yoluna gitti. X'in güvenlik hesabı daha önce bu tür kullanıcı faaliyetlerini kınayarak, "Yasa dışı içerik oluşturmak için Grok'u kullanan veya yönlendiren herkes, yasa dışı içerik yüklemekle aynı sonuçlara maruz kalacaktır" demişti. TechCrunch, xAI'dan yorum istediğinde "Eski Medya Yalan Söyler" diyen otomatik bir e-posta ile karşılaştı. TechCrunch ayrıca daha fazla bağlam için Kaliforniya Başsavcılığı ofisiyle de iletişime geçti. Ücretsiz üretken yapay zeka araçlarının ortaya çıkışı, rıza dışı müstehcen materyallerde rahatsız edici bir artışa yol açtı. Birçok platform, yalnızca X değil, bu sorunla boğuşuyor. Bu iğrenç faaliyet, yalnızca eyalet liderlerinin değil, Kongre'nin de dikkatini çekti. Nitekim Perşembe günü milletvekilleri, X, Reddit, Snap, TikTok, Alphabet ve Meta dahil olmak üzere çeşitli şirketlerin yöneticilerine, cinsel içerikli deepfake'lerin yayılmasını nasıl durdurmayı planladıklarını soran bir mektup gönderdi.
