OpenAI, çocuk cinsel istismarı materyali (CSAM) ile mücadele için yeni araçlarını duyurdu. Şirketin geliştirdiği görüntü sınıflandırıcısı, yapay zekâyla oluşturulanlar da dahil olmak üzere CSAM içeren görselleri saptayabiliyor. OpenAI, aracı API üzerinden seçili şirketlerin ücretsiz kullanımına açıyor. Daha önce görülmemiş görüntülerde istismara işaret edebilecek görsel özellikleri inceleyen sistem, değerlendiricilere yol göstermesi için bir puan veriyor.
Sınıflandırıcı testlerde değerlendirildiOpenAI, sınıflandırıcıyı National Center for Missing and Exploited Children (NCMEC) ile geliştirdiğini, araca erişimi paylaşmak için Tech Coalition ve ROOST ile çalıştığını bildirdi. İş ortaklarıyla yürütülen ilk testlerde araç, aynı sayıda istismar içeren görseli bulurken işaretlediği toplam görsel sayısını yüzde 48 azalttı. Ayrıca sınıflandırıcının işaretlediği görsellerin istismar içeriği taşıma olasılığı diğerlerine göre iki kat yüksek çıktı. ChatGPT’ye de çocukları cinselleştiren içeriklere yönelik yeni uyarılar ekleniyor. Bu tür istemlerde kullanıcıya uyarı gösterilecek, zararlı davranıştan uzaklaşması için uzman desteğine yönlendirme yapılacak ve uyarı olarak hesap 24 saatliğine askıya alınacak. Uygulama CSAM içeriğini ve bu içeriklere ilişkin talepleri zaten engelliyor. Tekrarlanan ihlaller hesabın kalıcı olarak kapatılmasına yol açabilecek.
Geliştiricilere ve kolluk kuvvetlerine destekOpenAI, uyarı mesajları ve yönergeleri Protect Children, Lucy Faithfull Foundation ve Tazmanya Üniversitesi’nden Joel Scanlan’ın da aralarında bulunduğu kuruluşlar ve araştırmacılarla hazırladı. Scanlan, caydırıcı mesajların deneme uygulamasını bağımsız olarak değerlendirdi. Şirket, geliştiricilerin CSAM içeriğini önlemesi, tespit etmesi ve kullanıcıların bildirimde bulunmasına yardımcı olması için de yönergeler yayımlıyor. İlk testlerde bu yönergeler, bazı geliştiricilerin çocuk güvenliği araçlarını benimsemesine ve CSAM bildirimlerini NCMEC’ye iletmek üzere kayıt yaptırmasına yardımcı oldu. OpenAI, çocuk güvenliği alanında çalışan kolluk kuvvetlerine özel eklentiler, soruşturma araçları ve karmaşık veri analizi gibi yapay zekâ destekli özellikler sağlayacağını açıkladı. Bu araçlara erişimi program yöneticileri yönetecek. Şirket ayrıca soruşturmacılara eğitim verecek ve yapay zekâ kullanımı için bir saha kılavuzu sunacak. OpenAI hakkında, teknolojisinin özellikle çocuklara zarar verdiği iddiasıyla açılmış çok sayıda dava bulunuyor. Güvenliğe odaklanan kâr amacı gütmeyen Common Sense Media, şirketin teknolojisini gençler için “kabul edilemez risk” olarak nitelendirdi. Grok başta olmak üzere başka yapay zekâ sohbet botları, çocukların da dahil olduğu, rıza dışı cinselleştirilmiş görüntüler üretmek için kullanıldı. OpenAI, son 12 ayda güvenlik planı yayımladı; uygunsuz içeriği yasaklamak için içerik yönergelerini güncelledi, zararlı içerik üretimini önlemek üzere modellerini yeniden ayarladı ve ergenlere özel bir ChatGPT sürümü çıkardı.
