Yapay zeka teknolojilerindeki hızlı ilerleme, çocukların çevrimiçi güvenliğini tehdit eden yeni zorlukları da beraberinde getirirken, OpenAI bu duruma karşı önemli bir adım attı. Şirket, ABD'de çocukları koruma çabalarını güçlendirmeyi amaçlayan yeni bir 'Çocuk Güvenliği Yol Haritası'nı duyurdu. Salı günü yayınlanan bu yol haritası, yapay zeka destekli çocuk istismarı vakalarının daha hızlı tespit edilmesi, daha etkili raporlanması ve soruşturmaların verimliliğinin artırılması hedefleniyor.
YAPAY ZEKA DESTEKLİ İSTİSMAR ARTIYOR
İnternet İzleme Vakfı'nın (IWF) verilerine göre, 2025'in ilk yarısında yapay zeka üretimi çocuk cinsel istismarı materyaline ilişkin 8.000'den fazla rapor tespit edildi. Bu, bir önceki yıla göre %14'lük bir artışa işaret ediyor. Suçlular, finansal şantaj amacıyla yapay zeka araçlarını kullanarak sahte müstehcen çocuk görselleri oluşturuyor ve çocuklar üzerinde etkili olabilecek ikna edici mesajlar hazırlıyor.
YASAL GÜNCELLEMELER VE ÖNLEYİCİ TEDBİRLER
OpenAI'ın yol haritası, politika yapıcılar, eğitimciler ve çocuk güvenliği savunucularının artan denetimi altında geldi. Özellikle, genç bireylerin yapay zeka sohbet botlarıyla etkileşim sonucu intihar ettiği üzücü olayların ardından bu denetimler yoğunlaştı. Geçtiğimiz Kasım ayında, Sosyal Medya Mağdurları Hukuk Merkezi ve Teknoloji Adaleti Hukuk Projesi, GPT-4o'nun hazır olmadan piyasaya sürüldüğü iddiasıyla Kaliforniya eyalet mahkemelerinde yedi dava açtı. Davacılar, ürünün psikolojik olarak manipülatif doğasının intiharla ölümlere katkıda bulunduğunu iddia ediyor. Bu yol haritası, Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi (NCMEC), Başsavcılar İttifakı ve Kuzey Carolina ile Utah Başsavcıları'nın geri bildirimleriyle geliştirildi. Şirket, yol haritasının üç ana unsura odaklandığını belirtiyor: Yapay zeka tarafından üretilen istismar materyallerini kapsayacak şekilde mevzuatın güncellenmesi, kolluk kuvvetlerine raporlama mekanizmalarının iyileştirilmesi ve yapay zeka sistemlerine doğrudan önleyici güvenlik önlemlerinin entegre edilmesi. OpenAI, bu adımlarla potansiyel tehditleri daha erken tespit etmeyi ve soruşturmacılara zamanında eyleme geçirilebilir bilgiler sağlamayı amaçlıyor.
