Meta, 2026 yılının ilk yarısında Facebook ve Instagram'da 33,2 milyon adet çocuk cinsel istismarı içeriğine karşı işlem yaptı. Bu dönemde şirket, yasa dışı çocuk istismarı materyaline gizlice yönlendirme amacıyla kullanılabilecek reklamları ve hesapları tespit etmek için yeni yapay zeka (YZ) araçlarını kullanıma sundu. Şirketten yapılan açıklamaya göre, Meta'nın müdahale ettiği içeriğin yüzde 97'sinden fazlası, kullanıcılar tarafından bildirilmeden önce sistemleri tarafından tespit edildi.
'İşaret etme' taktiğini önleme
Meta'nın son YZ araçları, masum görünen reklamları kullanarak kullanıcıları Meta platformları dışındaki yasa dışı içeriklere yönlendiren kişileri hedef alıyor. Şirket, 'işaret etme' olarak adlandırdığı, normal görünen ancak kullanıcıları çevrimiçi başka yerlerdeki yasa dışı içeriklere veya zararlı faaliyetlere yönlendirdiği şüphelenilen reklamları tespit etmek için yeni bir büyük dil modeli (LLM) sistemi tanıttı. Meta, kötü niyetli kişilerin tespitten kaçınmak için yöntemlerini değiştirmesiyle bu taktiği son zamanlarda yaygın olarak kullandığını belirtiyor. Reklamların kendisi yasa dışı materyal içermese de, çocuk cinsel istismarı materyali barındıran web sitelerine bir geçit görevi görebiliyor. Bu nedenle Meta, artık yalnızca reklamın içeriğine değil, aynı zamanda reklamın kullanıcıları nereye gönderdiğine de bakıyor. Bu bilgiyi, kurallarını ihlal eden web sitelerini veya diğer hedefleri engellemek ve arkasındaki hesaplara karşı işlem yapmak için kullanabiliyor.
Güvenlik önlemlerini test eden yapay zeka
Meta, daha önceki sistemlerin gözden kaçırmış olabileceği çocuk istismarı içeriklerini bulmak için ek YZ destekli taramalar da kullanıyor. Şirket, bu ağların nasıl çalıştığına dair daha fazla bilgi edindikçe yeni sinyaller eklemeye devam edeceğini belirtti. Yeni bir araç ise Meta'nın kendi güvenlik önlemlerini test eden bir 'kırmızı takım yapay zeka ajanı'. Bu ajan, kötü niyetli kişilerin şirketin korumalarından sıyrılmak için kullanabileceği zayıflıkları arıyor. Meta, bunun yeni istismar yöntemlerini yaygınlaşmadan önce bulmasına yardımcı olabileceğini ifade etti. Ek olarak şirket, önceki hesapları kaldırıldıktan sonra yeni hesaplarla platformlarına geri dönen kişileri bulmak için sistemlerini iyileştiriyor. Bu yeni tedbirler, Meta'nın platformlarındaki çocukların güvenliği konusunda baskı altında kalmaya devam ettiği bir dönemde geliyor. Şirket, sosyal medya hizmetlerinin genç kullanıcılar için oluşturabileceği riskler konusunda davalar ve milletvekillerinden eleştirilerle karşı karşıya kaldı. Ağustos ayında Meta, 29 ABD eyaletini kapsayan bir çocuk güvenliği davasını sonuçlandırmak için 18 milyar dolara kadar ödeme yapmayı kabul etti.
