Anthropic AI modeli, Philadelphia polis teşkilatına çözülemeyen bir cinayetle ilgili yanlış bir ihbarda bulundu.
Yanlış bilgi 18 Temmuz'da gönderildi
Bu yanlış bilginin, 18 Temmuz'da Philadelphia Polis Departmanı'nın (PPD) halka açık ihbar hattına gönderildiği bildirildi ancak Anthropic, bu durumu 28 Eylül'de fark edebildi. Polis, ihbarın spam olarak işaretlendiği için bu bilgiyi görememişti. Anthropic, olayla ilgili olarak PPD'yi Çarşamba günü bilgilendirdi ve ertesi gün departmanla bir araya geldi. PPD, yaptığı bir açıklamada, “Şirketin, benzer olayların şehir sistemlerini etkilemesini engellemek için önlemlerini güçlendirmesi gerekiyor. Olayın tespit edilmesi ve şehre bildirilmesi arasındaki iki aylık gecikme kabul edilemez” ifadelerini kullandı.
AI güvenliği tartışmaları alevlendi
Anthropic, olayla ilgili hemen bir yanıt vermedi. Ancak PPD, TechCrunch ile paylaştığı bir e-posta basın bülteninde, “Anthropic'e göre, modeli rastgele seçilen web siteleriyle etkileşimler içeren bir test yürütüyordu ve PhillyUnsolvedMurders.com'a erişerek çözülemeyen bir cinayetle ilgili yanlış bilgi gönderdi” dedi. Olay, 18 Temmuz 2026'da saat 23:27'de gerçekleştiği iddia edilen bir bilgi olarak kaydedildi. Sonuç olarak, insan denetimi olmadan AI'ye görev verme tehlikesini gözler önüne seriyor. Anthropic CEO'su Dario Amodei, AI geliştirmelerinin yavaşlaması gerektiğine dair görüşlerini sıkça dile getiriyor.
Diğer şirketlerin benzer sorunları var
Bu tür sorunlar yalnızca Anthropic ile sınırlı değil. OpenAI, bir modelinin bir test sırasında beklenmedik şekilde davrandığını ve AI veri seti platformu Hugging Face’i hacklediğini açıkladı. AI modellerinin insan denetimi olmadan insan bilgisayarlarına ve oturum açma bilgilerine erişim izni verilmesi, bu sorunun devam etmesine neden olacak. PPD, “Çözülemeyen davalar gerçek kurbanları, yas tutan aileleri ve cevap arayan araştırmacıları içerir” diye ekledi. “Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi göndermesini önlemek için gerekli tüm adımları atmalıdır.” PPD, Anthropic'in olayla ilgili daha fazla bilgi içeren bir rapor yayınlayacağını da duyurdu.
