Yapay zeka teknolojilerinin genç nesiller üzerindeki etkilerine dair endişeler artarken, OpenAI, ChatGPT'ye "yaş tahmini" özelliğini entegre etti. Bu yeni özellik, reşit olmayan kullanıcıları tespit ederek sohbetlerine uygun içerik kısıtlamaları getirmeyi amaçlıyor.
GENÇ KULLANICILARA YÖNELİK KORUMALAR ARTIRILIYOR
OpenAI, son yıllarda ChatGPT'nin çocuklar üzerindeki potansiyel etkileri nedeniyle yoğun eleştirilerle karşı karşıya kaldı. Hatta bir dizi genç intiharı bu sohbet botuyla ilişkilendirildi. Diğer yapay zeka sağlayıcıları gibi OpenAI de, ChatGPT'nin reşit olmayan kullanıcılarla cinsel içerikli konuları tartışmasına izin vermekle eleştirilmişti. Geçtiğimiz Nisan ayında şirket, 18 yaş altındaki kullanıcılara erotik içerikler üretebilen bir hatayı düzeltmek zorunda kalmıştı. Şirket, bu "reşit olmayan kullanıcı" sorununu bir süredir ele alıyordu ve yeni "yaş tahmini" özelliği, mevcut korumalara ek bir katman oluşturuyor.
YAŞ TAHMİNİ NASIL ÇALIŞACAK?
Salı günü yayınlanan bir blog yazısında OpenAI, yeni özelliğin, genç kullanıcıları belirlemek amacıyla belirli "davranışsal ve hesap seviyesi sinyallerini" değerlendiren bir yapay zeka algoritmasını kullandığını belirtti. Şirkete göre bu "sinyaller" arasında kullanıcının belirttiği yaş, hesabın ne kadar süredir aktif olduğu ve hesabın genellikle günün hangi saatlerinde kullanıldığı gibi bilgiler yer alıyor. Şirket halihazırda 18 yaş altı kullanıcılar için cinsellik, şiddet ve diğer potansiyel olarak sorunlu konuları filtreleyen içerik filtrelerine sahip bulunuyor. Yaş tahmin mekanizması bir hesabı 18 yaş altı olarak tanımlarsa, bu filtreler otomatik olarak devreye giriyor. Yanlışlıkla reşit değil olarak işaretlenen bir kullanıcı, "yetişkin" hesabını yeniden etkinleştirmek için bir yol izleyebilir. OpenAI'ye göre bu kişiler, kimlik doğrulama ortağı Persona'ya bir selfie gönderebilirler.
