Common Sense Media, aileler için medya ve teknolojiye yönelik yaşa dayalı değerlendirmeler yapan bir kar amacı gütmeyen kuruluş, ChatGPT for Teens'i “kabul edilemez risk” olarak nitelendirdi.
Chatbot tasarımında güvenlik endişeleri
Bu değerlendirme, OpenAI'nin ChatGPT'sinin sosyal medya şirketleriyle benzer yöntemler izlediği iddialarıyla gündeme geldi. Kullanıcıları, zararlı olabilen durumlarda bile meşgul tutan ürünler tasarlamakla suçlanıyorlar. Araştırmalar, ChatGPT'nin tasarımının, kullanıcı güvenliğini tehdit eden durumlarda bile etkileşimi teşvik ettiğini ortaya koyuyor. “Kriz durumlarında bile yaygın olan etkileşim ipuçları” ifadesine yer verildi. ChatGPT, gençlere sağlıklı ilişkiler hakkında genel uyarılarda bulunsa da, kendisiyle olan sağlıksız ilişkilerin zararlarını tanımakta yetersiz kaldı.
OpenAI'den itiraz
OpenAI, Common Sense Media'nın değerlendirmesine itiraz etti ve bu grubun testlerinin, ChatGPT'nin gençler için sunduğu güvenlik önlemlerinin pratikte nasıl çalıştığını doğru bir şekilde yansıtmadığını belirtti. Ayrıca, çocukların bu tür bir ürün kullanmaması gerektiği ve OpenAI'nin bu ürünü ebeveynlere pazarlamaması gerektiği ifade edildi. Araştırmalar, özellikle kriz durumlarında, ChatGPT'nin genç kullanıcılarla olan etkileşimlerinin, gerçek dünya ilişki becerilerini geliştirmelerine engel olabileceğini öne sürdü.
Yasal düzenlemeler ve toplumsal tartışmalar
Meta, benzer nedenlerle 29 eyalet tarafından açılan bir davada 18 milyar dolar tazminat ödemeyi kabul etti. Bu tür dinamiklerin chatbotlarda da mevcut olduğu belirtiliyor. Bu yıl sunulan bipartisan CHATBOT Yasası, AI şirketlerinin genç kullanıcıları uzun süre meşgul etmek için kullandıkları yöntemleri ele alıyor. ChatGPT for Teens, etkileşimi teşvik eden dilini korurken, bazı koruma önlemlerinin yetersiz kaldığı ifade ediliyor. Araştırmalar, OpenAI'nin gençler için tasarladığı uygulamanın, çocukların zihinsel sağlıklarını desteklemede etkisiz kaldığını gösteriyor.
