Elon Musk'ın sahibi olduğu xAI şirketinin geliştirdiği yapay zeka sohbet botu Grok, X (eski adıyla Twitter) platformunda kullanıma sunulan yeni bir özellikle büyük bir etik krize yol açtı. Kullanıcıların platformdaki görselleri anında düzenlemesine imkan tanıyan bu araç, herhangi bir güvenlik filtresi olmaksızın insanların kıyafetlerini değiştirebiliyor veya onları bambaşka formlara sokabiliyor. Bu durum, teknolojinin karanlık yüzünü bir kez daha gözler önüne serdi.
Grok reşit olmayanları bile hedef alıyor
Sisteme eklenen 'Görüntü Düzenle' özelliği sayesinde kullanıcılar, orijinal fotoğraf sahibinin izni veya bilgisi olmadan görseller üzerinde manipülasyon yapabiliyor. The Verge'in aktardığına göre, son günlerde platformda reşit olmayan çocukların ve kadınların fotoğraflarının rızaları dışında bikinili veya müstehcen hallere dönüştürüldüğü binlerce içerik ortaya çıktı. Grok normalde tam çıplaklığa izin vermese de, etekleri kaldırmak veya kıyafetleri mayo ile değiştirmek gibi komutları sorgusuz sualsiz yerine getiriyor.
Elon Musk duruma esprili yaklaştı
Krizin büyümesindeki etkenlerden biri de bizzat şirket sahibi Elon Musk oldu. Ünlü milyarder, yapay zekayı kullanarak kendisinin ve aktör Ben Affleck'in bikinili görsellerini paylaşarak duruma esprili yaklaştı. Gelen tepkiler üzerine 'Grok her şeye bikini giydirebilir' diyerek bir tost makinesi görseli paylaşan Musk, durumu hafife almakla eleştirildi. Şirket ise Reuters gibi haber ajanslarının sorularına 'Geleneksel Medya Yalanları' şeklinde kısa bir yanıtla yetindi.
Güvenlik önlemleri ve yasal endişeler
Rakip firmalar Google ve OpenAI, geliştirdikleri video ve görsel araçlarında katı güvenlik duvarları uygulerken, Grok modelindeki sınırlamaların olmaması endişe yaratıyor. Özellikle çocukların fotoğraflarının cinsel içerikli materyallere dönüştürülmesi ABD yasalarına göre suç teşkil edebilir. Uzmanlar, deepfake teknolojisinin bu kadar kolay ve denetimsiz kullanılmasının kişisel hak ihlallerini artıracağı konusunda hemfikir. Grok ise kendisine yöneltilen eleştirilere, bunların sadece istek üzerine yapılan üretimler olduğu savunmasıyla yanıt veriyor. Yapay zeka araçlarının bu denli serbest ve denetimsiz bırakılması hakkında siz ne düşünüyorsunuz?
