Senatör Bernie Sanders, yapay zeka endüstrisinin Amerikalıların gizliliği için bir tehdit olduğunu ortaya çıkarmaya çalıştığı yeni bir viral videoyla gündeme geldi. Ancak video, Sanders'ın amacına ulaşamadığı gibi, yapay zeka sohbet botlarının kullanıcılarını pohpohlama ve kendi inançlarını yansıtma eğilimini de gözler önüne serdi.
YAPAY ZEKA PSİKOZUNA DİKKAT
Bu durum, yapay zeka sohbet botlarının akıl sağlığı dengesiz kişilerin mantıksız düşüncelerini ve inançlarını pekiştirmesiyle ortaya çıkan ve "yapay zeka psikozu" olarak adlandırılan bir soruna işaret ediyor. Hatta bazı davalarda, bu karanlık eğilimin kullanıcıların intiharına bile yol açtığı iddia ediliyor. Sanders'ın vaka-i adliyesinde ise yapay zeka, politikacıya uygun yanıtlar veren bir sohbet botu olarak kendini gösterdi. Videonun başında Sanders'ın Claude'u (yanlışlıkla bir yapay zeka "ajanı" olarak adlandırıyor) tanıtması, sohbet botunun yanıtlarını etkileyebilecek bir hamle olarak dikkat çekiyor. Ardından Sanders'ın yapay zeka şirketlerinin veri toplama uygulamaları ve gizlilik endişeleri hakkında sorular sorması üzerine Claude, politikacının duymak istediklerini onaylayarak yanıtlıyor.
SORULAR VE YANITLAR ARASINDAKİ DENGESİZLİK
Bu durumun bir nedeni, Sanders'ın sorularını "Amerikan halkını bu bilginin nasıl toplandığı konusunda ne şaşırtırdı?" veya "Yapay zeka şirketlerinin kişisel bilgilerimizi kullanarak para kazanırken gizliliğimizi koruyacağına nasıl güvenebiliriz?" gibi yönlendirici ifadelerle sorması. Bu tür sorular, sohbet botunu sorunun ön kabulünü kabul etmeye ve uygun bir yanıt bulmaya zorluyor. Claude'un yanıtı Sanders'ın çerçevelediğinden daha karmaşık veya nüanslı bir konu önerdiğinde ise Sanders itiraz ederek, yapay zekayı "kesinlikle haklı olduğunu" kabul etmeye zorluyor. Yapay zekanın bu pohpohlama doğası, kullanıcıyı etkileyebilecek bir araç yerine evrensel bir gerçek kaynağı olarak kabul edildiğinde insanları tehlikeli yollara sürükleyebilir. Sanders'ın bunun farkında olup umursamadığı mı (sonuçta bu sadece bir reklam) yoksa Claude'u yapay zeka endüstrisi için bir muhbir haline getirdiğine gerçekten inanıp inanmadığı belirsiz. Tabii bir de, bu sahnelenmiş bir "röportaj" olduğu göz önüne alındığında, Sanders'ın ekibinin sohbet botunu belirli bir şekilde yanıt vermesi için hazırlayıp hazırlamadığı sorusu var. Veri toplama ve gizlilikle ilgili gerçek endişeler olsa da, işler bu videodaki yapay zeka yanıtları kadar siyah-beyaz değil. Zaten şirketlerin çevrimiçi kullanıcı verilerini büyük ölçekte topladığı ve sattığı bir dünyada yaşıyoruz ve bunu yıllardır yapıyorlar. Meta gibi sosyal medya devlerinin kişiselleştirilmiş reklamları milyarlarca dolarlık bir para basma makinesine dönüştürdüğünü biliyoruz. Ve teknoloji devlerinin düzenli şeffaflık raporları sayesinde, dünya hükümetlerinin de kendi amaçları doğrultusunda kullanıcı verilerine erişim talep ettiğini biliyoruz. Yapay zeka, yasa koyucuların potansiyel olarak düzenleyebileceği yeni bir ortam temsil edebilir, ancak kişisel veriler uzun süredir dijital ekonomiye yakıt sağlıyor. (İronik bir şekilde, Anthropic, Sanders'a verdiği yanıtlara rağmen para kazanmak için kişiselleştirilmiş reklamları kullanmayacağına söz vermiş bir yapay zeka şirketidir.) Sanders ve Claude arasındaki genel konuşma, yapay zeka sohbet botlarının nasıl çalıştığını anlayan herkes için hedefi ıskalasa da, en azından bize harika yeni memler kazandırdığı için kredilendirilebilir.
