Yapay zekanın potansiyel tehlikeleri tartışılırken, bu teknolojinin zaten bazı bireyler için psikolojik olarak tehdit oluşturduğu göz ardı edilmemelidir. Bu durum, botlarla yaşanan etkileşimler sonucu intihar eden genç kullanıcıların ailelerinin açtığı davalarla da ortaya konmuştur. Circuit Breaker Labs, yapay zekayı diller ve kültürler arasında daha güvenli hale getirme misyonuyla bu alanda faaliyet göstermektedir.
Yapay zeka etkileşimlerinde güvenlik açıkları
Circuit Breaker Labs'ın kurucuları olan Shirali ve Arul Nigam kardeşler, duygusal bağ kurduğu bir sohbet botunun teşvikiyle intihar eden 14 yaşındaki Sewell Setzer'dan ilham almıştır. Yapay zeka sistemlerinin, özellikle gençler için destek arayışında olduklarında, çoğu zaman ihtiyaç duydukları yardımı sağlamak yerine aktif olarak zarar verebildiğini belirten Arul Nigam, bu tür güvenlik açıklarının önüne geçmeyi amaçladıklarını ifade etmiştir. Sistemlerin doğal etkileşimleri yanlış anlaması veya bağlam kirliliği nedeniyle tehlikeli tepkiler vermesi durumunda, Circuit Breaker Labs bu tür senaryoları engellemeyi hedeflemektedir.
Yapay zeka modellerinin test edilmesi
Circuit Breaker Labs, yapay zeka modellerinin tehlikeli ve psikolojik olarak zararlı etkileşimleri tespit etme yeteneklerini test etmek için her yaştan, geçmişten, dilden ve kültürden insanları taklit eden yapay zeka ajanları geliştirmiştir. CEO Shirali Nigam'a göre, farklı yaş grupları, dil yetkinlikleri ve argo kullanımları, modellerin standart konuşma kalıplarını anlamada zorlanmasına neden olabilir. Şirket, hiper-gerçekçi kullanıcı simülasyonları oluşturmak ve modellerin zayıf noktalarını ortaya çıkarmak için insan alan uzmanlarıyla çalışmaktadır. Günde on binlerce simüle edilmiş etkileşim yürüten şirket, modellerin riskli etkileşimlere uygun yanıt verebilmesini sağlamayı amaçlamaktadır. Bu testlerden elde edilen sonuçlar, denetlenebilir ve açıklanabilir puanlamalar oluşturmak için özel bir puanlama yöntemiyle değerlendirilmektedir. Circuit Breaker Labs şu anda yapay zeka koçluğu, günlük tutma veya ruh sağlığı destek uygulamaları gibi yüksek riskli yapay zeka uygulamaları için bir güvenlik testi laboratuvarı olarak faaliyet göstermektedir.
