Yapay zeka endüstrisi, teknolojisinin insanlık için varoluşsal bir tehdit oluşturup oluşturmadığı üzerine en yoğun tartışmasını yaşıyor gibi görünüyor.
Endişeler artıyor
Bu tartışma, yapay zeka araştırmacısı Jacob Coxon'un Anthropic'ten ayrıldığını açıklamasıyla başladı. Coxon, önde gelen yapay zeka şirketlerinin “hayatlarımızla kumar oynadığını” düşündüğünü belirtti. Ardından, Anthropic'in uyum lideri, “Gerçekten yapay zekanın tüm insanları öldürebileceğine inanıyoruz!” şeklinde bir paylaşımda bulundu. Bu kişi, ayrıca bu olasılığın “önümüzdeki on yıl içerisinde %10’dan fazla” olduğunu ifade etti.
Şirketlerin endişeleri ve IPO süreci
TechCrunch’ın Equity podcast'inde, bu son apokaliptik uyarılara dair görüşlerimizi paylaştık. Söz konusu tartışmada, bazı yapay zeka şirketlerinin bu tür endişeleri dile getirirken, aslında kendi teknolojilerinin ne kadar gelişmiş olduğunu da sergilemeye çalıştıkları düşünülüyor. Kimi meslektaşlar, bu uyarıların IPO sürecine nasıl etki edeceğini sorguluyor. “Anthropic’in S-1 dosyasında, ‘Tüm insanlığı ortadan kaldıracak bir şey geliştirme olasılığımız %10’dan fazla’ ifadesi yer alacak mı?” sorusu gündeme geliyor. Yapılan bu tartışmalar, yapay zeka alanında endişelerin yanı sıra, bu endişelerin şirketlerin iş çıkarlarına nasıl hizmet ettiğini de gösteriyor. Ancak, daha derin bir kontrol ve düzenleme ihtiyacı olduğu da açıkça ortada. Bu tür tartışmalar, yapay zekanın potansiyel zararları üzerine de eğilmeyi gerektiriyor.
