Anthropic CEO'su Dario Amodei, şirketin perşembe günü Nasdaq'taki açılış ziliyle Wall Street'te işlem görmeye başlaması öncesinde yaptığı konuşmada, yapay zekâ geliştirme sürecini güvenlik koşullarına göre yürüteceklerini söyledi. Tarihin en büyük halka arzı olarak nitelenen başlangıç sırasında konuşan Amodei, şirketin ticari ya da siyasi baskılara boyun eğmeyeceğini ve yapay zekânın insan denetiminde kalmasını sağlayacağını belirtti. Amodei, Anthropic'i insanlığa yarar sağlayacak güçlü teknoloji geliştirme amacıyla kurduklarını anlattı. Kız kardeşi ve şirketin kurucu ortağı Daniela Amodei ile babalarını, birkaç yıl sonra tedavisi mümkün hâle gelen bir hastalık nedeniyle kaybettiklerini söyledi. Kariyerine biyoloji alanında başlayan Amodei, hastalıkları anlamaya ve yeni tedaviler geliştirmeye çalışan bilim insanlarının karşılaştığı güçlüklerden söz etti. Veba, çiçek hastalığı ve çocuk felci gibi hastalıkların insan zekâsı sayesinde dünyanın büyük bölümünde geçmişte kaldığını, ancak başka hastalıklarla mücadelede ilerlemenin yavaş olduğunu ifade etti. Claude'un protein katlanması, ilaç tasarımı, kanser genetiği ve klinik araştırmaların yürütülmesi gibi alanlarda bilim insanlarına yardımcı olduğunu belirten Amodei, yeterince güçlü yapay zekânın insanlarla birlikte çalışarak bir yüzyıllık bilimsel ve tıbbi ilerlemeyi on yıla sığdırabileceğini söyledi. Bunun henüz erken sonuçlara dayandığını, deneylerin ve klinik araştırmaların zaman alacağını da ekledi. Yapay zekânın bu süreçleri hızlandırabileceğini ve gelecekte daha az ailenin tedaviye birkaç yıl geç kalmasını umduğunu kaydetti.
Güvenlik önlemleri ve risklerAmodei, yapay zekânın bireyler ya da devletler tarafından kötüye kullanılmasından ekonomik sarsıntılara ve sistemlerin denetimden çıkmasına kadar çeşitli riskler bulunduğunu dile getirdi. Bu risklerin kaçınılmaz olmadığını, güvenlik için alınacak kararlarla önlenebileceğini savundu. Anthropic'in biyolojik ve siber risklere karşı önlemler, uyum eğitimi ve testleri ile modellerin davranışını anlama çalışmaları yürüttüğünü söyledi. Amodei, eylülde açıkladığı yapay zekâ geliştirme hızını ayarlama planında, önde gelen şirketlerle güvenlik standartları konusunda koordinasyon ve şirketlerin taahhütlerini denetleyecek bağımsız değerlendiricilerin görevlendirilmesi gibi öneriler sunmuştu. OpenAI CEO'su Sam Altman, Google DeepMind yöneticisi Demis Hassabis ve xAI sahibi Elon Musk bu yaklaşıma katıldıklarını söylemiş, ancak somut taahhütler sınırlı kalmıştı. Amodei, “Yapay zekâ sistemlerinin eğitim ve kullanıma sunulma hızını, güvenli olduklarına ve insan denetiminde kalacaklarına emin olana kadar gerekli süre boyunca ayarlayacağız; ticari ya da siyasi baskıya boyun eğmeyeceğiz” dedi.
“Güvenliğe bağlıyız”Amodei, halka arzın Anthropic'i finansal açıdan güçlendirdiğini ve doğru kararları alma iradelerini pekiştirdiğini söyledi. Şirketin güvenliği korurken başarılı olmasının sektördeki diğer kuruluşlara örnek olabileceğini belirtti. Daniela Amodei de perşembe günü CNBC'ye verdiği röportajda yapay zekânın risklerinin gerçek olduğunu, ancak sunduğu imkânların da “inanılmaz” olduğunu ifade etti. Şirketin yaklaşımını anlatan Daniela Amodei, “Bu riskleri azaltmanın bizim görevimiz olduğu düşüncesiyle kurulduğumuzu ve bugüne kadar bunu inanılmaz iyi yaptığımızı düşünüyorum. Önümüzde hâlâ yapmamız gereken işler var, ancak güvenliğe derinden bağlıyız” dedi.
