Y Combinator CEO'su Garry Tan, Çinli yapay zeka laboratuvarlarının gelişmiş modellerden bilgi damıtma teknikleri kullanması konusunda düzenleyicilerin müdahale etmemesi gerektiğini belirtti. Hatta Tan, ABD'li yapay zeka laboratuvarlarının da benzer bir yol izlemesi gerektiğini düşünüyor.
Amerikan damıtma rejimi önerisi
Tan, TechCrunch'a yaptığı açıklamada, daha küçük ölçekli Amerikan açık ağırlıklı yapay zeka laboratuvarlarının, Amerikan öncü yapay zeka laboratuvarları üzerinde aynı eğitim tekniklerini kullanmasını istediğini ifade etti. Bu sayede, Çin'e ait olmayan, daha güçlü bir açık ağırlıklı model setine sahip olunabileceğini savundu. Damıtma, bir modelin başka bir modelin nasıl çalıştığını ve akıl yürüttüğünü öğrenmesi için onu yoğun bir şekilde sorgulamasından ibarettir. Yapay zeka laboratuvarları tarafından yeni modelleri eğitmek amacıyla yaygın ve meşru bir şekilde kullanılan bir yöntemdir. Anthropic bu hafta, Çinli laboratuvarların kimliklerini gizleyerek izinsiz damıtma yaptığına ve dolandırıcılık ile çalıntı kimlik bilgilerine başvurduğuna dair ikinci raporunu yayınladı. Anthropic CEO'su Dario Amodei daha önce ABD'li düzenleyicileri bu konuya müdahale etmeye çağırmıştı. Ancak Tan, bu konuda farklı bir görüşe sahip. Tan, ABD'li yapay zeka laboratuvarlarının çalıntı kimlik bilgileriyle damıtma yapmasını savunmuyor; bunun yerine kapıdan girmelerine izin verilmesini istiyor. Tan'a göre, yapay zeka laboratuvarlarının, modellerinin paylaştığı bilgilerle müşterilerinin ne yapabileceğini dikte etmesi bir aşırı müdahaledir. Ayrıca, özel yapay zeka laboratuvarlarının kendi modellerini eğitirken alabildikleri kadar insan bilgisini toplarken izin almadıklarını da belirtiyor. Telif hakkıyla korunan materyalleri, fikri mülkiyet sahiplerinin izni olmadan kullandıkları biliniyor. Tan, TechCrunch'a verdiği demeçte, kapalı ağırlıklı modellere yapılan API çağrılarıyla kullanıcı ve müşterilerin ne yapabileceğini kontrol etmenin kısıtlayıcı olduğunu ve geniş kamuya açık verilerle eğitilen zekaya erişimin, hizmet şartlarının arkasına kilitlenmiş bir şeyden ziyade bir kamu malı olarak normalleştirilmesinde devletin rol oynayabileceğini söyledi. Kendisi de yoğun bir yapay zeka kullanıcısı olan Tan, açık ağırlıklı yapay zeka laboratuvarları ile öncü laboratuvarlar arasında bir denge kurulmasını istiyor. Ona göre, yapay zeka alanındaki en kötü senaryo, öncü yapay zekanın tüm muazzam gücünün tek bir güçlü, özel sağlayıcının elinde toplanmasıdır. "Kabus senaryosu, doomer senaryosu, sadece bir şirket olmasıdır. En iyi sermayeye erişimi var, en iyi yapay zeka araştırmacılarına sahip. Kaçar ve aniden tek bir monolitik şirket olur. Bu kötü olurdu." dedi.
