Generatif yapay zeka modellerinin robotlara entegrasyonu popülerleşirken, bu teknolojinin öngörülemezliği güvenlik endişelerini beraberinde getiriyor. Carnegie Mellon Üniversitesi'nde Güvenli Yapay Zeka laboratuvarı yöneticisi Dr. Ding Zhao, bu soruna çözüm bulmak amacıyla deneyimli girişimci Kyle Wong ve makine öğrenmesi mühendisi Simo Rachidi ile birlikte Safeworld adlı bir şirket kurdu.
Robot güvenliği için simülasyonlar
Safeworld, robot kontrol sistemlerini gerçekçi insan modelleriyle dolu simülasyonlarda değerlendirerek güvenlik açıklarını belirliyor. Bu yaklaşım, Tesla veya Wayve gibi otonom araç şirketlerinin karşılaştığı zorluklara benzerken, robotların yapılandırılmamış ortamlarda çalışması ve her tesisin kendine özgü güvenlik standartlarına sahip olması nedeniyle daha karmaşık bir hal alıyor. Şirket, sanal ortamlarda binlerce senaryo oluşturarak robotların insanlarla karşılaşma durumlarını test ediyor. Özellikle kör noktalar, insan davranışlarının öngörülemezliği ve insanların kutu taşıma gibi durumları, robotların insanları tespit etme yeteneğini zorluyor.
Yatırım ve gelecek vizyonu
Safeworld, Shine Capital ve a16z Speedrun liderliğinde 12 milyon doların üzerinde tohum yatırımı aldı. a16z Speedrun ortağı Jonathan Lai, robotlar evlerde kullanılmaya başlanıp güvenlik olayları yaşanmadan endüstriyel bir güvenlik standardı oluşturulması gerektiğini vurguladı. Gritt Robotics gibi şirketler de Safeworld ile ortaklık kurarak robotlarının insan çalışanlarla güvenli bir şekilde etkileşimini sağlamaya çalışıyor. Şirket, bu alanda karlı ilk şirket olmayı hedefliyor, çünkü robotlarını kullanmak isteyenlerin güvenlik doğrulama hizmetleri için kendilerine ödeme yapması gerekecek.
