生成式AI机器人安全评估公司Safeworld完成超1200万美元种子轮融资

10月5日，生成式AI机器人安全评估公司Safeworld走出隐身模式，宣布完成超过1200万美元种子轮融资。本轮由Shine Capital和a16z Speedrun领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors及SV Angel参投。

Safeworld由卡内基梅隆大学Safe AI实验室主任Ding Zhao与资深创业公司高管Kyle Wong、机器学习工程师Simo Rachidi共同创立。Zhao长期研究AI安全，他认为生成式AI系统不像传统算法那样可预测，机器人部署需要同时解决概率性系统风险评估和信任问题。

Safeworld的评估方式是在包含逼真人体模型的仿真环境中测试机器人控制系统。团队会在Genesis或MuJoCo等模型中构建场景数字版本，接入机器人真实软件，运行数千个人体模型与机器人相遇的场景。Kyle Wong举例说，可测试工厂盲角处机器人的行驶速度与停止距离，或判断机器人能否检测到搬运箱子的行人。他还提到，摔倒是仿真中经常测试的场景之一，否则需要真人反复为机器人演示跌倒。

公司认为，机器人厂商可能希望由第三方机构验证安全工作，以便在竞争企业间共享安全信息。Gritt Robotics已与Safeworld合作开展安全仿真，其CTO Vishal Dugar表示，这类系统很难用数学公式正式证明安全，必须依赖实证验证，因为人类的外观和行为存在大量差异。Zhao提醒，行业可能低估边缘案例的难度，重要的是大规模部署后机器人面对从未操作过机器人的用户时的表现。

Safeworld仍在确定产品形态，是面向外部用户的平台还是服务模式。团队表示，任何计划部署机器人的厂商都需要安全评估服务。