Trillium创始人Nathan Lambert：AI不会突然起飞，未加固的基础设施才是真正风险

10月15日，Trillium创始人Nathan Lambert在a16z播客中谈及AI递归自我改进（RSI）时表示，不认为AI即将突然起飞、迅速失控，真正令人担忧的是AI实验室自身尚未加固的基础设施。他创立Trillium，正是希望将RSI概念拉回现实，让外界验证前沿系统的递归能力实际走到了哪一步，以及它做不到什么。

Lambert提出，模型进步取决于算力、数据、人才三要素。美国前沿实验室三样均不缺乏，中国实验室则受制于算力。据他观察，中国研究者对OpenAI普通研究员可随时调用约5000张H100等效算力感到惊讶。但他同时强调，中国实验室在资源约束下锻炼出的工程效率突出，算力差距使蒸馏成为现实路径：如果已经知道想要的输出，获取这些输出等同于拥有相应算力。

在开源问题上，Lambert认为中国实验室选择开源并非理想主义，而是务实的生存选择。如果只做闭源API，几乎没有用户会知道Moonshot AI。开源让它们在缺乏算力优势的情况下，用工程能力换取行业话语权。

谈及蒸馏监管，Lambert表示服务条款不是签署的合同，无法阻止蒸馏。若对蒸馏采取强硬措施，造成的伤害可能大于好处。前沿实验室也并非想象中的封闭，技术细节保密几个月可以，长期难以维持。他判断，开源模型会在数量上取胜，闭源模型则在商业收入上占优，而RSI的真相介于营销与恐惧之间。