北京大学芯曜跃动团队陶耀宇在浦江创新论坛硅光专题论坛上发布可编程空间光电异构AI推理芯片,采用数字光强累加与乘加拆分短光路架构,面向低误差、低损耗、可编程的AI推理加速应用,实现首Token延迟降至百微秒级。
前Google DeepMind研究员Ilia Shumailov和Alexander Panfilov做客Machine Learning Street Talk播客,讨论其论文《Stealing Reasoning Traces from Proprietary LLM APIs》。他们发现Anthropic、OpenAI、Google等前沿实验室的加密推理可被重放到同家族小模型中,并解码出31.5万条隐藏推理,泄露API密钥等隐私。他们还发现预填充两个来自Opus的Token会使Kimi-K3的答案风格变得像Opus,但无法解释原因。
数据服务商Silicon Data推出的Token支出指数本周首次跌破每百万Token 1美元,报0.97美元,创历史新低。该指数按使用量加权计算全球主流大模型实际成交价,被视为AI推理价格核心基准。此轮价格通缩主因是中国低成本开源模型的崛起,通过架构创新、定价机制和开源战略压低成本,并传导至全球市场,冲击OpenAI等美国头部厂商。
9月1日,杭州联汇科技(OmAI联汇)发布视频深度推理模型VLX-VR,在Google DeepMind与哥伦比亚大学联合推出的视频推理基准MINERVA上以78.8%准确率登顶,超越Gemini 3.5、GPT-4.1等,成为全球首个在该基准夺冠的中国模型。
2026年8月25日,OpenAI 宣布计划在年底前将自研芯片 Jalapeño 部署至计算基础设施,并发布战略文章阐述芯片策略。CFO Sarah Friar 表示,训练和通用计算继续采购外部系统,推理任务由 Jalapeño 分担,第一代芯片暂不出售或出租。第二代产品已在开发中段,第三代初具雏形。
OpenAI 终于亮出自家推理芯片 Jalapeño 的首批实测成绩单。在 InferenceX 基准中,它的每千瓦峰值吞吐量与 Token 延迟均胜过英伟达 GB200/GB300 系统;针对 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款主流模型,每瓦 AI 工作量达到对比系统的 1.5–1.9 倍,端到端延迟则降低 1.7–3.6 倍。该芯片基于台积电 N3P 工艺,TDP 为 700W,计划今年底开始部署。对关注推理成本的团队来说,这意味着同等算力预算下可承载更高并发,或为延迟敏感型应用留出更多优化空间。