北京大学芯曜跃动团队陶耀宇在浦江创新论坛硅光专题论坛上发布可编程空间光电异构AI推理芯片,采用数字光强累加与乘加拆分短光路架构,面向低误差、低损耗、可编程的AI推理加速应用,实现首Token延迟降至百微秒级。
OpenAI 终于亮出自家推理芯片 Jalapeño 的首批实测成绩单。在 InferenceX 基准中,它的每千瓦峰值吞吐量与 Token 延迟均胜过英伟达 GB200/GB300 系统;针对 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款主流模型,每瓦 AI 工作量达到对比系统的 1.5–1.9 倍,端到端延迟则降低 1.7–3.6 倍。该芯片基于台积电 N3P 工艺,TDP 为 700W,计划今年底开始部署。对关注推理成本的团队来说,这意味着同等算力预算下可承载更高并发,或为延迟敏感型应用留出更多优化空间。