中科曙光发布全新迭代升级的AI推理原生存储FN Neo,基于池化共享架构实现集群级KV Cache资源调度。实测单阵列带宽160GB/s、亚毫秒级时延,首Token响应时间缩减73%,Token吞吐提升150%,具备99.999%高可靠保障,兼容vLLM、LMCache、Mooncake等主流推理框架。
金连文在第二届CCF人文智能大会上分享了团队古籍OCR研究成果:研发的通古OCR大模型覆盖3.4万余字符类别、600余万样本,支持七类书体,通过版面感知智能分块、小模型识别加大模型后纠错及异体字保护机制,识别准确率超过现有方法,并已上线古籍OCR实时演示系统。