NVIDIA发布生成式AI手术模拟器Cosmos3-H-Dreams,基于临床胆囊切除术录像训练
NVIDIA于2026年10月21日发布Cosmos3-H-Dreams,称其为首个基于临床胆囊切除术录像训练的生成式手术模拟器,支持实时运动控制。该模拟器由Cosmos 3驱动,并借助FlashDreams加速推理库,可在单个NVIDIA RTX PRO 6000 GPU上交互运行。
与上一代基于Cosmos-Predict2.5、面向dVRK桌面缝合场景的Cosmos-H-Dreams不同,Cosmos3-H-Dreams从CMR Surgical Versius平台的临床手术录像与机器人运动学数据中学习视觉动力学,而非显式建模几何、组织形变与物理交互。模型基于160亿参数的Cosmos3-H-Embodied-Nano,在Open-H-Embodiment上预训练,后在精选胆囊切除视频与运动学数据上微调,包含28个动作维度,训练采用832×480分辨率视频和10Hz对齐动作。
针对长序列交互生成,NVIDIA采用教师-学生蒸馏流程,先后训练四步与两步去噪检查点,并集成FlashDreams流式推理与FadeMem缓存整合机制,以降低长程生成中的动作延迟与上下文开销。NVIDIA演示显示,模型能基于同一初始帧、不同动作序列生成不同走向的手术场景,并保持组织形变与器械外观一致。
NVIDIA表示,该模拟器可用于探索训练数据之外的轨迹,并提供了模型、代码与微调教程,支持适配其他数据集和控制器。Cosmos3-H-Dreams目前是研究型模拟器,并非经过验证的患者诊疗系统。
- 2026-10-21 02:17 | Huggingface:NVIDIA Cosmos3-H-Dreams: Bringing Clinical Surgery to Life Through Generative Simulation阅读原文
Picture moving the Cadiere grasper, grasping the gallbladder, and lifting it, all within a generated surgical scene that responds in real time. Today, we take the next step and introduce Cosmos3-H-Dreams, bringing interactive generative simulation to the visual and procedural complexity of clinical ...