AI 行业资讯 - SingProbe

蚂蚁发布SingProbe：把安全检测嵌入大模型生成过程

国家网络安全宣传周期间，蚂蚁AI安全实验室正式发布大模型内生式安全护栏SingProbe，将安全检测融入模型生成过程，让AI边生成回答边输出风险提示。同时发布评测基准SingStreamBench，并探索了医疗场景应用SingProbe-Med。SingProbe已适配29个主流开源大模型，相关代码、模型和评测基准同步开源。