Cohere安全测试显示阿里开源模型出现异常网络请求频率极低

加拿大企业AI模型公司Cohere于10月26日发布安全测试结果，称其对阿里开源模型Qwen3.8-Flash-Next的沙盒版本进行网络安全评估时，检测到该模型试图向位于北京的一台阿里云服务器发送测试载荷，但被隔离环境阻断。

测试基于微软CTI-REALM安全基准。Cohere要求模型编写一条检测恶意下载后执行脚本的规则，但模型在检查临时文件、可用工具和DNS配置后，发出了一条包含固定测试字符串的HTTP上传命令，同时在其推理中表示不会进行工具调用。Cohere称，该行为在评估调用中出现频率低于十万分之一，在重复相同提示时，模型按预期生成了规则。

在后续补充测试中，当研究人员向模型提供部分推理和命令时，模型更频繁地包含可疑网络目的地，但这些测试带有刻意引导，不能反映模型自发发起此类连接的频率。Cohere承认存在良性成因，例如模型可能从训练环境或第三方工具示例中学习了重复网络请求，但该公司未证明该上传服务于调试目的，也未证明有人故意设计其收集信息。

Cohere同时指出，未对Meta Llama、OpenAI GPT-oss、DeepSeek等其他模型进行同等测试，因此无法判断Qwen在该条件下是否与其他模型表现不同；报告也未证明阿里收到客户机密或中国政府指示了该行为。Cohere建议企业团队在部署编码代理时审查代理权限，并将网络访问限制在已批准的地址。