2026-08-27 01:46
AI123
OpenAI开源量化工具GPT-Q获3000家公司采用,降低大模型运行门槛
AI量化
OpenAI开源的GPT-Q量化工具,已被全球超过3000家AI创业公司采用,帮助开发者在消费级GPU上运行原本需要数据中心级硬件支持的大模型。
GPT-Q是一种面向大语言模型的量化工具,通过将参数从FP16精度压缩至INT8或INT4,可将模型体积缩小约75%,同时保持95%以上的推理性能。该工具开源后,成为AI开发者降低模型部署成本的重要选择。
在AI算力与存储资源需求持续攀升的背景下,模型量化是减少存储需求的技术优化手段之一。此前,OpenAI为支撑其“星际之门”项目,每月需采购90万片存储晶圆,占全球DRAM产能的57%,而模型量化能够显著减少训练与推理过程中的存储和算力消耗。
来源
- 2026-08-27 01:25 | 新浪:美国AI研发机构OpenAI每月需90万片存储晶圆,为何能撬动全球芯片产业格局?阅读原文
美国AI研发机构OpenAI每月需90万片存储晶圆,占全球DRAM产能57% 2025年10月,美国人工智能研发机构OpenAI宣布与韩国芯片巨头三星电子、SK海力士达成战略合作,为其"星际之门"(Stargate)超级数据中心项目提供存储芯片支持。根据合作协议,OpenAI每月将采购90万片半导体晶圆,这一需求量相当于2025年底全球DRAM行业总产能的57%,直接重塑全球存储芯片产业格局。 OpenAI的"星际之门"项目总投资高达5000亿美元,计划在未来四年内建成10GW功率的AI计算基础设施,相当于一个小型国家的电力消耗。该项目不仅旨在支持下一代大语言模型的训练和推理,更标志着Op...