返回新闻列表

IBM发布Granite 4.0 3B Vision:企业级文档数据提取的新利器

文本核心速览
  1. 模型发布与核心特性IBM发布Granite 4.0 3B Vision视觉语言模型,拥有30亿参数,专为金融、法律、医疗等行业复杂文档数据提取优化,结合视觉理解与语言生成,精准识别关键信息。
  2. 轻量化架构降低成本采用轻量化设计,可在云端及边缘侧高效运行,在文档智能基准测试中准确率领先,显著降低企业硬件算力投入,无需昂贵服务器集群。
  3. 开源生态加速应用落地IBM开源该模型及开发工具,允许开发者根据行业需求微调,快速构建自动化工作流,推动生成式AI在垂直领域的广泛应用。
  4. 推动企业数据智能化Granite 4.0 3B Vision将替代传统手动录入和肉眼校对,使企业级数据处理迈向全面智能化新阶段,提升办公效率。
## IBM Granite 4.0 3B Vision跑通文档提取:30亿参数,边缘设备也能跑 IBM Granite 4.0 3B Vision(30亿参数,约相当于GPT-2的大小,普通显卡就能跑)今天被开发者们扒出来试了,他们发现这玩意儿在金融、法律、医疗行业的复杂文档里抓数据,比很多大模型还准,而且能让普通笔记本就跑起来。 ## 专啃复杂文档的30亿参数模型 有开发者试了说,这模型专门啃企业里那些难搞的非结构化文档,比如金融、法律、医疗行业的复杂表格、扫描件、还有各种布局的花样。它把视觉理解和语言生成捏在一起,能从这些文档里精准抠出关键信息,直接输出成结构化数据。按他们的说法,以前得靠人眼和手工录,现在让模型干,效率直接飙升。 ## 轻量架构:不烧算力也够准 相比那些千亿参数的巨无霸(比如GPT-4那种动辄上万亿参数的),Granite 4.0 3B Vision的架构特别轻——30亿参数,模型文件大小大概4GB。群里在传,这模型不光能在云端跑得快,还能直接部署到边缘设备上(比如普通办公电脑或边缘盒子),响应速度不慢,而且大幅省下了硬件算力的钱。在几个文档智能(Document AI)的基准测试里,它理解复杂指令和分析图表的准确率都排到了行业前面。有公司CTO发帖说,他们用一台没配GPU的服务器跑推理,文档解析准确率居然跟云端大模型差不多。也就是说,企业不用买昂贵的服务器集群,就能获得精准且安全的文档解析能力——有开发者说他们直接在笔记本上微调了一下,效果比预期好。 ## 开源开放,开发者能随便搞 IBM把模型和开发工具连锅端进了开源社区,开发者们可以直接拿上去根据自家行业需求微调,搞出自动化工作流。有金融行业的工程师在论坛上说,他们用这个模型几天就搭了个合同信息提取的流水线,比以前外包给人干省了90%的时间。按照这个势头,传统肉眼校对和手动录入模式估计撑不了多久了。 接下来盯着看:哪些垂直行业的文档处理工具会先被这个开源小模型冲垮?而那些靠卖高价文档AI服务的公司,可能得坐不住了。
来源: aibase阅读原文

其他新闻

查看全部