DeepSeek开源OCR-2模型,梁文锋带队探索新架构_视觉_Token_顺序
- 发表时间:2026-01-28 14:40:03
- 来源:
出品|搜狐科技
作者|常博硕
编辑|杨锦
临近春节,DeepSeek的更新也越来越频繁了。
刚刚,DeepSeek团队发布了论文《DeepSeek-OCR 2:Visual Causal Flow》,并正式开源了DeepSeek-OCR 2模型。论文三位作者分别是魏浩然、孙耀峰和李宇琨。
要读懂这篇文章,首先要知道的一个问题就是:啥是OCR?
其实,OCR是光学字符识别(Optical Character Recognition)的缩写,基本思路就是让计算机能看懂图像中的文字。比如我们把手机拍摄的***、合同扫描件、书籍照片等转换成计算机可以编辑和搜索的文字内容,这就是OCR。
传统OCR模型通常遵循扫描式的思路,首先检测图像中的文字区域,再一个字一个字或一行一行地识别,这种固定扫描顺序就容易忽略文档的整体结构。但人不是这样的,我们在阅读复杂文档时,通常会先浏览标题然后看看段落表格,会有优先级排序,而不是机械地从左上到右下扫过页面。
现在的问题是,当文档结构复杂到一定程度时,AI就不知道先看哪儿了。像学术论文一般是多栏排版,文章中还有公式与正文交错出现,技术报告中的表格与注释,报纸版面等等这些都对模型提出了超出传统OCR的要求。
所以,DeepSeek新开源的DeepSeek-OCR 2模型其实就是为了让机器阅读更像人而设计的。
提出视觉因果流
DeepSeek-OCR 2作为新一代视觉语言OCR模型,核心创新在于提出了视觉因果流(Visual Causal Flow)的编码器架构。
DeepSeek-OCR 2的整体架构延续了DeepSeek-OCR的“编码器—解码器”设计,其中解码器仍然***用约3B参数的MoE语言模型,编码器部分则升级为DeepEncoder V2。
从论文中看,DeepEncoder V2编码器通过引入语义驱动的顺序重排,使AI能够根据图片内容的逻辑顺序来处理信息,而不再只是按照固定的栅格顺序。
上图示意了DeepSeek-OCR 2的核心架构。左边为传统DeepEncoder,使用CLIP视觉模型,右图为DeepEncoder V2。新的架构使用了语言模型作为视觉编码器(LM as Vision Encoder),并在视觉Token序列后附加了因果查询(learnable query),用于新的阅读顺序排列。
一个关键的点在于,DeepSeek-OCR 2使用了语言模型架构作为视觉编码器。
在DeepEncoder V2中,DeepSeek用一个轻量级语言模型(Qwen2-500M)取代了传统的CLIP ViT。这样做就可以让模型在视觉编码阶段本身就具备序列建模和因果推理能力,使得其与后续的语言解码阶段在建模范式上保持一致。
从架构上看,DeepSeek-OCR 2并未增加视觉token的数量,也没有引入额外的多模态复杂结构,而是通过注意力掩码的重新设计,让“顺序”成为可学习的对象。这使得模型在处理表格、公式、多栏排版等场景时,能够更自然地恢复文档的逻辑结构。
注意力掩码的设计其实十分有意思。在编码器中,视觉token与一组新增的因果流查询token被拼接成一个统一序列,但两者在注意力机制上其实是非对称的。
视觉token之间***用双向注意力,保持与ViT类似的全局建模能力。而查询token之间***用严格的因果注意力,每个query(查询)只能关注其之前的query,同时,每个查询token都可以访问所有视觉token。
在这种注意力掩码的作用下,查询token被迫以序列化方式逐步聚合视觉信息,其内部顺序不再由空间坐标决定,而是在训练过程中,在语义建模目标的驱动下逐步形成更接近人类阅读逻辑的视觉表示序列。
这种设计就和人类阅读文档的方式高度相似,首先获取全局结构,随后在语义理解的引导下,决定接下来该看哪里。
部分表现优于Gemini
在OmniDocBench v1.5基准测试中,DeepSeek-OCR 2在整体准确率上达到91.09%,在使用最少视觉token的情况下,较上一代DeepSeek-OCR提升了3.73%。
在衡量阅读顺序(R-order)的指标编辑距离(Edit Distance)上,DeepSeek-OCR 2从前代的0.085降低到了0.057,证明了新模型不仅识别得更准,结构理解能力也发生了实质变化。
在和Gemini-3 Pro等闭源强模型的对比中,在均使用约1120个视觉Token的情况下,DeepSeek-OCR2的文档解析编辑距离(0.100)也优于Gemini-3 Pro(0.115)。
根据DeepSeek披露的数据,在真实用户日志与PDF批量处理场景中,DeepSeek-OCR 2的重复输出率也有了明显下降。
相比前代模型,DeepSeek-OCR 2在在线用户日志图像中,重复率从6.25%降至4.17%。在PDF数据生产场景中,重复率从3.69%降至2.88%。重复输出往往源于模型对文档结构理解不充分,导致内容会被多次误读,从结果来看,视觉因果流的引入也有效缓解了这一问题。
如果放在更宏观一点的角度,其实DeepSeek-OCR 2还提供了一种新的框架思路,那就是二维视觉理解,是否可以拆解为两层一维因果推理。在这一框架下,编码器负责怎么读内容,解码器负责如何回答,两者共同完成对复杂视觉内容的理解。
这也是DeepSeek在论文最后提出的一个长期方向——原生多模态(Native Multimodality)。如果同一套因果查询机制可以用于视觉、文本甚至音频,那么OCR可能只是这一架构的起点,而不是终点。
正如论文最后所说,虽然光学文本识别,特别是文档解析,是大语言模型时代最实用的视觉任务之一,但它仅占视觉理解领域的一小部分。
展望未来,DeepSeek将向着更通用的多模态智能继续“深度求索”。返回搜狐,查看更多
- 2026-05-06 13:10:04台积电一家独大局面将要终结!英特尔和三星打入果链_苹果_Mac_芯片
- 2026-05-03 11:55:05消息称美国反垄断机构通过英特尔与SambaNova的交易审查
- 2026-03-21 10:55:03苹果又被怼!罗永浩炮轰苹果语音输入法:简直就是弱智_Siri_科技_用户
- 2026-05-06 08:55:03程维再次激进,滴滴会否再陷亏损泥潭?丨正经深度_业务_盈利_调整
- 2026-05-05 11:10:04宇树人形机器人在美国买票坐飞机:电池超标致延误,现场表演逗乐乘客_Bebop_航班
- 2026-03-24 11:05:03碾压美国!中国AI大模型杀疯了:全球调用量前四全是国产_Token_MiniMax_推理
- 2026-05-01 12:25:04恢复冥王星行星地位,美国“翻案”没那么容易| 新京报专栏_科学_天体_政治
- 2026-04-30 23:20:03人类如何奔向月球?《张朝阳的物理课》手推阿尔忒弥斯2号自由返回轨道_航天器_地球_引力场
- 2026-03-27 22:00:03新手做拼多多如何运营 - *
- 2026-05-05 12:25:04为了挽回用户,微软终于不强制你更新Windows了_Steam_系统_Linux
-
可胜技术徐能:光热发电是电网友好的低碳电源,有望替代火电支撑新能源大基地_成本
徐能预测,随着市场政策趋于完善、运维水平提升、行业规模化发展提速、模块化设计施工以及高温熔盐等新技术升级,十五五期间国内光热发电度电成本有望降至0.45元/度以下。截至目前,可胜技术光热业绩超过2GW,市场… -
商业航天“五小龙”,谁是中国版SpaceX?_火箭_星链_公司
商业航天“五小龙”,谁是中国版SpaceX?_火箭_星链_公司 -
特努斯誓言“再次改变世界”,称苹果已制定令人振奋的产品蓝图_库克_电话会议_时刻
特努斯誓言“再次改变世界”,称苹果已制定令人振奋的产品蓝图_库克_电话会议_时刻 -
宇树人形机器人在美国买票坐飞机:电池超标致延误,现场表演逗乐乘客_Bebop_航班
宇树人形机器人在美国买票坐飞机:电池超标致延误,现场表演逗乐乘客_Bebop_航班
- 小扎的残酷算术题:砸6000亿搞AI,裁1.6万人省钱_Meta_扎克伯格_Avocado
- 5月天象看点:“***之眼”登场 年度最小满月上线_流星雨_修立鹏_中国天文学会
- 五四青年节|代代青春皆滚烫 逐光奋斗赴韶华_时代_一代人_浪潮
- 在烟火与繁星中看见青春最美的模样——走近新时代青年先锋_裴文博_丽娜_陕西
- 碾压美国!中国AI大模型杀疯了:全球调用量前四全是国产_Token_MiniMax_推理
- 10000个爱因斯坦诞生?哈佛教授暴论:人类智力到头,AI五年内封神_OpenAI_Matthew_科研
- 马化腾深夜发朋友圈,大佬集体疯狂?_OpenClaw_龙虾_用户
- 连路由器都不放过,美国焦虑到这一步了_技术_问题_国家
- 美军彻底慌了!中国氢能源无人机突然亮相,战场幽灵改写战争规则_任务_环境_飞行
- OpenAI退出***生成领域,Sora应用上线半年后宣告关闭_山姆·奥特曼_ChatGPT_用户
- 花几百万,换17岁男孩的血?_血浆_治疗_置换
- 大西洋一邮轮出现的汉坦病毒是什么?如何预防?专家详解_风险_王新宇_美洲地区
- 碾压美国!中国AI大模型杀疯了:全球调用量前四全是国产_Token_MiniMax_推理
- 【环视博鳌热词】人形机器人:加速告别“表演式炫技”,全面走向实用
- 病毒还是革命?专家:未来不会用“龙虾”或智能体,相当于文盲,相当于不会用手机_田丰_陈焕_skill
- 探访河南郑州机器人“4S店”
- CEO更迭在即:苹果的未来,不能靠“第二个库克”_史蒂夫·乔布斯_约翰·特努斯_Apple
- 连路由器都不放过,美国焦虑到这一步了_技术_问题_国家

