Home

放牛班的春天

DeepSeek又发新模型,小而美玩出新高度_我的网站

金砖五国

A |     ▌天气预报【重要天气提示】1.降水和对流:19—21日,北部和西部地区多雷雨天气,部分地区有中雨到大雨,雷雨时局地伴有短时强降水、短时大风等强对流天气。【气象风险提示】省水利厅和省气象局08月18日17时联合发布山洪灾害气象风险预警:预计,8月18日20时至8月19日20时,保定市(唐县、曲阳县、涞源县、阜平县)、石家庄市(平山县、灵寿县、行唐县)等地局地可能发生山洪灾害(蓝色预警)。其他地区也可能因局地短历时强降水引发山洪灾害,请各地密切关注降雨情况,强化山洪灾害监测,及时发布预警信息,提前组织群众转移避险,确保人民群众生命安全。【天气预报】省气象台2026年08月19日05时发布天气预报:今天白天,张家口、承德、保定西部、石家庄西部、邢台西部、邯郸多云转阴有雷阵雨或阵雨,局地有中雨到大雨,雷雨时局地伴有短时强降水、短时大风等强对流天气,其他地区多云间晴。最高气温,张家口北部、承德北部、保定西北部23~27℃,其他地区28~33℃。今天夜间,张家口东部、承德、保定中西部、石家庄、邢台西部、邯郸多云间阴有分散性雷阵雨或阵雨,局地有中雨,雷雨时局地伴有短时强降水、短时大风等强对流天气;其他地区多云间晴。    就在刚刚,DeepSeek开源了一个3B模型DeepSeek-OCR。虽然体量不大,但模型思路创新的力度着实不小。

B | 最低气温,张家口大部、承德北部、保定西北部14~18℃,其他地区19~25℃。                   众所周知,当前所有LLM处理长文本时都面临一个绕不开的困境:计算复杂度是平方级增长的。

C | 序列越长,算力烧得越狠。                             于是,DeepSeek团队想到了一个好办法。明天白天到夜间,张家口、承德、唐山北部、秦皇岛北部、保定、廊坊北部、石家庄西部、邢台西部、邯郸多云转阴有雷阵雨或阵雨,其中张家口北部、承德西部、保定西部、石家庄西部、邢台西部、邯郸西部的部分地区有中雨到大雨,雷雨时局地伴有短时强降水、短时大风等强对流天气,其他地区多云间晴。既然一张图能包含大量文字信息,而且用的Token还少,那不如直接把文本转成图像?这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。

D | 21日白天到夜间,全省多云转阴,大部分地区有雷阵雨或阵雨,部分地区有中雨,局地有大雨,雷雨时局地伴有短时强降水、短时大风等强对流天气。                   而OCR正好天然适合验证这个思路,因为它本身就是在做“视觉→文本”的转换,而且效果还能量化评估。

E |                              论文显示,DeepSeek-OCR的压缩率能达到10倍,OCR准确率还能保持在97%以上。▌高速路况截至07:00

京哈高速(G1):

京哈高速宝山段:因临时管制,分流与秦滨高速互通K262处、与京秦高速遵秦段互通K288处北京方向超限运输车辆。因临时管制,分流与秦滨高速互通K262处北京方向危险品车辆。因临时管制,分流与京秦高速遵秦段互通K288处北京方向危险化学品车辆。因临时管制,秦皇岛北站、秦皇岛辅站、秦皇岛站、抚宁站、卢龙站、迁安站、唐山北站、鸦鸿桥站、玉田站、榛子镇站双向,秦皇岛东站沈阳方向,秦皇岛东站北京方向禁止超限运输车辆上道、危险化学品车辆上道。                   啥意思呢?就是说,原本需要1000个文本Token才能表达的内容,现在只用100个视觉Token就搞定了。因临时管制,抚宁站、卢龙站、迁安站、唐山北站、鸦鸿桥站、玉田站、榛子镇站双向禁止车长12米以上货车上道、五轴(含)以上货车上道。

京哈高速廊坊段:因临时管制,香河站天津方向,香河东站双向禁止车长12米以上货车上道、五轴(含)以上货车上道、超限运输车辆上道、危险化学品车辆上道。

京台高速(G3):

京台高速廊坊段:因首都环线高速改扩建施工,与首都环线高速互通K30处双向禁止车辆转行首都环线高速涿州方向。

F | 即使压缩率拉到20倍,准确率也还有60%左右,整体效果相当能打。因首都环线高速改扩建施工,九州站涿州方向禁止车辆上道。

G |                    OmniDocBench基准测试结果显示:                    只用100个视觉Token,就超过了GOT-OCR2.0(每页256个Token)的表现;          用不到800个视觉Token,干翻了MinerU2.0(平均每页超过6000个Token)。

京港澳高速(G4):

京港澳高速京石段:因首都环线高速改扩建施工,与首都环线高速互通K66处双向禁止车辆转行首都环线高速涿州方向。

长深高速(G25):

长深高速承唐唐山段:因临时管制,与京哈高速宝山段互通K950处双向禁止五轴(含)以上货车转行京哈高速宝山段。

大广高速(G45):

大广高速:因首都环线高速改扩建施工,与首都环线高速互通K1366+500处双向禁止车辆转行首都环线高速涿州方向。

首都环线高速(G95):

首都环线高速松林店段:因改扩建施工,黄家屯站双向禁止车辆下道。因改扩建施工,黄家屯站张家口方向,黄家屯站廊坊方向禁止车辆上道。

H | 因与首都环线高速互通至与张涿高速互通K294+678至K301+278处改扩建施工,与首都环线高速互通至与张涿高速互通K294+678至K301+278处张家口方向禁止车辆通行。

I |

首都环线高速:因改扩建施工,东湾站涿州方向,东湾站密云方向禁止车辆上/下道。                        在实际生产中,一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。

J | 20个节点(160块A100)直接飙到每天3300万页。

K | 因改扩建施工,高官庄站、固安东站、固安南站、涿州南站涿州方向禁止车辆上道。因固安东站附近至涿州南站附近K248+600至K294+686处涿州方向改扩建施工,固安东站至涿州南站附近K248+600至K294+686处涿州方向禁止车辆通行。因改扩建施工,分流与京台高速廊坊段互通K235+367处涿州方向车辆。                             DeepSeek-OCR由两个核心组件组成:                    DeepEncoder(编码器):负责图像特征提取和压缩;          DeepSeek3B-MoE(解码器):负责从压缩后的视觉Token中重建文本。

京秦高速(G0121):

京秦高速遵秦段:因临时管制,山海关站双向禁止危险品车辆上道。                        让我们来重点说说DeepEncoder这个引擎。                   它的架构很巧妙,通过把SAM-base(8000万参数)和CLIP-large(3亿参数)串联起来,前者负责“窗口注意力”提取视觉特征,后者负责“全局注意力”理解整体信息。                   中间还加了个16×卷积压缩器,在进入全局注意力层之前把Token数量大幅砍掉。

涞涞高速(G9511):

涞涞高速:因西陵站下道口匝道廊坊方向养护施工,西陵站廊坊方向禁止车辆下道。                   举例而言,一张1024×1024的图像,会被切成4096个patch token。但经过压缩器处理后,进入全局注意力层的Token数量会大幅减少。                   这样的好处是,既保证了处理高分辨率输入的能力,又控制住了激活内存的开销。

宣大高速(S003):

宣大高速:因雾,阳原站双向禁止车辆上道。

唐津高速(S0105):唐津高速:因临时管制,唐港站、唐山东站唐山方向禁止五轴(含)以上货车上道、超限运输车辆上道、危险化学品车辆上道。

迁曹高速(S51):

迁曹高速:因临时管制,与京哈高速宝山段互通K35+085处迁安方向禁止车长12米以上货车转行京哈高速宝山段、五轴(含)以上货车转行京哈高速宝山段、超限运输车辆转行京哈高速宝山段、危险化学品车辆转行京哈高速宝山段。                   而且DeepEncoder还支持多分辨率输入,从512×512的Tiny模式(64个Token)到1280×1280的Large模式(400个Token),一个模型全搞定。

承秦高速(S52):

承秦高速秦皇岛段:因临时管制,与京哈高速宝山段互通K191+236处秦皇岛方向禁止车长12米(含)以上货车转行京哈高速宝山段北京方向、五轴(含)以上货车转行京哈高速宝山段北京方向、超限运输车辆转行京哈高速宝山段北京方向、危险品车辆转行京哈高速宝山段北京方向。                   目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档,还有动态分辨率的Gundam模式,灵活性拉满。

迁西支线(S53):

京秦高速迁西支线:因临时管制,张庄子站迁西方向,迁西站唐山方向禁止危险品车辆上道。

L | 因临时管制,新庄子站唐山方向禁止车辆上道。因临时管制,张庄子站唐山方向禁止车长12米以上货车上道、五轴(含)以上货车上道、超限运输车辆上道、危险化学品车辆上道。                             解码器用的是DeepSeek-3B-MoE架构。

M |                    别看只有3B参数,但采用了MoE(混合专家)设计——64个专家中激活6个,再加2个共享专家,实际激活参数约5.7亿。这也让模型既有30亿参数模型的表达能力,又保持了5亿参数模型的推理效率。因临时管制,分流张庄子站K12+260处唐山方向车长12米以上货车、五轴(含)以上货车、超限运输车辆、危险化学品车辆。

衡德高速故城支线(S67):

衡德高速:因改扩建施工青兰站附近K27+250处北行方向禁止车辆转行衡水方向。

唐津高速(S0105):

唐津高速:因临时管制,分流唐港站K23+933处唐山方向超限运输车辆、危险品车辆。因临时管制,唐港站、唐山东站唐山方向禁止五轴(含)以上货车上道、超限运输车辆上道、危险化学品车辆上道。

京雄高速(S3601):

北京至雄安新区高速段:因首都环线高速改扩建施工,与首都环线高速互通K49+100处双向禁止车辆转行首都环线高速涿州方向。

京德高速(S3901):

北京新机场至德州高速京冀界至津石段:因首都环线高速改扩建施工,与首都环线高速互通K13+600处北京方向禁止车辆转行首都环线高速涿州方向。

N |                    解码器的任务就是从压缩后的视觉Token中重建出原始文本,这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。

京哈高速北戴河连接线支线(S9960):

北戴河连接线:因临时管制,北戴河站双向禁止车长12米以上货车上道、五轴(含)以上货车上道、超限运输车辆上道、危险化学品车辆上道。

衡德高速(S78-02):

衡德高速:因改扩建施工,分流庙镇站K84+433处衡水方向车辆。因改扩建施工,衡水东站附近至庙镇站附近K36+981至K84+433处衡水方向禁止车辆通行。                   数据方面,DeepSeek团队也是下了血本。                   从互联网收集了3000万页多语言PDF数据,涵盖约100种语言,其中中英文占2500万页。                   数据分两类:粗标注直接用fitz从PDF提取,主要训练少数语言的识别能力;精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成,包含检测与识别交织的高质量数据。                   对于少数语言,团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测,再用fitz生成的数据训练GOT-OCR2.0,然后用训练好的模型反过来标注更多数据,循环往复最终生成了60万条样本。因改扩建施工,龙华站、庙镇站衡水方向禁止车辆上道。(综合自天气、交警微发布)。

o |                    此外还有300万条Word文档数据,主要提升公式识别和HTML表格解析能力。                   场景OCR方面,从LAION和Wukong数据集收集图像,用PaddleOCR标注,中英文各1000万条样本。                             DeepSeek-OCR不仅能识别文字,还具备“深度解析”能力,只需一个统一的提示词,就能对各种复杂图像进行结构化提取:                    图表:金融研究报告中的图表可以直接提取为结构化数据;          化学结构式:识别并转换为SMILES格式;          几何图形:对平面几何图形进行复制和结构化解析;          自然图像:生成密集描述(dense captions)。

p |                         这在STEM领域的应用潜力巨大,尤其是化学、物理、数学等需要处理大量符号和图形的场景。                   第一作者Haoran Wei此前曾供职于阶跃星辰,期间发布并开源了GOT-OCR2.0系统                    值得注意的是,DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。                   人类的记忆会随时间衰退,越久远的事情记得越模糊。DeepSeek团队想,那能不能让AI也这样?于是,他们的方案是:                    1. 把超过第k轮的历史对话内容渲染成图像;          2. 初步压缩,实现约10倍的Token减少;          3. 对于更久远的上下文,继续缩小图像尺寸;          4. 随着图像越来越小,内容也越来越模糊,最终达到“文本遗忘”的效果。

q |                    这就很像人类记忆的衰退曲线,近期信息保持高保真度,久远记忆自然淡化。                   虽然这还是个早期研究方向,但如果真能实现,对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率,历史上下文占用更少计算资源,理论上可以支撑“无限上下文”。                             简言之,DeepSeek-OCR表面上是个OCR模型,但实际上是在探索一个更宏大的命题:能否用视觉模态作为LLM文本信息处理的高效压缩媒介?                    初步答案是肯定的,7—20倍的Token压缩能力已经展现出来了。                   当然,团队也承认这只是个开始。单纯的OCR还不足以完全验证“上下文光学压缩”,后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试,以及其他系统性评估。                   不过不管怎么说,这在VLM和LLM的进化路上,又多了一条新赛道。                   去年这个时候,大家还在卷怎么让模型“记得更多”。

r | 今年DeepSeek直接反其道行之,不如让模型学会“忘掉一些”。                   确然,AI的进化,有时候不是做加法,而是做减法。小而美,也能玩出大花样,DeepSeek-OCR这个3B小模型就是最好的证明。

s |                    GitHub主页:http://github.com/deepseek-ai/DeepSeek-OCR          论文地址:https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf          模型下载:https://huggingface.co/deepseek-ai/DeepSeek-OCR                    本文来自微信公众号:APPSO (ID:appsolution)。

Current article:http://5lp.wengsengzhanhuangu.cyou/ye0n/i6yprf3.html

Published on:08:08:14


Copyright 放牛班的春天 2020-2099 About us | recruitment information | contact us | Site map | Friendly links | Feedback | Site map