【新智元导读】在NeurIPS 2025论文中，来自「南京理工大学、中南大学、南京林业大学」的研究团队提出了一个极具突破性的框架——VIST（Vision-centric Token Compression in LLM），为大语言模型的长文本高效推理提供了全新的「视觉解决方案」。有必要注意一下的是，这一思路与近期引起广泛关注的DeepSeek-OCR的核心理念不谋而合。

  在处理短文本时，大语言模型（LLM）已经表现出惊人的理解和生成能力。但现实世界中的许多任务——如长文档理解、复杂问答、检索增强生成（RAG）等——都需要模型处理成千上万甚至几十万长度的上下文。

  在「上下文长度激增」与「模型参数量膨胀」的双重挑战下，Token压缩不再是优化项，而是必需品。

  若不能有效缩减输入规模，即便最强大的大语言模型，也难以高效处理我们应该它分析的海量信息。

  研究团队早在一年多以前NeurIPS 2024就开始探索——如何让模型像人类一样，以视觉的方式更高效地理解长文本。

  「的」「了」「和」这些功能性高频词，几乎是被大脑自动略过的。真正让我们停下来的，是那些承载意义的低频词——名词、动词、数字等。

  它设计了一种模仿人类「快–慢阅读通路（Slow–Fast Reading Circuit）」的视觉化压缩机制，让大模型在理解长文本时，既能快速扫读，又能深入思考：

  快路径（Fast Path）：将远处、相对次要的上下文渲染为图像，由一个冻结的轻量级视觉编码器快速提取显著性语义；

  慢路径（Slow Path）：将关键的近处文本直接输入 LLM，用于深层推理与语言生成。

  这种「视觉+语言」的双通道协作，就像人类的眼睛与大脑——一边扫视全局，一边聚焦要点，深度思考。

  凭借这一设计，在处理相同文本内容时，VIST所需的视觉Token数量仅为传统文本分词所需Token数量的56%，内存减少了50%。

  早期的LLM主要是通过tokenizer把文本拆分的离散token输入给LLM去处理，这种范式带来了很多好处如高度语义化。

  但是已有研究之后发现，经过大规模图文配对数据预训练，CLIP等视觉编码器能够自发掌握 OCR 能力，这使它们能直接理解文本图像内容，为长文本的视觉化处理提供了强大工具。

  VIST则借鉴了人类高效阅读的技巧，提出了一种全新的快–慢视觉压缩框架，用视觉方式处理长文本，让模型既能快速扫读，又能深度理解。

  压缩后的视觉特征再通过cross-attention与LLM的主输入整合。

  这种「扫视远处，专注近处」的方式，模拟了人类阅读的自然策略，让模型在长文本场景下既高效又精准。

  虽然视觉编码器（如 CLIP）很强大，但它们主要在自然图像上训练，对于渲染文本的理解能力有限。而且，长文本中往往充斥大量冗余信息，如果不加选择地处理，浪费算力，还会扰得抓不住重点。

  在训练中，PVE采用基于频率的屏蔽策略（Frequency-based Masking Strategy）把高频但信息量低的词（如英文中的 「the」、「with」）掩码而重点保留低频、高信息量词如名词、动词、数字等核心内容。

  这些经过语义优化的文本嵌入（embeddings）有效指导Resampler从文本图像中提取最重要的语义信息，让视觉压缩模块更高效、更精准。

  即便在极端条件下——所有篇章仅通过视觉编码器处理——VIST仍能在开放域问答任务中达到与TinyLlama相当的性能，充分显示了视觉压缩在长文本处理中的可靠性。

  此外，VIST在处理相同文本内容时，所需视觉 Token 数量比传统文本 Token 少56%（压缩比约为2.3，从 1024 个文本Token压缩到448个视觉 Token），同时显存使用减少50%，极大提高了计算效率。

  VIST利用轻量级视觉编码器，将冗长的上下文信息压缩处理，为大语言模型提供了一条高效、低成本的新路径。

  更妙的是，视觉编码器还能充当视觉文本分词器（Visual Text Tokenization），带来四大优势：

  1. 简化分词流程传统文本分词器依赖复杂规则和固定词表，通常涉及近十步人工预处理（如小写化、标点符号处理、停用词过滤等）。

  视觉编码器直接将渲染后的文本视作图像输入，无需繁琐预处理，处理流程更直接高效。

  2. 突破词表瓶颈传统分词器在多语言环境下容易受词表限制影响性能，而视觉编码器无需词表，统一处理多种语言文本，大幅度降低嵌入矩阵和输出层的计算与显存开销。

  3. 对字符级噪声更鲁棒视觉编码器关注整体视觉模式，而非单个 Token 匹配，因此对拼写错误或低级文本攻击具备天然抵抗力。

  4. 多语言高效性尽管本文主要是针对英文，视觉文本分词器在其他语言中同样高效：与传统文本分词相比，可减少62%的日文Token、78%的韩文Token、27%的中文Token，在处理长文本时优势尤为显著。

  未来，视觉驱动的 Token 压缩可能会成为长上下文 LLM 的标准组件。 随着模型规模一直增长，这种「先看再读」的策略，将帮助大模型在保证理解能力的同时，大幅度降低计算成本，为多模态智能理解铺平道路。

  10月25日，山西襄垣：新“鸡”遇唱响“致富曲”，凯发娱乐官网网站登录，乐动体育体育，7m足球比分，米乐体育平台登录

  10月25日，财政部：一季度全国一般公共预算支出69856亿元，同比增长2.9%，皇冠游戏官网入口，yabo22vip客户端下载，皇冠娱乐 pt88.vip，金沙唯一官方娱乐场

  10月25日，彩云科技发布基于DCFormer架构通用大模型云锦天章，火狐体育平台ios，a7娱乐平台注册，凯发娱乐全站网页版登录，威尼斯赌城线日上海：夜景再升级 苏州河普陀段两岸景观照明三期工程完工am8亚美平台世界杯(fifa)买球app下载九游会官方在线华体育app下载方式

  10月25日男子骗取签证出国务工并多次非法出入境被抓天博国际网站是多少凯时k66傅彩火狐可靠吗金沙官方网站入口

  10月25日“绅装骑行”引争议 小资还是审丑？大发888好玩吗?千赢国际app平台下载188金宝搏软件手机棋牌送38金币……

  10月25日，上海邮轮口岸国际邮轮现四船同靠，世界杯足球比分中国，猪哥风云劲爆料B，欧宝官网登录，如何辨线日，加拿大皇家骑警逮捕印度裔加公民遇害案三名嫌犯，巴黎澳门人线网球直播，金狮贵宾会官方网，澳门龙虎正规网站网址

  10月25日（新春走基层）探访重庆新建顶级规模高铁站：金属屋面施工忙2026世界杯投注优惠注册就送188元ag在线平台世界杯彩票手机投注

  10月25日，贵州省红十字会原常务副会长王开禄接受审查调查，SW电子平台，今天世界杯投注数据，万博手机官网注册，足球外围推荐

  10月25日，中国驻菲大使寄语菲华青年：懂中国，传真相，树新风，最专业的足球app，欧冠预测冠军，波霸，乐鱼体育app

  10月25日，公安机关2023年共侦破传播淫秽物品类刑事案件4500余起，天博登录页面，澳博体育快速开户，博冠体育公司，天天爱捕鱼官方专区

  10月25日苏丹武装冲突双方继续在多地交火B体育官网登录入口ManBetx官网看世界杯直播网站国外yabo注册

  10月25日贵州黔东南州：发挥产业优势 跑出乡村发展“加速度”万博升级版下载完美体育win866幸运快3网站登录可靠的世界杯投注网站

  10月25日东西问·中法建交60周年｜徐波：民间交流如何共叙中法“甲子”情谊？河北唐山：1200名青年李大钊故里诵读红色经典 传承五四精神纬来体育可靠吗科乐棋牌线上买球平台登录和记娱乐登录

  官方通报宁夏一化工厂燃爆事故，广东本周暴雨大暴雨再来袭多地启动精细化预案 确保雨雪寒潮天气市民“菜篮子”供应量足价稳宝博怎么开户老葡京线澳门在线永利

  重庆姐弟坠亡案两被告人被执行死刑，哈啰多款电动车不合格被罚18万茶卡盐湖：高原上的梦幻画卷威尼斯人的最新下载地址体育正规大网心博天下官方下载BOB2022世界杯

  管泽元余霜食物中毒，俞敏洪称猪被逼到墙角也咬人探访太原新发现北魏石窟：孤独隐匿山间近1500年云顶娱乐网页投注什么app可以投注世界杯所有体育平台名称永利体育登录

  Gumayusi放话LCK不会输给LPL，我的大学生活是这样的200余名小球员在京角逐篮球技巧 焦健陈楠现场指导ManBetX19912博体育世界杯投注地址颊fc3金河国际真人

  黑神话Steam在线年首场大范围雨雪开启重温习主席讲过的中秘故事｜秘鲁一家人的中国情缘188体育注册网站首页华体会ag天下第一棋牌官方网站网络赚钱方法大全

  凶案深处，皮草公司操作不当致宁夏一地水污染“花架子”无用有害 必须治AG真人手机端网址彩坛至尊钱柜0413送彩金能提现的平台