距离 ICML 2026 的投稿窗口越来越近这几个月我一直在整理异常检测方向的投稿思路。翻了翻近两年的工作一个很明显的信号是标题里带“foundation model”的异常检测论文几乎每个组都在做但真正能讲清楚“为什么基础模型适合做异常检测”“什么样的架构才算基础模型”的工作少之又少。这篇文章就把我看到的脉络、技术路线和实操细节一起拆开聊。先说清楚一个背景异常检测在计算机视觉里一直是个“小而刚需”的方向。工业质检、安防监控、医疗影像、卫星遥感都在用但过去几年的主流做法是“一类一模型”——每条产线、每个品类单独训一个专家模型场景稍微一变就得重新采集数据、重新标注、重新训练。这个范式在 2020 年之前没问题因为工业现场的类别相对固定模型可以在离线阶段充分训练。但到了 2024 年之后柔性制造、小批量多品种的产线越来越多换产频率从季度级变成周级传统的“专用小模型”路线就撑不住了。这也是“异常检测基础模型”这个概念在 ICML 2026 这一轮被反复提起的根源人们希望有一个模型面对没见过的新品类靠少量正常样本甚至零样本就能完成异常检测和定位而不是每次从零开始训练。这篇文章不是综述是我自己在这一轮技术浪潮里的观察和实操体会适合正在准备 ICML 2026 投稿的研究者也适合想评估“异常检测基础模型能不能用在自己的产线上”的工程师。1. 从“一类一模型”到“一个模型吃遍所有产线”研究动机的空间1.1 为什么 2026 年突然需要“基础模型”这个说法异常检测这个方向最早叫 novelty detection / one-class classification用的方法从 SVM 到自编码器都有。2018 年到 2022 年是“教师-学生网络”和“特征嵌入”的天下典型代表是 SPADE 和 PatchCore。核心逻辑是拿一个在 ImageNet 上预训练好的网络通常是 ResNet 或 Wide ResNet当特征提取器把正常样本的特征存成记忆库检测时算 query 特征和记忆库之间的距离。这个方法在 MVTec AD 上能到 95% 以上的图像级 AUROC听起来不错但它有个天生的缺陷模型的能力上限被预训练骨干锁死了。骨干是在 ImageNet 的自然图像上训的对工业场景里那些高度重复的纹理、规则几何结构并不敏感。所以每一个新品类要么微调骨干要么换更合适的预训练模型最终还是回到“一类一模型”。基础模型的思路则完全不同。它强调的是用一个大规模预训练模型覆盖尽可能多的视觉语义通过文本、提示或少量参考样本去适配下游任务。CLIP 在 2021 年出来之后大家很快就想到能不能把“正常”和“异常”这对概念用文本 embedding 表达出来然后拿视觉-语言模型去做零样本异常检测WinCLIP 是这方面的第一波代表作论文直接上了 CVPR 2023。它做的事情很朴素手工构造一些文本提示比如“a photo of a bottle with a scratch”“a photo of a bottle with a dent”和图像特征做相似度比较得分低就说明图像里有异常。效果确实不错在 MVTec AD 的零样本设定下能到 85%-90% 的图像级 AUROC还不需要任何训练样本。这给整个领域打开了一个口子原来异常检测也可以不用训练直接靠基础模型对“异常”这个概念的先验知识来完成。2024 年后AnomalyCLIP、APRIL-GAN、InCTRL 这些工作陆续跟进有的做提示微调有的做测试时自适应有的做上下文学习。到 2026 年这个节点已经没有人怀疑“基础模型异常检测”的可行性大家的焦点转移到了更深的问题这样的模型边界在哪里哪些场景它做不了以及什么样的架构才是真正的“异常检测基础模型”。1.2 ICML 这条线的定位更偏方法论还是更偏系统同样是做异常检测投 CVPR 和投 ICML 的策略差别很大。CVPR 喜欢视觉任务上的完整方案场景明确、效果显著、在 MVTec 这类基准上刷得动就行。ICML 则更看重问题定义的清晰度、方法的可迁移性、以及对“为什么这样做有效”的理论解释。过去两年已经有一批 NLP 风格的工作进入顶会视野。举个例子把异常检测重新定义为“不确定性估计”或者“分布外检测”的一个特例然后借助概率建模或者最优传输理论给出统一框架这就是典型的 ICML 口味。具体到“异常检测基础模型”我判断 ICML 2026 会重点接收三类工作第一类是跨语义统一的。也就是一个模型同时处理图像异常、时序异常、热成像异常而不是只盯着工业图像。第二类是有限样本下的理论保证。比如在只有 K 个正常样本的前提下模型能达到多大的检测半径、误报率上界是多少这种分析在 ICML 是有分量的。第三类是推理时的自适应机制。基础模型在某个具体产线上能力不够如何利用少量无标签数据在测试阶段快速调整而不做梯度更新甚至不做反向传播。1.3 现有代表性工作脉络一览为了后面讨论方便我还是把这两年比较关键的工作按路线分了一下表格只列我认为最有代表性的方法核心思想数据依赖是否零样本主要基准PatchCore预训练骨干特征 记忆库 邻域距离每类几十张正常图否MVTec ADWinCLIPCLIP 视觉-语言提示匹配无需训练样本是MVTec ADAnomalyCLIP对齐文本与图像特征类别无关提示无需训练样本可少样本微调是/少样本MVTec AD, VisAAPRIL-GAN生成伪缺陷做提示学习需要正常样本少样本MVTec AD, VisAInCTRL上下文学习 记忆库选择需少量正常样本少样本MVTec AD从这条脉络可以看出“基础模型”在异常检测里其实有两个层面的含义。一个层面是指以 CLIP 为代表的视觉-语言基础模型作为特征来源这是绝大多数论文的做法。另一个层面是把训练好的检测系统本身当作一个可复用、可提示的基础设施输入一个品类 ID 和新品类的一小包正常样本模型内部完成适配输出异常分数。后者更接近“基础模型”这个词的本意但目前做的人反而更少这说明机会还很大。2. 工业落地推着研究者走异常检测 ToB 的残酷真相2.1 产线数据长什么样和论文里差多远如果只在 MVTec AD 上做实验你可能觉得异常检测已经快解决了15 类工业产品、5354 张高清图像、缺陷类别清晰、光照统一、拍摄角度固定。但真实产线完全不是这样。我参与过几条 3C 和锂电产线的落地项目最典型的问题是缺陷样本极度稀缺且分布极不均衡。一条运行稳定的产线可能连续一个月的不良品不到 20 件而且大多集中在某一种缺陷类型上其他缺陷类型半年都见不到一次。这意味着你根本没有足够的异常样本来训练一个像样的二分类器也不可能对每一种缺陷都做标注。另一个问题是换产。今天产线做的是手机中框下周可能改成平板后盖表面材质、加工纹理、检测光照全变了。如果按照传统流程重新采集数据、重新标注、重新训练至少一两周就过去了企业根本等不起。这就是为什么工业界对“零样本异常检测”和“少样本异常检测”的渴求远超学术界的想象。但反过来工业界对精度的要求也远高于论文基准的设定。一篇论文在 MVTec AD 上刷到 99.1% 的图像级 AUROC 是很漂亮可到了真实产线上一旦“漏检一个缺陷→下游工序报废一整批”“误杀率太高→产线停线”这种问题出现模型的整体可用性就要被重新评估。所谓基础模型在工业端要过的第一关不是 AUROC而是在给定误报率上限下的召回率。2.2 指标选择图像级 AUC、像素级 AUC 和一个被忽略的 AUPR这里顺便把评估指标说透因为这是很多人投稿和落地翻车的高发区。工业异常检测最常用的两个指标是图像级 AUROC 和像素级 AUROC。图像级 AUROC 衡量的是“一张图到底有没有缺陷”的分类能力像素级 AUROC 衡量的是“异常区域定位准不准”。前者决定检测系统的上限后者决定可视化解释的可用性。但有一个指标论文里提得很少实际落地却非常关键就是AUPR。原因很简单产线数据里正常样本和异常样本的比例可能达到 100:1 甚至 1000:1极端不平衡下 AUROC 会虚高因为 AUC 计算时对假阳性的惩罚不够狠。AUPR 对假阳性更敏感更贴近“从大量正常品里捞异常品”这个真实场景。我见过不少模型在 MVTec 上 AUROC 漂亮得不行一换到真实产线的 AUPR 就崩盘根源就是评估时没有考虑先验分布。投 ICML 或投 CVPR 的时候如果只在平衡采样的测试集上报 AUROC审稿人会默认你在隐藏什么。建议把 AUPR、F1-max、以及在不同假阳性率约束下的召回率一起报出来这样才算真正对结果负责。2.3 为什么“零样本”在工厂里不是便宜而是高风险很多企业听说了零样本异常检测第一反应是“那我连数据都不用准备了”这个想法很危险。零样本意味着系统完全依赖基础模型的先验知识而在工业现场异常的定义往往是高度行业化的。比如 PCB 板上的铜斑、电池极片上的露箔这些在外人看来就是“颜色的细微变化”CLIP 的先验知识根本覆盖不到。你让 WinCLIP 直接跑 PCB 场景大概率会把正常的铜箔纹理当成异常因为基础模型没有见过“在密集铜线中找到一根断线”这种任务。所以我的建议是基础模型解决的是“冷启动”问题不是“免数据”问题。企业至少要准备两个东西一是该品类的高质量正常样本几十张到几百张都可以二是一个简单的验证区和一条人工复核通道。系统的正确使用方式是先用零样本模式跑起来看整体效果再拿少量正常样本做少样本微调最后由人工确认误报和漏报形成反馈闭环。0 这里想强调一个大多数论文不会写的事实零样本异常检测的真正价值不在“不需要数据”而在“给后续自适应提供一个足够好的起点”。3. 预训练表征派与上下文提示派两条主流技术路线拆解3.1 表征派冻结骨干特征 距离度量实而不华表征派representation-based的思路一句话就能说清楚正常样本的特征应该在一个紧凑的区域里异常样本的特征会偏离这个区域。实现上就是拿预训练模型ResNet、ViT、DINOv2 都可以提取特征正常样本的特征存成一个记忆库检测时算 query 特征和记忆库之间的距离。PatchCore 是这条路线最经典的代表它做了两件事值得学习。第一它会贪婪地挑选记忆库中的“代表性特征”避免几千张正常图的特征堆在一起导致推理时距离计算太慢。第二它用 local neighborhood 的特征聚合来降低背景噪声的影响。实操中这套方案非常稳训练只需要前向传播一次骨干网络连反向传播都不需要跑在单张 3090 上也能轻松处理几万张参考图。但表征派有一个致命弱点特征空间和异常语义之间缺少对齐。骨干模型是在 ImageNet 上预训练的它的特征维度可能对“颜色偏移”很敏感对“规则纹理断裂”却不敏感。这导致同一个模型在不同缺陷类型上的表现方差极大。我在自己项目里跑过 DINOv2 和 CLIP 的对比DINOv2 对纹理类缺陷和结构破损更敏感CLIP 对语义性异常比如“不该出现的物体”更强两者在同一个数据集上很难同时最优。所以 2026 年的一个重要方向可能是多骨干融合把不同预训练模型的互补性利用起来而不是继续押注某一个模型的表征。3.2 提示派CLIP 文本描述能不能覆盖工业缺陷提示派proming-based走的是另一条路用文本把“正常/异常”的定义交给模型。WinCLIP 的模板是“a photo of a [cls] with a [defect]”AnomalyCLIP 更进一步不再依赖具体的类别名而是学习一个类别无关的 text prompt让“异常”这个概念本身与图像特征对齐。初看这套逻辑非常优雅异常检测变成了一个检索问题不用训练不用记忆库。但实际跑过之后会发现问题藏在“缺陷的可描述性”上。MVTec AD 里的缺陷大多是语义明确的比如划痕scratch、凹坑dent、污染contaminationCLIP 对这类词是有先验的。可到了工业现场很多缺陷其实无法用自然语言描述比如“电池表面镀层不均匀”它不是一个物体不是一个属性更像是一种统计纹理的偏移。文本提示对这种“分布型异常”几乎无能为力。所以我个人更看好的是提示派和表征派的结合CLIP 负责语义异常把场景中的“不该出现的东西”感知识别出来特征距离负责统计异常把“纹理规律被打破”这种语言覆盖不了的异常兜住。两个分数做加权融合经验上效果会好很多至少在中低误报率区间能明显提升召回。3.3 测试时自适应基础模型真正的增量机会测试时自适应test-time adaptation, TTA在分类任务里已经有很多工作但在异常检测里还处于早期。它的目标很直接模型在测试阶段看到一批无标签数据这些数据的分布和训练阶段略有偏移模型通过这些无标签数据实时调整自己的判定边界不更新全部参数只通过 LoRA 或 adapter 做轻量调整。在异常检测场景里TTA 有个天然的优势正常样本容易获得异常样本极难获得。在一条新产线上我们常常可以在开工后一小时就收集到几百张完全正常的样品图。这些图不需要人工标注因为产线刚启动时良率接近 100%。把这个“天然无标签正常集”拿来做一个快速的测试时适配就能让基础模型的特征空间向产线实际分布靠拢。我在实验里用过一个很简单的做法把产线正常图输进去收集中间层特征统计量在最后的分类头之前加一个线性缩放层用这些统计量算出缩放系数整个过程十几毫秒效果比直接零样本好不少。这不算什么高深创新但它证明了“测试时自适应”在工业场景里是低垂的果实谁先把这条路径系统化谁就更容易在 ICML 2026 上拿到一个位置。4. 热异常检测与趋势图异常检测容易漏掉的一类“异常”4.1 视觉之外的异常信号热成像与设备温度聊到这儿我要特意引出一个容易被视觉方向忽视的领域热异常检测。之前提到热搜词里有“热异常检测”和“趋势图异常检测”这两个方向其实和“工业异常检测基础模型”是同一条大船上的不同船舱。热异常检测的典型场景是电力设备和动力电池。电力机柜里的母排接头、变压器油枕、电池包的电芯表面在发生故障前往往伴生局部过热。用红外热像仪一拍正常区域温度分布是平滑的异常区域会出现一个明显的“热点”或者一条异常的温升梯度。传统做法是拿图像语义分割模型直接标注热斑但这需要大量标注数据。而基础模型的角度很简单如果模型在大量多模态数据上学到了“物体应该有怎样的表面温度分布”这一层常识它就能把异常热模式当成一种“语义异常”检测出来。难点在于数据。常见工业图像数据集里几乎不含热成像模态CLIP 和 DINOv2 的特征空间对“温度”没有显式建模。一种可行的路径是把红外灰度图和可见光图对齐后做跨模态训练让模型自己学到温度分布和外观之间的关联。另一个思路是用扩散模型的先验正常热分布的生成概率高异常热分布的生成概率低用重建误差判定异常。这两条路径目前都不成熟意味着投稿空间很大也意味着如果你想在这个方向做得从数据采集开始干起。4.2 时序基础模型怎么做趋势异常趋势图异常检测更多出现在设备健康管理PHM场景设备上的振动传感器、电流传感器、温度传感器持续产生时间序列数据绝大多数时间数据在正常范围内波动故障前会出现趋势突变、周期紊乱或缓慢漂移。传统的时间序列异常检测方法如 Anomaly Transformer、TranAD已经能做到不错的准确率但它们本质上是“每个场景训练一个模型”的路线。新增一台设备、新增一个工况模型就要重新训练。把基础模型引入时序异常检测目前主要有两条技术路线。第一条是“时序转语言”代表性工作是 Time-LLM 和 Chronos把时间序列分块 token 化后喂给 LLM让大模型直接输出未来值分布未来实际值和预测分布的偏差即为异常分数。这条路的好处是能利用语言模型对“规律性”的通用理解但坏处是时间序列的数值敏感性和语言 token 的离散性天然矛盾量化误差容易吃掉小幅度异常。第二条是“时序表征多尺度检测”先用预训练时序编码器提取趋势、周期、残差分量再分别做异常评分最后用不确定度加权融合。我在试过之后更倾向于后者因为它的结果更稳定而且对长序列的推理开销更可控。4.3 多模态统一 tokenizer2026 年值得押注的方向绕回来我觉得“异常检测基础模型”真正能撑起 ICML 论文雄心的方向是做一个统一的多模态异常 tokenizer把图像、热成像、时序信号、点云甚至文本描述全部转成同一套离散 token然后用一个自回归或掩码模型学习“正常模式”的分布。检测时某个 token 在正常分布下的概率极低就是异常信号。这个想法听起来工程量大但它击中了基础模型的要害一个真正的基础模型不能只为某个具体传感器服务而应该把“世界如何正常运转”的常识编码进来。比如同一个设备视觉上外观正常、温度分布异常、振动时序趋势异常这类跨模态的联合异常在单模态模型里很难被发现但统一 tokenizer 天然可以把多路信号对照起来。我判断 2026 年 ICML 上的“异常检测基础模型”论文里一定会有好几篇往这个方向走。哪怕实验规模不大只要问题定义清楚、方法论框架完整这类论文就比“在 MVTec 上又刷了 0.3 个点”的工作有意义得多。5. 从 ICML 2026 投稿视角看什么样的工作容易被接收5.1 ICML 审稿人关心什么方法贡献、问题表述、实验严谨性因为标题挂着 ICML 2026这一节专门聊聊投稿策略。ICML 审稿人通常有三层审视第一你的问题表述是否足够清晰、足够重要第二你的方法是否具备可迁移性和一定的理论支撑第三你的实验是否公正、可复现。具体到异常检测基础模型问题表述上最容易扣分的是“伪命题”。比如只是把 PatchCore 的特征提取器从 ResNet 换成 DINOv2然后说是基础模型这种表述大概率会被审稿人当场质疑基础模型的“基础”在哪里是跨任务泛化跨数据域泛化还是参数规模的涌现能力至少要占一条否则就是在滥用概念。方法上ICML 偏爱有理论味道的分析比如你能证明在某些假设下基于预训练特征的局部距离可以避免把“未知的正常模式”误判成异常或者你能分析测试时自适应在有限样本下的收敛误差。这些都是加分项不需要完整定理但至少要在方法部分写清楚“为什么这样做是合理的”而不是纯靠实验说明“有效”。5.2 评测协议里常见的不严谨基准混用、指标报喜不报忧这两年异常检测论文的评测里有个非常不好的趋势基准混用。有人拿 MVTec AD 做训练或参考集然后跑到 VisA 上测有人用不同图像分辨率、不同输入尺寸去调自己的方法但 baseline 全用默认参数还有人只报“object-level”的指标把“pixel-level”的定位能力藏起来。这种做法在 CV 社区可能还能混过去但 ICML 审稿人普遍更严格他们一旦发现你的 baseline 跑得比原论文低几个点整篇论文的可信度就会崩塌。我的建议是实验部分至少准备三块内容。一是多个公共基准上的横向对比MVTec AD、VisA、BTAD 都跑对象和像素两个粒度都报。二是每个方法的实验配置要公开包括输入分辨率、特征提取器的层的选择、距离度量方式是 L2 还是余弦、记忆库的大小上限这些细节直接影响分数。三是做一个针对性的“失败案例分析”明确写出你的方法在哪类异常上失效不要等到审稿人拿这个当拒稿理由。愿意公开短板在 ICML 这个池子里反而是加分项。5.3 真正有增量的方向异常解释、人机协同、边缘部署如果让我大胆猜一下 ICML 2026 的爆发点我会押三个方向。第一个是异常解释。现在大多数方法只输出一个 score 或者一张热力图但工业场景和技术管理者更想知道“为什么异常”。让基础模型生成自然语言解释比如“在金属表面左上区域出现 3mm 宽、长 12mm 的线性划痕与相邻正常区域纹理方向不一致”这种可读性极强的输出会让基础模型的实用价值高一个量级。第二个是人机协同的交互式检测。人类专家在系统不确定的时候给出一两次反馈模型利用反馈在测试时即时调整判定。这其实和 3.3 里提到的测试时自适应一脉相承但把它做成一个“交互协议”能讲出更有意思的故事。第三个是边缘部署。工业现场的很多环节要求模型跑在嵌入式设备上不能回传云端。一个“体积小、启动快、可持续微调”的基础模型从工程角度就是有吸引力的。这类论文容易被 CV 社区低估但在 ICML 眼里“效率”本身就是科学贡献。如果你能把一个零样本异常检测模型压缩到 50M 参数、在 Jetson 级别的设备上跑实时同时保持和 300M 参数模型相近的精度这个故事不比刷点弱。6. 如果你想复现或发起一个异常检测基础模型项目实操与避坑6.1 环境与骨干选型CLIP 还是 DINOv2如果现在有人问我“我想快速跑起来一个异常检测基础模型项目从哪里开始”我会分两步回答。第一步先把 WinCLIP 或 AnomalyCLIP 的官方代码在 MVTec AD 上跑通拿到和论文一致的 baseline这是所有后续改进的锚点。第二步对照你的目标场景选骨干如果主攻语义异常场景里出现了不该出现的东西用 OpenCLIP 的 ViT-L/14 或 ViT-H/14如果主攻纹理和结构异常划痕、凹凸、脏污用 DINOv2 的 ViT-L/14。选择骨干时有一个常被忽略的细节输入分辨率。CLIP 的默认训练分辨率是 224拿它去检测细微缺陷会在很小的 patch 上丢失信息。常规做法是改成一个较小的 patch 和更大的输入尺寸比如把输入图切成 224×224 的 patch 分别提特征或者直接上 518 分辨率。DINOv2 对高分辨率输入的适应性更好但显存消耗会明显增加。我的经验是在显存允许的前提下把输入分辨率提到 448 左右通常收益大于代价再往上提升有限而推理速度会变得不可接受。硬件上一张 40G 显存的 A100 足够跑完 MVTec 全量 15 类的特征提取和评估不需要多卡分布式。6.2 数据集与评估协议MVTec AD 之外你还应该跑什么MVTec AD 是必跑的但只跑它肯定不够。我建议再加三个数据集特点为什么要跑VisA12 类复杂结构物体遮挡多、纹理复杂验证泛化性MVTec 上太简单容易给虚假信心BTAD3 类工业组件缺陷小而细微验证对“小缺陷”的敏感性MVTec 3D-AD3D 点云异常如你想宣称多模态这个数据集必须碰评估时特别要注意“类别平均”和“实例平均”的区别。很多论文报的是 per-category AUROC 的平均这在类别不均匀时会高估整体能力。建议把每类的结果用表格列出让审稿人自己判断哪个类别最弱。最弱类别往往比平均分更有信息量——它直接告诉你模型的边界在哪里。我见过太多论文平均分高得吓人但拆开一看“cable”类和“toothbrush”类差了 20 多个点这种信息必须自己主动暴露不要等审稿人发现。6.3 跑通和调优的几个关键细节最后说几个实操中容易踩的坑都是我自己填过的。第一个坑是特征层的选择。不论是 CLIP 还是 DINOv2其深层特征对语义更敏感浅层特征对纹理和几何更敏感到底用哪一层没有定论。我的经验是不要只取最后一层把最后三层的特征做加权拼接权重用一个小的验证集搜索一下一般就能把结果往上拉 1-2 个点。代价是特征维度变高、显存占用变大但只要缓存到磁盘训练期并没有太大压力。第二个坑是记忆库的规模控制。PatchCore 的做法是对特征做贪心挑选把参考特征缩减到可控规模。实际上一万张正常图的特征如果全部存下来每张图推理时要算一万次距离速度完全不可用。用 faiss 建一个 IVF index 能有效解决搜索效率问题同时不影响精度。这个细节论文里很少写但工程上几乎是必须的。第三个坑是不要相信单次实验的 AUC。异常检测的评估方差比分类大得多因为正样本太少随机抽一部分测试图就可能让 AUROC 上下浮动 2-3 个点。同一个设置至少跑三次取均值和标准差再报。投稿时如果只报一次最好成绩一旦审稿人要求重跑很容易露馅。第四个坑是真实分布偏移。实验室的数据集是同一个相机、同一个光照下采集的产线上一会儿白班一会儿夜班光照色温全变了。解决这个问题的常用做法是在特征提取后加一个简单的统计归一化比如把每个通道的均值和方差对齐到参考集这能显著降低光照变化带来的假阳性。这个 trick 成本极低在真实场景里非常救命。我在项目实操中还有个习惯从第一天就把“失败案例”记下来。哪个类别效果差、哪类缺陷总是漏检、哪个光照条件下误报暴增全部记在一个文档里。后面如果要把工作整理成论文这些笔记就是最好的 motivation 素材。更重要的是它能让你在对着审稿人解释“你的方法为什么在这里差”的时候不至于手忙脚乱。毕竟所有的工作都有边界把边界画清楚比假装没有边界要诚实得多也更能让人信任你的结论。