前段时间帮一个做产线质检的朋友看模型他手上攒了三万多张产品图真正人工标过的只有八百多张剩下的全躺在硬盘里吃灰。他上来就问我这种情况是不是该上半监督学习我没接话反问了三件事——这八百张覆盖了几个缺陷类别、每个类别分到多少张、没标的那批图和标过的图是不是同一批设备同一批光照拍出来的。他一个都答不上来。这个场景我见过太多次了半监督学习、监督学习、无监督学习三者的选择被简化成了一个标签够不够的算术题而真正决定成败的那些前提反而没人去查。这篇就聊透一件事在什么条件下半监督学习是那个正确答案什么条件下它只是个看起来很美、实际会让你倒退回监督学习甚至更差的选项。适合已经跑通过监督学习基线、手里有大量未标注数据、正在纠结要不要换路线的同学也适合刚接触这块、想建立一套判断直觉的读者。1. 三种范式的分水岭其实不是算法而是标签预算1.1 把问题重新表述成每个标签值多少钱教科书上讲三种范式的区别标准说法是有没有标签全有是监督全无是无监督介于两者之间是半监督。这个定义没错但在工程上几乎没用因为它没有告诉你什么时候该选哪个。我更愿意换一个角度这三种范式对应的是三份不同的预算表预算表的核心科目不是算力是标签。算一笔很实在的账。假设你的标注团队一个工时能处理一百条短文本分类或者二十张需要精细框选的图像。如果你的业务目标要求十万条训练样本全标就是五万张图的工作量按每人每天两百张算光标注就要两百多个人日。这时候你自然会想能不能只标五千张剩下九万五千张让模型自己消化这个念头一出来你其实已经在问半监督的问题了。但这里有个陷阱标注成本不是线性的。标前一千张你会很认真地写标注规范、做双人交叉校验标到第五万张边际质量一定下降一致性会掉。也就是说标注量翻十倍有效信息量可能只翻了三倍。这个折扣率是很多人算漏的它恰恰是半监督能吃到的那部分红利来源。1.2 监督、无监督、半监督回答的其实是三个不同的问题监督学习回答的是给定输入输出是什么前提是你事先知道答案空间有多大、有哪些类别、边界大概长什么样。它的强项在于目标明确弱项在于它对你没标到的区域一无所知模型在训练分布之外的表现完全不可控。无监督学习回答的是另一个问题这批数据自己长什么样。聚类、降维、密度估计、异常检测都属于这一类它不关心你心里的类别只关心数据自身的结构。很多人把无监督当成没有标签时的退路其实它更适合的场景是探索和发现——你连有几类都不知道的时候聚类能给你一个初步答案。半监督学习回答的是第三个问题而且这个问题最微妙能不能用大量没答案的数据把少量有答案的数据的价值放大。注意措辞不是替代是放大。它本质上是把一个弱信号少量标签和一个强结构信号大量无标签数据的分布形态做加权融合。融合得好收益明显融合得不好弱信号被强信号淹没模型会学成一个伪装成分类器的聚类器。1.3 一个被大量误判的中间地带实际操作中最常见的错误是把一堆本来不属于半监督的问题塞进半监督的筐里。举几个典型的混淆项。如果你手上那批标签是用规则、关键词或者远程知识库自动生成的噪声很大但覆盖面广那是弱监督不是半监督。弱监督的关键工作是去噪和重新加权而不是去研究一致性正则。如果你有一大堆无标签数据先拿它做自监督预训练再用少量标签微调这套流程在工程上常被口头叫成半监督但它的本质是迁移学习收益主要来自预训练任务和数据规模跟半监督那套分布假设关系不大。还有一类是主动学习不是被动接受现有标注而是让模型挑出最值得标的样本去问人。它和半监督是天然搭档但解决的问题方向相反——半监督想着怎么少标主动学习想着怎么标得更值。把这三者混为一谈最直接的后果是选错技术路线闷头调了两个月的一致性损失权重最后发现瓶颈其实在标注噪声上。2. 出现这几种信号时半监督才真正划算2.1 采集几乎免费、标注极其昂贵且两者比例悬殊这是半监督最经典也最可靠的适用条件。判断标准不是有没有无标签数据而是无标签数据和有标签数据的比例有多悬殊。我的经验阈值是标注数据占总数据量的比例低于百分之五且无标签数据量至少是标注量的二十倍以上半监督才有明显的收益空间。为什么要求这么高因为半监督的增益是渐进的它的本质是让决策边界在无标签数据密集的区域被推到低密度处。无标签数据太少这个推力就微不足道你还额外背上了一堆超参收益抵不过复杂度。如果无标签数据只有标注数据的两三倍老老实实多标一点往往比调半监督更划算——标注两千张图的时间可能比你调两周阈值和增强强度要短。举个例子。某团队做工业零件表面缺陷分类人工标一张图平均要二十五分钟缺陷区域小、需要放大看但他们每天产线自动采集的图有八千张。这个比例是典型的半监督沃土采集成本趋近于零标注成本极高比例轻松过百倍。反过来的例子是医疗影像采集本身就要成本、要合规流程无标签数据的获取也不便宜那半监督的经济账就没那么好算了。2.2 数据在特征空间里有清晰的簇结构半监督最核心的赌注是一句话相似的样本应该有相似的标签。学术上叫平滑假设和聚类假设。这个赌注成立半监督就有效不成立你喂多少无标签数据都是在给模型灌噪声。怎么在动手之前就知道这个赌注成不成立有个很便宜的验证办法拿你现有的标注集在特征空间里做一次 k 近邻检索统计每个样本的最近邻标签和它自己一致的比例也就是 kNN 一致率。如果各类别平均下来一致率能到百分之九十以上说明特征空间和标签空间是对齐的半监督大概率能吃到肉如果一致率只有百分之六十说明相似的样本标签本来就五花八门半监督的核心假设直接破了。这个检查我强烈建议做成流程里的固定环节因为它只要十几行代码却能省掉你几周的无效实验。特征从哪来用一个在标注集上训好的小模型取倒数第二层输出就行不需要额外开销。2.3 未标注数据与标注数据必须同源这是最容易被忽略、翻车后果最严重的一条。所谓同源指的是采集设备、采集环境、时间跨度、预处理流程都要一致。现实中最常见的翻车剧本是这样标注的两千张图是某个批次、某台相机、某种光照条件下拍的未标注的八万张是全年不同季节、不同车间、不同设备拍的。模型用前者训练、用后者做半监督学出来的东西会往哪个方向偏谁也说不清。动手之前先做一次分布检验。最省事的办法是训一个二分类器去区分这批是标注数据还是这批是无标签数据看它的 AUC。如果 AUC 明显高于零点五比如零点七以上说明两批数据在特征上是可分的来源不一致这时候必须先做域对齐或者重新采样别急着上模型。AUC 在零点五到零点六之间基本可以认为同源。注意这个域分类器的特征最好用通用特征比如预训练模型的输出不要用你正在训的任务模型特征。任务模型本身就会把两批数据往不同方向拉用它做检验会自我印证测出假阴性。2.4 冷启动、长尾和漂移场景下的特殊价值有三类场景即使比例没那么悬殊半监督也值得一试。冷启动新业务刚上线历史标注几乎为零但线上每天源源不断产生无标签数据。这时候半监督的价值不在于榨干现有标注而在于防止模型只在几百条样本上学到一个过拟合的边界。长尾分布头部类别标签充足尾部类别只有个位数。半监督在尾部类上的理论收益最大——因为尾部类缺的不是特征、是标签无标签数据里其实躺着大量尾部类样本只是没人标。但反过来它在这类场景也最容易崩原因后面细说。分布漂移模型上线三个月后效果下滑因为数据分布变了。这时候重新标一批新数据成本高用新采集的无标签数据配合少量新标注做半监督自适应是一种折中方案。这条路线在工程上比推倒重来友好得多但要盯着漂移速度——如果三个月就漂一次那套半监督流程本身得足够自动化才跑得动。3. 分布假设一旦破了半监督会比监督更差这是我认为最需要摆到台面上的部分因为绝大多数介绍半监督的材料都在讲它能带来多少提升很少讲它什么时候会让你的指标倒挂。我踩过也见过别人踩过。3.1 平滑假设失效邻域内标签本来就不一致平滑假设说特征空间里挨得近的样本标签应该一样。但有一类任务的标签是由局部细节决定的全局语义再像也没用。情感分类里的转折句式是最典型的例子——东西是不错可惜三天就坏了和东西一般但便宜到离谱这两句在句向量空间里可能挨得非常近因为前半段都在铺垫但极性完全相反。这种数据上做半监督模型会不断把两类样本往中间拉最后决策边界被磨平两类都分不清。更麻烦的是这个失败是静默的训练损失看起来很漂亮因为没有标签的样本被强行赋予了一个自洽的伪标签模型自我感觉良好。3.2 聚类假设失效一个簇里混着多个类聚类假设说同一簇里的样本属于同一类。这在粗粒度任务上成立得很好猫和狗在通用视觉特征里分得很开。但细粒度任务就是它的天敌。比如区分两种外观极像的工业零件或者区分几种只在某个特定部位有差异的产品型号它们在通用特征空间里挤成一团聚类算法给出的簇可能横跨好几个真实类别。这种情况下半监督会把这些混在一起的样本统一推向同一类等于人为制造了系统性偏差。判断方法还是那个 kNN 一致率检验如果一致率在细粒度类别上明显偏低就说明聚类假设不适用于你的特征空间。3.3 确认偏差伪标签怎么把自己越喂越错具体说说自训练这条路线为什么会自噬。流程是这样的用有标签数据训一个初始模型拿它给无标签数据打伪标签把置信度高的挑出来混进训练集再训一轮反复迭代。问题出在置信度高的这个筛选条件上。模型在初始阶段一定会在某些区域判错。这些错误判断里有一部分置信度很高——神经网络的置信度和正确率从来不是一回事尤其在没有充分训练的区域。这些高置信度的错误伪标签进入训练集后模型在下一轮会更加自信地重复这个错误然后筛出更多同类错误。迭代几轮下来模型在某个子区域上的偏差被固化再也纠不回来。这个过程的可怕之处在于它不会报错。验证集如果来自同一个有偏的分布指标甚至还会上升。等你上线才发现某些类别整个塌掉了回头查已经很难定位是哪一轮引入的。3.4 类别不平衡下伪标签的多数类吞并不平衡数据加半监督是最容易出事的组合。假设你的数据里百分之九十是正常样本、百分之十是异常样本模型对正常样本的置信度天然就高因为训练样本多。伪标签筛选时百分之九十九选出来的都会是正常样本异常样本几乎全军覆没。结果就是训练集进一步向多数类倾斜模型对少数类的判别能力持续退化。这个正反馈跑起来几轮之后模型会退化成一个快速判别正常样本的单类分类器指标上看整体准确率还有九十几但异常召回率可能掉到零点一以下。对策不是没有按类别配额挑选伪标签让每个类别挑固定的数量即使某个类的平均置信度低也照样挑或者对每个类的伪标签做置信度分位数截断只取各类前百分之多少。这些做法都会牺牲一点平均置信度但能保住类别平衡。我在不平衡场景上试过配额策略能把少数类的召回率拉回来七八个点代价是整体准确率掉一两个点这个交换在绝大多数业务上是划算的。3.5 隐性成本调参预算翻倍与结果不可复现还有个不太被提及、但在真实项目里非常致命的问题半监督引入的超参数远多于监督学习。伪标签置信度阈值、每类配额、无监督损失的权重、增强强度、教师模型的 EMA 衰减率、预热轮数……每一个都对结果敏感而且彼此耦合。你调好了阈值增强强度的最优值就变了。这意味着你的实验预算至少翻两倍。更要命的是复现性下降——同一套配置在不同随机种子下波动可能有三到五个点比监督学习的两倍还多。如果你的项目有上线时间压力这笔隐性成本必须提前算进去。我见过因为反复调不出来而中途放弃半监督、回头老老实实补标注的案例白烧了六周人力。4. 落到工程上一套可执行的决策流程前面讲了那么多判断标准怎么把它们组织成一条能跑的流程我通常按下面这套顺序走每一步都有明确的停或继续的判据。4.1 先把监督基线的学习曲线摸出来任何时候都别跳过这一步。只用人有标签的数据训一个基线然后做一次学习曲线实验分别用百分之十、百分之三十、百分之五十、百分之一百的标注数据各训一次每次从总量里分层抽样保证类别比例一致把指标画成关于标注量的曲线。这条曲线会告诉你三件关键的事。第一在百分之百标注量下的指标就是你的监督上限半监督的目标是逼近甚至超过它。第二曲线在哪个点开始饱和——如果在百分之五十处就基本走平说明瓶颈不在标注量而可能在特征表达、标注质量或者类别本身的可分性这时候上十倍的半监督也不会有什么起色。第三曲线的斜率告诉你每增加一个百分点的标注能换来多少指标这个数值就是半监督需要打败的对手。4.2 增量式喂入未标注数据的实验协议确认了曲线没饱和开始做半监督实验但一定要做增量对照别一次全喂进去。我的协议是固定标注集不动把无标签数据量按 1 倍、5 倍、20 倍、50 倍四档逐步加入每档跑三次不同随机种子记录指标均值和方差。这个设计的目的不是找到最优点而是观察指标随无标签量的变化趋势。如果趋势单调上升然后趋于平缓说明假设成立可以放心加大投入。如果先升后降说明在某个量级上假设破了——降的那一点就是分布不一致或者确认偏差开始起作用的信号这时候要么检查数据同源性要么调严伪标签筛选。如果从头到尾基本平着那半监督对你的数据不奏效收手。4.3 验证集怎么切才不会被污染这是实验设计里最容易犯的错很多看起来半监督提升五个点的结果问题都出在这里。第一条铁律验证集和测试集必须全部来自人工标注且绝不能出现在无标签池里。我见过把无标签数据随机切一部分当验证集的做法这相当于用模型自己产生的伪标签去评估模型自己指标虚高是必然的。第二条验证集要按真实业务分布切不能只保留头部类别。很多人的标注集本身就偏全标的是典型样本验证集跟着也偏最后模型在尾部类上的灾难完全评估不出来。第三条如果做的是时序相关任务验证集必须按时间切不能随机打乱。随机切会让同一时期的样本同时出现在训练和验证里指标虚高。4.4 五个问题走完答案基本就出来了把前面所有判据浓缩成一张表实际决策时按顺序问下来基本能在半小时内定方向。顺序要问的问题判据结论1监督学习曲线的瓶颈是标注量吗百分之五十标注即饱和不是先查特征和标注质量别上半监督2无标签数据量与标注量比例低于 5 倍优先补标注性价比更高3kNN 标签一致率低于 0.85平滑假设不成立半监督风险极高4域分类器 AUC标注 vs 未标注高于 0.65分布不同源先做对齐或重采样5类别是否严重不平衡头部类占比超过 85%可以上但必须配类别配额策略五个问题里如果有三个以上落在危险区我的建议是回到监督学习用主动学习的方式挑样本补标注这条路慢但确定性高。只有前两个问题明确合格、后三个问题至多一个落在危险区才值得投入半监督。5. 方法选型不同数据形态配不同的半监督确定要上半监督之后下一个岔路口是选哪一类方法。这里没有万能解选错了方法比不选还糟。5.1 自训练与伪标签门槛最低翻车率最高这是最容易实现的一类几十行代码就能跑起来适合做第一轮可行性验证。核心循环大概是这个形状for epoch in range(num_rounds): pseudo [] for batch in unlabeled_loader: logits teacher(batch) probs softmax(logits, dim-1) conf, pred probs.max(dim-1) # 置信度阈值 每类配额双重筛选 mask conf threshold pseudo.append((batch[mask], pred[mask])) # 混入有标签数据一起训练学生模型 train_one_epoch(student, labeled_loader, pseudo) # EMA 更新教师模型 update_ema(teacher, student, alpha0.999)关键在于筛选策略前面讲过的两个坑都出在这里。单纯用置信度阈值在不平衡数据上必然崩加上每类配额能救回来但配额本身也需要按类别分布设定不能一刀切。我的建议是自训练只用来做可行性验证确认这条路上有收益之后再换更稳的方法。原因很简单自训练的稳定性高度依赖初始模型质量初始模型在哪些区域判错后面就一路错下去。5.2 一致性正则图像类任务的主力一致性正则的思路完全不同它不直接信任伪标签而是要求模型对同一张图的不同扰动版本给出一致的预测。这个约束比伪标签温和得多因为它不指定答案是什么只要求答案稳定。这一类里比较有代表性的做法是给输入加强扰动、给模型参数加噪声、给中间特征加对抗扰动几种思路可以叠加。实际用下来图像任务上这类方法的性价比最高尤其是在标注量极少每类只有几十张的时候比纯自训练稳定得多。但这类方法对增强策略极其敏感。增强太弱模型学不到不变性增强太强把语义破坏了模型被迫学一些无意义的对应关系。有一个实用的经验增强之后人眼还能认出类别的才算合格的增强。如果连你自己都看不出这是猫还是狗了那这个强度就过头了。5.3 图方法与标签传播关系型数据的天然选择如果你的数据天然带图结构——用户之间的社交关系、商品之间的共现关系、文档之间的引用关系——那标签传播这类方法是首选。它的逻辑很朴素标签会沿着图的边扩散连接紧密的节点应该共享标签。这类方法在数据量不大时表现很好因为不需要训练神经网络纯靠图上的迭代计算就能出结果可解释性也强。数据规模一上来就撑不住几十万节点还行上百万就得考虑采样或者换其他方案。用这类方法要特别注意图的质量。边建得不对比如把弱关系当强关系标签会沿着错误的边扩散污染范围比伪标签还大。建图时的相似度阈值、邻居数量这些参数值得单独花时间调。5.4 传统半监督 SVM 和生成式方法还值得看吗半监督 SVM 这类方法现在用得少了但在数据量很小的场景几百到几千条下仍有参考价值主要是它的理论边界清楚能给你一个在这个假设下最优解长什么样的参照。生成式方法比如用生成模型补样本、或者用对抗框架做半监督在图像上还能见到但训练不稳定是个老大难除非你有明确的理由否则不建议作为首选。5.5 预训练时代半监督的边界正在被重画这是近两年最值得注意的变化。当你有条件用一个在大规模无标签数据上预训练好的模型作为起点时很多原本需要半监督来解决的问题直接用预训练加少量微调就解决了而且过程稳定得多。这不代表半监督没价值了而是它的定位变了从标注不够时的救命稻草变成在预训练基础上进一步压榨剩余无标签数据的增量手段。判断标准也要跟着调整——如果预训练模型直接在少量标注上微调就能达到业务要求那就没必要再上半监督多出来的复杂度换不来对应的收益。只有当微调之后仍然离目标有差距且这个差距确实来自标注量不足时半监督才是下一步该考虑的事。6. 几个场景的推演与反例理论讲完落到具体场景上会更有感觉。下面几个都是我在实际项目里遇到过的类型人物和背景做了处理。6.1 缺陷检测一张图要标半小时的那种这是半监督最舒服的场景也是最容易做出效果的。特点是标注成本极高缺陷区域小要放大、要对照工艺文档、要有经验的老师傅确认采集成本极低产线相机全自动比例轻松过百倍。同时缺陷类型是有限枚举的类别边界清楚平滑假设成立。这类场景我通常先做两件事一是用正常样本无缺陷的数量巨大做一次自监督预训练得到一个对正常形态敏感的编码器二是把标注的缺陷图做 kNN 一致率检验确认同类缺陷在特征空间里确实聚在一起。两件事都通过再上半监督收益通常比较稳。真正要小心的是缺陷的新型号——产线换了模具之后缺陷形态可能完全不同而这时候你手里只有旧型号的标注。这时候半监督会把新型号缺陷强行归到旧类别里比不用还糟。6.2 文本审核冷启动先有鸡还是先有蛋新业务上线违规样本几乎为零正常样本一大堆。这时候如果不做任何处理直接训模型会把所有样本判成正常。上无监督做异常检测是个选项但异常检测的误报率通常高得业务方接受不了。比较务实的路线是把三者叠起来用先用无监督方法比如密度估计或者重构误差从海量无标签数据里筛出一批疑似违规的样本人工确认其中一小部分作为初始标注然后用这批标注加大量无标签数据做半监督上线之后用主动学习持续挑边界样本请人标。这套组合拳的落地成本比死磕单一方法低得多。6.3 序列标注半监督最难啃的骨头命名实体识别、词性标注这类任务的半监督难度明显高于分类任务原因是伪标签的粒度问题。分类任务里一张图一个标签错了就是错一个序列标注里一句话有几十个标签其中错一个就影响整句的损失计算而且错误位置往往集中在边界上——模型对实体的起始和结束位置判断最不确定。我在这类任务上的经验是不要对整个序列做伪标签而是只对模型高度确信的片段做局部伪标签其余位置用掩码屏蔽掉损失。这个改动看起来小实际效果差别很大因为它避免了边界位置的错误在整个序列上传播。6.4 什么时候该干脆放弃半监督说了这么多最后必须给一个反向的结论这也是我这些年最想强调的一点半监督不是技术能力的证明它只是一个工具而且是个对前提条件很挑剔的工具。如果出现下面这些情况我的建议是果断放弃一是 kNN 一致率检验过不了说明特征空间本身就没把类别分开这时候该做的是换特征、换预训练模型而不是在半监督上想办法二是监督学习曲线在百分之三十标注量处就饱和了说明瓶颈根本不在标签量三是业务对结果稳定性要求极高、容不得随机种子级别的波动四是标注成本其实没那么高——真的有些团队只是懒得标这种情况下多雇两个人比调三个月模型划算得多。我在实际项目里的体会是半监督真正能带来明显收益的场景大约只占所有标注不够场景的三分之一。剩下的三分之二里一半是特征和标注质量的问题另一半是任务本身就不适合。所以每次有人问我要不要上半监督我的第一反应永远是先把监督基线的学习曲线画出来把 kNN 一致率算出来把域分类器的 AUC 测出来。这三个数字拿到手答案往往自己就浮出来了根本不需要纠结。