这篇论文的作者先给了一个很直观的例子在 Gemma-2-9B 的通用指令版 DIAL-IF 上对同一个问题“疫苗如何起作用”和同一条要求“Keep it short”做贪心生成。强度 α 设为 0.5、1、1.5、2 时完整英文回答分别是 144、40、26、23 个词作为对照普通提示得到 40 个词完全不给指令则得到 227 个词。也就是说同一个模型、同一条指令只需要改一个 α 参数就能把“简短”的要求从非常宽松连续调到非常严格。这个例子来自作者展示的单例但它把 DIAL 的核心价值说清楚了指令不再只是一个 on/off 开关而是一个可以连续调节的强度旋钮。要做到这一点DIAL 的思路是把指令的内容和指令的影响强度分开。它不修改底座模型权重只训练一个适配器同一个适配器学会多个强度档位并且可以接收新的指令。推理时同一个底座配合不同 α就能得到不同服从程度。需要注意的是底座权重是冻结的适配器是针对某个底座训练的换一个底座需要另外训练但在这个底座之上开发者只需要部署一个适配器就能获得多档控制而不必为每个强度都保存一份模型。训练方法与普通监督微调不同。对同一个回答前缀冻结的底座模型分别做“有指令”和“无指令”两种预测然后按 α 组合成教师目标p_T,α(v) ∝ p_b(v)^(1−α) × p_c(v)^α。α1 时正好恢复有指令的教师分布。学生模型是底座加适配器它在选定 α 下生成一条回答再沿着自己走过的前缀去拟合这个教师分布损失采用 JSD。作者把 α 从 0.5 到 2 放在一起共同训练。图 1 概括了 CFG 教师、学生适配器与训练损失的关系。一个关键消融是如果只训 α1推理时再改 α概念表达几乎不变这说明多强度不是靠外推得到的而是必须作为连续行为被显式学到。图1原论文 Figure 2展示 CFG 教师、学生适配器与训练损失。中文注释为本文补充保留原图署名许可。这个消融很有启发性模型并不会因为学会了“α1 的服从”就自动理解 α0.5 或 α2 的含义。因为 α 本质上是一个外部调节信号只有训练时把它和不同强度的教师目标绑定适配器才会学会沿着这个方向调整隐藏状态。作者在概念版 DIAL 上做了更大规模测试Gemma-2-9B、100 个未参与 DIAL 适配器训练的留出概念、每个概念 10 个请求、每档 1000 条样本、最多 128 tokens、temperature 1由三个裁判对概念表达、原请求回应、流畅度各打 0–2 分。α 从 0.5 升到 2 时概念表达从 0.202 升到 1.417流畅度从 1.634 降到 1.261原请求回应从 1.980 降到 1.904取中位数后汇总。这说明强度越高概念被表达得越明显但流畅度和原始请求回应会有所下降同时普通 prompt 本身也是很强的基线DIAL 的主要优势在于提供更宽的连续可调范围而不是在所有档位上都碾压提示词。从机制上看适配器会依据指令和当前/近期隐藏状态按学到的方向与阈值先做投影再调整范数。图 2 展示了这一点隐藏状态先被投影到学习到的边界再调范数但范数调整后的点未必仍处在该半空间内。作者明确提醒内部编辑并不保证最终回答服从指令最终行为要以整条回答来测量而不是只看单步隐藏状态。这个细节对工程落地很重要我们不能仅凭某一层状态“看起来被编辑了”就断定行为一定改变评估必须回归到完整输出。图2原论文 Figure 5隐藏状态先投影到学习边界再调范数范数调整后未必仍处在该半空间内部编辑不保证最终回答服从指令。中文注释为本文补充保留原图署名许可。性能方面在 Gemma-2-9B 底座上使用 H200、vLLM、α2、固定生成 128 个新 tokens 的条件下batch size 为 1/32/128/256 时DIAL 相对同条件底座的吞吐分别是 0.99/0.96/0.98/0.97batch1 的首 token 等待中位数从 9ms 增加到 17ms。推理时每个 token 都要走一遍底座模型并做适配器隐藏状态编辑因此需要读写模型中间层和部署对应适配器。图 3 是原论文 Table 2 的节选Base 归一化为 1保留了全部四个 batch 以及 CFG、FLAS、DIAL 的数值。整体看吞吐损失很小但对首 token 延迟敏感的实时场景batch1 时增加的约 8ms 需要纳入预期。图3原论文 Table 2 vLLM 吞吐节选Base 归一化为 1保留全部四批量和 CFG、FLAS、DIAL 数值。中文注释为本文补充保留原图署名许可。对 CSDN 开发者来说可以先把它当作一个“风格/概念强度旋钮”来理解。如果你的产品需要控制回答长度、概念密度、口语/正式程度等连续属性可以尝试训练或部署一个 DIAL 适配器让前端直接暴露 α 给用户或策略系统。落地时有三点值得注意第一底座模型冻结适配器与底座绑定换底座要重新训练第二评估时不要只看隐藏状态必须用整条回答做指标第三普通 prompt 已经是强基线如果只需要两三个固定档位先检查提示词工程是否够用再决定是否引入 DIAL。本文基于论文《DIAL: Steerable Language Models with Distilled Instruction-Adherence Levels》Tran 等arXiv:2610.31438v12026-10-22 预印本进行 AI 辅助论文解读作者单位包括 NUS、SMART、MIT CSAIL、NTU。论文采用 CC BY 4.0 许可原文见 https://arxiv.org/abs/2610.31438v1。本文没有独立复现实验配图均来自原论文裁剪并添加中文注释保留原图署名许可。