首页
/
行业洞察
/
正文
INDUSTRY INSIGHT · 深度
Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记
📅 2026/11/2 21:21:39
✍️ 爱科研究院
👁 阅读 3,247
# Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记 论文信息:arXiv:2609.25049|EMNLP 2026 Main Conference|作者:Zixuan Wang, Bingjie Zhang, He Zhao, Dandan Guo## 一、论文主要内容该论文针对经过安全对齐的大语言模型普遍存在的**过度拒绝(Over‑Refusal)**问题展开机理研究与算法设计。过度拒绝指模型错误拒绝本身无害、但和不安全提示存在词汇/语义重叠的合法用户指令(论文称为Hard‑Safe提示),会严重损害模型的可用性与推理能力。1. **机理分析**:过往研究大多把过度拒绝归因于静态表征空间的重叠,本文从Transformer注意力内部路由冲突角度做机理剖析。作者发现存在一小部分**高敏感安全注意力头(Hypersensitive Safety Heads)**,在处理Hard‑Safe无害提示时会异常激活;产生异常注意力纠缠,强行将无害实体绑定到拒绝语义上,引发高熵的路由冲突,目标实体得不到应有的注意力分配,最终触发错误拒绝输出。2. **方法提出**:提出**SRC(Semantic Routing Calibration,语义路由校准)**,是一套轻量、**无需重新训练、仅推理时生效**的框架。核心两步:①推理阶段精准定位并动态抑制高敏感安全头;②双分支Logits融合作为安全正则器,校正解码过程,恢复模型正常推理输出,不会破坏原有安全能力。3. **实验验证**:在多模型、多基准上开展大量实验,SRC可以有效缓解过度拒绝问题,同时尽可能保留模型原生的安全防御性能,在“减少误拒绝”和“拦
📌 标签:
工业官网
设计趋势
AI 建站
SEO
获取完整报告 →
RELATED ARTICLES
推荐阅读
2026/11/2 21:05:42
SSM+JSP医院门诊挂号系统毕设源码解析:框架分工到部署避坑
2026/11/2 21:05:42
无监督学习与自监督学习核心技术解析
2026/11/2 21:05:41
SSM框架实战:智慧社区管理系统从环境搭建到核心模块实现
2026/11/2 22:17:42
健康饮水技术解析:从净水原理到场景化解决方案
2026/11/2 22:17:42
4400元换显卡只为本地跑大模型:RTX 4070 SUPER选卡与实测
2026/11/2 22:17:42
Codex接入Agent Memory的三大硬冲突:源码级排查与解决策略
2026/11/2 22:17:42
腾讯开源WeKnora:Go语言打造企业级RAG+Agent+Wiki知识库框架
2026/11/2 22:17:42
六大NLP语言模型解析:技术路线与选型指南
2026/11/2 22:12:42
OpenClaw自动化测试框架在水产养殖中的应用实践
2026/11/2 1:03:35
工业SPI隔离方案:K64主控+MAX14431从设计到排查
2026/11/2 1:03:35
SPI隔离器MAX14431与PIC18F8722实现工业级稳定通信的实战指南
2026/11/2 1:03:35
雷达信号调制技术解析:从LFM到相位连续调频波形设计
2026/11/2 2:42:45
面向复杂光照与角度的宠物面部识别鲁棒性增强策略
2026/11/2 2:42:47
DRV8818PWPR与R7FA8M1AHECBD工业步进驱动实战指南
2026/11/2 2:42:50
STM32与DRV8818双极步进电机驱动方案:从选型到调试全流程解析
2026/11/2 2:42:45
面向复杂光照与角度的宠物面部识别鲁棒性增强策略
2026/11/2 2:42:47
DRV8818PWPR与R7FA8M1AHECBD工业步进驱动实战指南
2026/11/2 2:42:50
STM32与DRV8818双极步进电机驱动方案:从选型到调试全流程解析