首页
/
行业洞察
/
正文
INDUSTRY INSIGHT · 深度
面试-在Math、LiveCodeBench、IFBench上的评测
📅 2026/9/15 1:40:13
✍️ 爱科研究院
👁 阅读 3,247
project-3:Faker-1-0.5B / MiniCPM5-2B 在 MATH-500 / LiveCodeBench v6 / IFBench 上的官方口径评测对象:Faker-1-0.5B(基座,Qwen2.5-0.5B 全参数复刻)+ MiniCPM5-2B(chat)。所有 prompt 与判分逻辑均为官方仓库逐行移植(硬编码),无自创口径;全部为确定性规则判分,不需要大模型 judge。统一口径(6 个脚本逐项核对一致)项口径依据解码greedy(do_sample=False,等价官方温度 0)IFBench 官方 README:生成用温度 0加载faker=fp16 基座直接续写;minicpm=bf16 + chat template +enable_thinking=False+ 过滤token_type_idsdemo-1 已验证路径;官方对思考模型即"多生成后剥离思考链",关链等价且为本机稳定路径生成长度max_new_tokens=1024(IFBench / MATH-500)、2000(LCB,官方--max_tokens默认值)官方默认停止符LCB=###(官方--stop默认);MATH-500 faker=Problem:(官方 minerva until);其余自然 EOS官方默认;另在文本层再截一次(官方 vllm stop 语义:输出不含停止符)批量batch=1 单流为基准口径;3 个支持--batch_size N(左 padding、pad=eos、greedy 不变,结果 json 记录 batch_size)PPU 批量路径历史不稳,batch=1 保底可回退断点续跑生成逐条落盘results/gen/*.jsonl,重跑只补缺;生成完毕则跳过模型加载、纯 CPU 判分—判分全部确定性规则(程序验证器 / 正则+sympy / 沙箱执行),无 LLM judge—一、IFBench 评估方法(300 题,指令遵循)官方来源:allenai/IFBench 仓库(commit 1c40f0c1)的ifbench/验证器包 +evaluation_lib.py;数据 allenai/IFBench_test。1. 数据与 prompt每条样本 ={prompt, instruction_id_list, kwargs}:prompt 是 WildChat 改写出的完整指令(约束文字已嵌在 prompt 里),instruction_id_list是该 prompt 附带的 1~3 个可验证约束 id(如keywords:existence、count:word_count_range),kwargs是各约束的参数(如{"keywords": ["cat","dog"]})。prompt 原样输入:faker 直接续写;minicpm 作为单条 user 消息(官方 generate_responses 的 chat 用法)。共 300 条,25 类经典 IFEval 约束 + 58 类 OOD 约束。2. 判分流程(逐条 prompt)对每条 prompt: 对其每个约束 (instruction_id, kwargs): 1. checker = INSTRUCTION_DICT[instruction_id](instruction_id) # 83 个官方验证器类 2. checker.build_description(**kwargs) # 注入参数; parquet 空位为 null, 先过滤
📌 标签:
工业官网
设计趋势
AI 建站
SEO
获取完整报告 →
RELATED ARTICLES
推荐阅读
2026/9/14 21:27:01
Sunshine 游戏串流主机 30 分钟上手:5 个里程碑配好 Moonlight 把屏幕串出来
2026/9/13 21:41:18
PFC中的二极管反向恢复电流
2026/9/13 21:13:52
Metabase DatetimeSubtract 表达式完全指南:语法、参数、实战案例与底层实现
2026/9/15 1:36:56
QMK Firmware 下的 1K 单键机械键盘移植指南:ATtiny85 + WS2812 + Micronucleus 全流程解析
2026/9/15 1:36:56
Dart与鸿蒙交互机制及性能优化实战
2026/9/15 1:36:56
YOLOv5+PyQt5火灾检测可视化系统实战指南
2026/9/15 1:36:56
2024谷歌算法更新解析与SEO优化策略
2026/9/15 1:36:56
GD32H759+RT-Thread工控入门:从点灯实验构建可信实时系统
2026/9/15 1:31:55
CEH-Orbit数字签名验证:轨道一致性机制解析与应用
2026/9/15 0:01:49
2026年NVMe SSD装机避坑指南:PCIe 4.0/5.0、NVMe启动与M.2 Key兼容性实测
2026/9/15 0:01:49
Flutter与OpenHarmony物理动画实现指南
2026/9/15 0:01:49
vscode插件开发之语言服务器,这次让用 TaoToken 接入的 Codex 排查 LSP 服务端连接
2026/9/14 7:37:16
拯救者Y7000黑屏故障排查与维修实战指南
2026/9/14 2:50:57
AI SDK Harness 依赖更新指南:掌握 harness 包 SDK 依赖的升级、桥接同步与一致性校验
2026/9/14 11:25:37
Refine v5 Ant Design NumberField 组件实战:基于 Intl 的本地化数字格式化