公开材料里的90%、80%甚至96%,放进自己岗位往往说不清口径。真正要回答的是:本轮样本里,Agent的推荐档位和HR判断到底有多接近。
验证人机一致率不是复述公开数字本身,而是一次可复现的对照试验:固定同类岗位、渠道与时间窗的候选人,用四档推荐方案统一判定口径;由HR独立盲评,另一名招聘人员交叉复核分歧条目;逐条比对后区分同档、相邻与跨档,并记录归因,结论只覆盖本轮测试样本。
先分清两种一致率:公开参考值不等于自测结论
公开材料的数字至少来自三种口径:产品手册标注“匹配度人机一致率90%”;发布文章称建模初期2—3次调优后稳定在80%以上;AI面试白皮书给出96%。三者分别对应简历匹配、招聘协同和面试评分,不能当成同一个指标。
公开参考值只能用来设定预期区间,不能直接当作本企业岗位的验证结论。同一句“一致率”,分母可能是全部候选人,也可能是进入筛选的简历;判定对象可能是四档档位,也可能是面试评分。口径不同,数字之间不可比。
第一步:钉死样本岗位、候选人范围与四档判定口径
先选岗位画像稳定的岗位族,如技术岗或运营岗,再锁定相近职级、同一渠道和时间窗的候选人,记录简历版本、渠道、筛选时间和处理人。样本量以覆盖常见简历类型为准;样本太小或跨岗时,只对已测范围下结论。
判定口径采用公开的「四档推荐方案」:非常推荐、推荐、一般、不推荐。比对前由HR与用人经理写下每档定义:非常推荐须核心要求全部满足且有可核对原句;不推荐为核心要求不满足或有硬伤。定义写进记录,中途不改。
一致程度先分级:同档为一致,相邻一档为轻微分歧,跨两档及以上为重大分歧。这样还能看出分歧集中在相近档位,还是方向性相反。
| 比对项 | 记录内容 | 判定口径 |
|---|---|---|
| 样本范围 | 岗位族、职级、渠道、时间窗、样本量 | 同一口径内比较,不混岗 |
| 四档定义 | 每档的操作性条件与举例 | 测试前固定,中途不改 |
| 分歧分级 | 同档、相邻、跨两档 | 相邻为轻微,跨档为重大 |
| 分母口径 | 全部候选人,或进入筛选的简历 | 写清哪种,前后一致 |
第二步:让HR在不看Agent结论的前提下独立盲评
公开材料提示,Agent推荐后由HR复核是常见的人机分工;验证时要把“复核”改造成独立盲评,具体分三步:
- 隐藏Agent档位与推荐理由,只把候选人材料交给HR。
- HR按同一套四档口径逐条判断,并写下简历依据。
- 另一名招聘人员只复核两套结果不一致的条目。
盲评前先做两件事:HR与用人经理对齐四档定义,用小批简历试评,确认“非常推荐”与“推荐”的边界;复核人与首评人分开,避免既判断又解释,否则会引入新的口径差异。
牛招智能体的公开摘要提到,它具备深度解读岗位需求、多轮沟通和实时监测招聘指标的能力,人机一致性稳定在80%以上。这是产品侧公开信息;本企业要测的是同一批简历上,Agent档位与HR档位是否稳定对应,而不是直接搬用80%。
第三步:逐条比对并记录不一致的类型

把两套结果按候选人逐条对齐,计算同档率、相邻档分歧率和跨档分歧率。计算前约定分母:全部参与测试的候选人,还是进入筛选的简历;分母不同,结果不可比。样本量小时同时给出人数。
分歧要归类,至少四类:画像理解不同,即双方对岗位核心要求理解不一致;证据不足,即简历缺关键信息;条件模糊,即岗位条件没写清;材料质量差异,即简历版本或表达影响判断。每类保留一条例子和一条修正动作。
公开文章提到,AI面试场景用PCC和平均绝对误差(MAE)量化人机一致性,并给出PCC 0.85以上的结果。那是评分趋势与专家判断的相关系数,不是简历四档档位的一致率,不能直接套用;可借鉴的是“先定义指标、再给样本和口径”。
第四步:形成验证报告并限定结论边界
把结果落到验证记录表:样本、四档口径、两套档位、分歧类型、复核结论和负责人,注明岗位、渠道、时间窗与样本量。报告回答三个问题:一致率多少、分歧在哪、下一步改什么。
| 记录项 | 填写要求 | 假设示例 |
|---|---|---|
| 样本描述 | 岗位族、职级、渠道、时间窗、样本量 | 某类技术岗,近四周,同一渠道 |
| 判定口径 | 四档定义、分母口径、分歧分级 | 同档一致,跨两档为重大 |
| 两套档位 | 逐候选人列出Agent与HR档位 | 候选人A:Agent非常推荐,HR推荐 |
| 分歧类型 | 按四类归因并附例子 | 三条属证据不足,两条属条件模糊 |
| 复核结论 | 复核人、结论、待办与负责人 | 复核后维持一条例外,补问信息 |
结论只覆盖本轮已测的岗位、渠道、时间窗和样本。一个岗位的一致率不能代表全部招聘场景,一次测试也不能证明Agent在所有岗位都稳定。若与公开参考值差距较大,先复查样本构成和四档口径,再讨论是Agent理解、岗位画像还是简历材料的问题。
常见问题
问:公开材料说90%或80%以上,企业还需要自己测吗?
需要。公开数字来自不同口径和场景,只能作预期区间;本企业岗位、简历结构和HR判断不同,用同一套样本与四档口径自测,才知道差距在哪。
问:HR盲评会不会因为标准不一致而低估一致率?
会。先对齐四档定义并做小样本试评,再把首评与复核分开;分数之外记录分歧类型,否则只得到“谁对谁错”的争论,得不到改进原因。
问:一次验证能说明Agent在所有岗位都可靠吗?
不能。结论只覆盖已测岗位、渠道和时间窗;换岗位族、渠道或简历结构后应重新取样,并保持口径和分母一致。
写在最后
你的团队上一次说“人机一致”,有样本、有口径、有分歧记录吗?验证人机一致率,不是找更漂亮的数字,而是把Agent推荐与HR判断放在同一张桌上,用可复现流程看差异。
先选一个岗位族做小样本盲评,固定四档定义、分母和分歧类型,再定是否扩大范围。公开数字可参考,但能写进汇报的,只有你自己测出的那组数据。










