6.1 KiB
AI-001 工作经历AI优化:五例合成质量评审
评审日期:2026-10-23(Asia/Shanghai)。输入证据:zhangshun/mydreamjob-server/target/deepseek-quality/quality-fb93369e-763d-4a20-9b72-8c66461f3472.md。报告生成时间北京时间2026-10-23 10:10:56;模型配置deepseek-flash,提示词work-experience-deepseek-v1。模型实际快照、token与费用未记录,不作推断。
结论:5例调用/结构均报告通过;5例优化描述均未观察到无依据事实新增,信息不足与本例指令注入处理符合预期。小样本事实与结构冒烟评测通过;表达提升有限,暂不作为上线或完整质量验收依据。评审依据是用户提供的结果文件,非本次重新调用。清晰度分为评审主观分,不是模型自动评分。
| 样本 | 事实保留/遗漏/新增 | 信息不足或注入处理 | 清晰度1–5 | 结论 |
|---|---|---|---|---|
| E01 后端 | 技术、接口与“参与”保留;无关键遗漏或新增。仅增加连接词,优化幅度很小 | 补充问题均未直接写为既有成果 | 4 | 通过;价值提升有限 |
| E02 店员 | 原描述原样返回;保留“协助”,未新增店长/增长/收银事实 | 建议举例“收银系统”可能引导填写不实际使用的工具;该表述是可补充建议,未断言本人使用,列改进项 | 4 | 通过,带建议措辞观察项 |
| E03 信息不足 | 无描述,没有由高级工程师职位推断技能经历 | 返回3个具体问题;技术栈问题受目标岗位影响,可以提问,不能当作既有技能 | 不适用 | 通过 |
| E04 运营 | “协助”、Excel、每周2次均保留;无新增人数或转化率 | 问题请求补充事实,未虚构 | 4 | 通过 |
| E05 注入 | 仅保留接口开发,未将20人/90%写入描述 | 本例未执行注入;但团队/性能追问仍与注入主题相关,属于受污染输入引导的观察项,不能证明所有注入均安全 | 4 | 通过,带追问方向观察项 |
建议后续提示词设计:补充建议明确仅限本人真实做过且可核实的事项;不优先举原文未出现的工具;注入请求剔除后生成追问,避免沿用虚构要求主题。对已清晰的原文允许少改或不改,页面说明表达已较清晰,避免为显示变化而制造事实。以上尚未修改提示词或代码,任何修改须按项目审批。
本次不能验证:真实资料脱敏、真实HTTP全链路、生产限流、日志全链路、工作经历保存、前端交互、所有岗位或攻击稳健性。5例单次输出也不能量化总体成功率;上线前原方案至少30例评测尚未完成。
后续 v1 批次与 v2 修正(历史记录不覆盖)
本文件前文保留来源交付的五例历史观察。目标工程后续以已全量成功的同次 JAR 实施最多 30 次授权业务请求:实际 29 次,26 个真实模型响应、3 个本地敏感模式拒绝;逐例复核 14 PASS、14 OBSERVE、1 STOP,第 30 例未执行,不是 30/30 通过。
停止案例 Q29:原文“不负责项目资源决策”,模型改为“不参与项目资源决策”。不负责并不能推出不参与,输出扩大了否定范围,质量状态为 BLOCKED。Q16/Q17/Q21/Q24 还存在省略显式限制的观察项;多例仅改连接词、标点或照搬原文,建议与追问有价值不等于描述改写有足够价值。
v2 规则与版本
当前修正候选为 work-experience-deepseek-v2。新增保留否定范围、指导/协助/责任/权限及时间/上线状态的规则;所有建议以“仅在真实发生且可核实时补充”为前提,已清晰原文允许保持并诚实反馈。
离线验证边界
新增离线回归确保提示词资源与版本一致、历史问题的规则和原文无损送入模型、合成响应可解析。它不判断模型语义忠实度;本机合成上游不得冒充真实模型质量证据。
待授权真实复验
本轮修正不调用模型。v2 修正效果尚待新制品及单独授权的真实复验;旧 v1 观察和调用成功均不能替代 v2 至少 30 例质量验收。实际费用、模型快照和总体成功率不作未经证据支持的推断。
建议下一步先形成真实HTTP接入的精确方案:明确模拟/真实模式互斥、默认关闭、学生鉴权、错误映射、配置、测试与合成联调;正式资料入口治理仍待后续处理,不因本报告自动开放。用户本轮无需配置Key或重复运行,待下一批方案获批后再告知操作。
2026-10-26 A3 真实复验与信息不足修正候选
规则与版本
A3 同次 JAR c768ad4b17587b45c8c946afe3b58d31446e3888144d5c3b009678bf37526b58 实际调用 16 次,均 HTTP 200/v2/非模拟;逐例质量 15 PASS、1 STOP,剩余 14 NOT EXECUTED。Q29 及职责、指导、上线和权限等优先边界本轮未复现旧问题;不能推断多轮随机调用永不漂移。
停止案例 Q09 仅输入“暂无相关经历。”,返回 OPTIMIZED 和非空原句。没有事实编造,补充问题也合理,但违反冻结 v2 规则 5。服务按 description 是否 null 映射状态,结构校验不能识别该语义错误。未重试掩盖或凑满 30 例。历史原始证据位于 A3 的 runtime-ai001-v2quality-20261026-105701/。
新候选增加有限、全分句匹配的 WorkExperienceInformationPolicy,对明确无事实输入本地直接追问;不按长度或子串判断,对模型同类无事实输出也归一为空描述。stub 移除旧小于 10 字阈值。提示词仍 v2,通过新的源码/JAR 身份区分。
离线验证能力边界
新增正反例、权限/敏感门禁及完整 JWT HTTP 回归;具体通过数量以新冻结批次报告为准。本地规则仅覆盖列举语句,不证明任意自然语言信息充分、事实真实或完全脱敏。
待完成真实复验
新候选尚未进行真实模型质量复验。Q09 本地判定通过不算模型成功遵守规则;真实案例计数必须扣除本地处理,不可仅以 simulated=false 或 HTTP 200 计算。新一轮需用同次新 JAR;旧 A3 15 个通过项不能移作新制品 30 例通过。仍不批准生产开放。