五 A / 原型学习与个性化 / 04
个人化以后,怎样知道哪一类真的改善了
把更新前后的原型放到同一批独立记录上比较,既看目标类,也看其他类别和未知动作。
1 · 先留出不用来求中心的记录
用采集场次 A 更新,再用场次 B、C 检查。若只把刚求中心的特征再分类,中心天然接近这些样本,结果难以说明新场景是否改善。测试数据还要覆盖不同速度、佩戴松紧、连续过渡。
在更新前保存旧原型,并固定同一个基础特征提取器。同一份独立窗口分别经过基础分类、旧原型和新原型,才能比较变化来自哪里。
2 · 按类别比较,而不是只看总分
| 评估项 | 要回答的问题 |
|---|---|
| 目标类别召回 | 目标动作是否更容易被正确找到? |
| 其他类别误判 | 原本正确的动作是否被新中心吸引过来? |
| 未知动作 | 擦汗、拿物等未列入类别的动作是否出现强误判? |
| 采集通过比例 | 个人化所用样本是否只覆盖容易识别的一小部分? |
混淆矩阵、精确率与召回率沿用支线四,但这里还要比较同一查询在三个分类路径下的结果。基础置信度是筛选条件之一,筛选后的分数不能代替独立真值。
3 · 样本越多,什么时候仍然没有帮助
连续几十份高度重叠窗口可能几乎描述同一小段动作。持续采同一种速度也可能把中心拉向窄场景。增加数量时应同时增加有效差异,而不是重复计算相同特征就宣称数据量足够。
错误标签可能把中心推到另一类附近;需要按场次定位而不是一次混入全部人员。出现退化时保留新旧原型并回退到已验证版本,别因为版本号增加就删除旧记录。
4 · 把可接受的变化写成规则
在使用测试集前定义关心的类别、允许的误报和响应要求。新原型是否采用由这些预先定义的指标决定,不能只挑最好看的一个结果。某一活动的改善也不能据此延伸为睡眠或关键词能力提升。
当前个性化接口覆盖活动特征;其他任务没有同样的更新链路。新增任务时需要重新定义特征、类别代表点和评估依据。
5 · 形成一次可复核的更新记录
记录数据集合、旧新原型版本、每类样本、拒绝比例、各项指标与结论。若模型或采样配置换了,重新建立比较,避免拿不同基础模型的结果混成一次个人化收益。
动手观察
用二维示例给走路类加入错误标签,再对未参与求中心的点比较新旧分类。写一段结论,同时说明改善、退化与样本不足的位置。