美团如何做主观策略评估巴黎机场

来源：夏唬人

大家好，我是策略产品夏师傅。

昨天有个同学问了一个问题：

确实，有一个能做，会做主观评估的公司比较少。小公司都不用说，包括我待过的某些大厂，以及据身边很多同行的反馈，都缺少一个主动的、标准化的badcase处理流程，大家不知道它也就不奇怪了。

很多团队、PM对于badcase的处理还停留在发现一个问题，处理一个问题阶段，也就是case by case的去优化问题，效率低到可怕，一个标准，完善，科学的主观策略评估对于推动策略产品迭代有着非常重要的作用。

以下正文。

badcase，是互联网产品行业非常流行的一个术语，尤其是搜索、推荐策略产品领域经常会涉及到对badcase处理。

一个case是指某个场景下线上的一个具体实例。比如搜索场景下，case就是指用户发起一次搜索产生的搜索结果；推荐场景下则是给到某个用户的推荐结果。

与功能类产品不同的是，对于策略产品而言，由于个性化因素的考量，线上数据的变化，导致其最终呈现的效果有很多的不确定性，也因此会产生预期之外的一些结果。

所以，策略产品当中的case可以区分为goodcase和badcase。顾名思义，badcase就是“坏例”，主要是指由于机制缺陷导致一些给用户、商家、平台带来较差体验的事件。

它和bug的区别就在于badcase影响的是产品体验层面，对用户使用当前产品，享受正常的产品服务没有太大的影响。

badcase为什么会主要在策略领域比较多，而在前端、功能类产品中比价少。这个其实本身是由策略产品的不确定性造成的。

我们做一个功能，上一个页面，其实整个交付结果是确认无疑的，包括功能背后的交互流程，业务逻辑，到一个页面的布局，用色都不能出现像素级别的差距，有错误，那就是bug！

但是策略就不一样了，它对应的结果通常是不确定的。比如搜索结果的排序，其背后是由很多策略模型共同作用决定的，比如价格模型，销量模型，转化预测模型等等。

而且随着各种非规则，非约束类策略的应用，看起来就更像一个“黑盒”，源源不断的输出它的计算结果，很难定位到某个结果是由单一的策略导致的。

所以，每当有人反馈说“我们上了低价模型策略，为啥有些价格低的物品在搜索结果中还是没有排在前面”，这个其实就是策略的一种不确定性，低价策略并不能保证所有价格低的物品都排序靠前，它更多的是一种保证业务生态健康的考量。

需要主动一点，及早的发现线上存在的不合理case，避免由badcase带来的用户体验伤害和业务指标影响，本身就值得建立一个评估的流程。

当前，很多策略产品的团队发现badcase都来源于“第三方”反馈，商家，业务，运营，或者用户，当然最多的就是老板在群里各种反馈，缺少主动发现，发起自测的机制。

首先，真正的badcase本身就是策略缺陷导致的，因此这是一个非常好的策略迭代优化的触发点，要比竞品分析、产品规划更具象，迭代速度和效果反馈更快。

另外，仅仅接收第三方的反馈肯定是有一些局限性的。每方在反馈badcase的时候，都是基于各自的利益点阐述的，而策略产品则需要考虑的是整个大盘的方案。

所以这个时候就需要有一个完整的策略评估机制，这就是我们今天要说的主观策略评估。

策略的主观评估就是从用户的视角看当前策略产品中有哪些问题，问题的类型是什么样的，不同问题的占比是什么样的，从而指导我们后续的优化。

那么如何完成一个完整的case的评测流程搭建？

从字面意思来看，主观评估通常来说是由产品经理发起评估，若干相关的人员参与评测，那么评测结果中必然会带有每个人的主观判断。

因此，为了保证结果的准确性，通常来说需要定义一个标准，也就是大家在定义一个case是goodcase还是badcase有一个统一的依据。所以在进行主观评估之前，评估标准的制定相当重要。

评测标准是case评测的唯一依据，也是保证评测结果质量的关键所在。

它就类似一部法规，用来帮助判断各种case是否为badcase，及其严重程度，因此在建立case评测流程之前，首先就需要制定一个评测标准。

推荐和搜索都有对应的评估标准。以搜索case评测为例。通常badcase标准包含两个方向的内容：召回和排序。

召回主要是规定判断召回结果与query的相关性的规则，一般分为精确相关，高相关，低相关，无关四种。

排序主要是规定判断召回结果中排序的合理性的规则。通常排序会与物品的质量度挂钩，因此这块还需要定义物品的质量度。比如质量度高排序靠后，质量度低排序靠前等都可以定义为badcase。

除了上述两大方面，还有很多细则需要单独进行定义，比如图片质量，标题质量等等。

这里需要注意的是如同法律法规会有刑事，民事，行政，经济等分类，评测标准也需要按照不同的业务领域进行个性化定制。比如商品和药品，判别的标准就会有区别，所以需要单独制定对应的评测标准。

有了标准以后就可以开始进入正式的主观评估了。总体上包括：case抽样，case评测，问题记录，问题归因，输出报告等环节，具体细节我们后面再聊。