两条标尺并排放着，很多企业的选型结论就变了。原来排在前面的那一批，在判断的场景里未必接得住；原来被当成小模型的那些，反而进了产线。
冰窖的道理：冬天藏冰，夏天才有得用
旧时大户人家有冰窖。冬至前后到河上采冰，凿成一方一方的冰砖，运进窖里码好，一层冰一层稻草，封窖隔热，等到盛夏再取出来用。
藏冰这件事讲究两点：一是采的时候冰要厚，薄冰撑不到夏天；二是窖要封得住，封不严，藏一冬剩不下几方。
判断接进流程，很像藏冰。采冰是攒数据，封窖是定规则，取冰是线上那一刻的调用。前面偷了工，夏天就没得用。
判断力这件事，得拆开看
说一个模型能判断，容易被当成一句笼统的夸奖。拆开看，它至少得有四层。
- 看得见：画面里在发生什么，值不值得留意。
- 找得到：要找的那个东西或那片区域，具体在哪儿。
- 想得通：这件事是什么时候起的，前因后果连不连得上。
- 走得对：下一步该往哪走、该看哪儿。
四层不是各自为战的模型。底座是同一套，数据的格式也统一，四层之间的结论才递得过去。各做各的，每一层都要把画面重新解一遍，工夫耗在重复上，判断这一串其实就是断的。
看得见不等于判断得了。
跑得动，才谈得上准
判断类模型有一个绕不开的约束：它得在事情发生的地方跑起来。
放在机房里的模型，判得再准，也架不住一条产线等它往返。设备侧能接受的，是当场给出结论；一次判断要是在路上耗掉几秒，这件事在流程里就站不住。
跑得动的模型，才谈得上判断准。
这也解释了为什么这一轮起来的是小参数量的那一档。它能装进设备，能靠国产芯片跑起来，能在断网的时候继续干活。参数小意味着某些活接不住，但接得住的那部分，是原来根本没人接的。
这条约束还有另一面：跑在设备上的模型，更新也慢。设备散在各地，升级要一台台推，换一版不是改个配置的事。所以端侧那一档的选型，一次就得选稳，接口和数据格式先定死，后面换模型才不用重新接一遍。
端云分工，算的是一笔账
端侧和云端不是二选一。慢想的活留在机房，当场要结论的活放到设备上，两头接起来，结果是两边都比原来好。
这笔账算下来，端侧部署的成本能降一个数量级。降的不是模型的钱，是链路和传输的钱：画面不用往外传，请求不用排队往返，机房的机器不用为了峰值一直开着。
成本一降，原来算不过账的场景就成立了。具身设备从演示走向量产，卡住的往往不是模型精度，是每一台的成本和每一次的延迟。这两项一松，量才起得来。
判断要进流程，难的从来不是模型
还有一层常被忽略：判断这东西要进流程，流程就得改。
原来一个人看、一个人签，现在中间插进一次模型判断，谁负责、错了怎么办、什么情况下人可以推翻，这些都得先写清。写不清，模型判得再准，也没人敢用。
见过一种情况：模型上线三个月，实际启用率不到一成。不是不准，是流程里没人愿意为它的错担着。这类事靠调模型办不妥，得靠制度先立。
观察者手记
这一轮变化里，值得记一笔的不是某个模型多准，是评价方式变了。
生成的时代，比的是上限——谁能写出更惊人的一段。判断的时代，比的是下限——谁在几十万次调用里不出岔子。上限决定声量，下限决定能不能进产线。
企业选型时若是还按上限的那套标准打分，选出来的东西很可能上不了线。这不是模型的问题，是标准的问题。标准一换，排在前面的名字会变，这句话值得反复确认。
上个月一位开工厂的老友偶然接触到 GEO 官网搭建，把自家企业知识库填进去跑了一个月，现在每天都有新客资进来，方法我放在公众号「智扣 AI」了。
智扣AI超市：www.zhikouai.com（AI优选·价值落地）