一、为什么要需要大小模型协同

        随着大模型技术技术在各行各业中深入推进，通用大模型在行业应用时遇到了几个典型的问题，这些问题制约了AI技术的继续推广。

1.1、问题一：大模型部署需要算力成本较高

            模型对算力的需求每2个月就会翻倍，以deepseekR1为例，如果要部署一个，部署32B成本是百万元人民币级，部署满血版需要600万以上，者对于对于中小企业来说成本和性价比是难以接受的。

参考链接：

DeepSeek不同版本私有化部署成本对比：企业如何选择最优方案？

https://www.fx168news.com/article/623995

1.2、问题二：使用云端算力遭遇隐私保护和稳定性限制

        采用云服务商提供的模型服务，调用API方式调用模型是ROI较高的解决方案，但该方案面临隐私泄漏和稳定性问题，特别是对金融、通讯等行业客户来说，隐私问题限制了使用公有云调用API的方案的使用，阻碍了AI技术在这些行业的深入应用。

参考链接：https://www.oschina.net/news/335885

1.2、问题三：通用模型对私域知识缺乏，模型精调和RAG等技术面临准确性质疑

        此外即使解决的隐私保护和稳定性问题，通用大模型也存在着私域知识缺乏的问题，虽然采用RAG技术可以提升模型对私域知识的理解能力，但是仍然存在着模型召回准确性不高，精调模型技术难道相对较高等问题。如下图所示，通过各类技术提升RAG的召回率，最高也只能达到75%左右。

参考链接：https://ihey.cc/rag/fusion-rerank-top-n-in-rag/

二、业界优秀实践:云端协同+大小模型协同

        笔者通过对最近几次行业会议的观察，发现云端协同+大小模型协同方案是当前页面解决上述问题的一种解决方案。该方案利用一种类似“掩码”的技术，将部署在云上的大模型投射到端侧的小模型上，可以实现对小模型的动态刷新，从而在提升了小模型的灵活性的同时有效降低了模型的部署和更新成本。该方案的“掩码”形式也大大降低了大小模型协同的通信开销，从而为方案的大规模推广扫清了障碍。

        这项技术已经被应用在淘宝商城，通过对用户手机端的小模型进行动态刷新，可以实现对用户兴趣的及时捕捉。另外在智能制造领域，也可以使用该技术对靠近产线的各类小模型进行实时刷新，提升小模版的判断准确性。

一、背景

        2024年12月13日，应中关村智联软件服务业质量创新联盟、TiD质量竞争力大会组委会的邀请，有幸参加《走进腾讯，共探项目管理新模式》活动，活动由无线金教作为CAC敏捷教练发展委员会的副秘书长的角色全程参与和指导，在此期间我们和腾讯鞠老师以及CMMI高成熟度主任评估师胡老师等同仁做了深入的沟通，学习了腾讯的敏捷研发实践，收货颇丰，特此记录。

二、参观腾讯

        腾讯的展厅很科幻，有3D大屏复刻出莫高窟，有智能座舱体验模拟驾驶飞机，也有复古的QQ网吧，一秒回到校园时代。有两个细节给我留下比较深刻的印象：一个是腾讯会议的会议总结功能，另外一个就是全过程的用户思维。

        首先说下腾讯会议的总结功能，很多同事可能都体验过了，当前我们的icenter会议基本功能已经够用了，腾讯会议在基本功能的基础上导入AI，将会议纪要实时生成，会议需要发言实时提醒，这些功能形成了腾讯会议的差异化竞争优势，在市场上攻城掠地。反观一下我们的产品研发，AI还只能应用在研发提效中，很多团队甚至还在拒绝AI导入。但是头部的互联网企业，已经将AI纳入产品中，形成了产品的差异化能力，这让我不得不有一种紧迫感。

        再说一下全程的客户思维，参观过程中，讲解员说到的每一款应用都在说用户的体验，正是因为腾讯用一种近似执拗的方式关注用户体验，才造就了QQ、微信、腾讯会议等一系列用户黏性极强的产品。只有当用户对企业的产品爱不释手，才能让企业逐渐成长。再反思一下我司对用户的关注程度，我们关注的是研发提效，如何更快更好的做出产品，但是用户真正需要的是什么，我们研发团队知之甚少，长此以往我们如何对我们的客户有黏性？

三、现场交流

        现场交流环节一共三部分，重点介绍一下腾讯的鞠老师讲的内容。腾讯的爆款产品，都是从10-20的小团队开始的，内部无数的小团队的试错，造就了这些爆品，也让企业在这些爆品上赚的盆满钵满。再思考一下我司内部是否也有类似的机制？如果我们有一些小团队做出来的优秀实践，是否有孵化机制让这些小团队快速成长，能够获得到客户的反馈并不断迭代打造爆品？我觉得目前没有。

        参观时候我就在想，用户思维说起来简单，内部是否有一些机制保证各个团队都能更好的理解用户。在交流环节腾讯鞠老师各出了答案，那就是腾讯的“1000、100、10”。

        一定有一个机制让内部团队更了解客户，这个机制说起来简单就是听客户的吐槽。我们内部也有类似VOC的机制，目前有线院于院长也要求产品总工要去现场和客户交流，我想腾讯的1000、100、10机制是否可以应用到总工和客户的交流中。腾讯内部做不到以上要求的产品经理是不能上岗的，这些看起来简单粗暴的要求，保证了团队和客户之间的良性互动，也是造就腾讯这样的巨无霸企业的底层逻辑之一。

再谈谈腾讯内部对研发组织的分类，目前我们都希望所有的研发组织是大一统的，但是研发的产品类型是不一样的，如果我们想要一套模式打天下，可能会扼杀项目的创新。比如王者荣耀和微信红包，如果都提一样的要求，可能微信红包这个产品根本赶不上过年这个时间节点，市场份额也会被其他产品替代。我们内部也一样，针对像类互联网的产品，和系统产品的要求可能需要区别对待。因为两类产品的质量属性要求不一样，客户对发布周期也要求不一样，后续需要对当前项目管理进行优化。

四、相关材料

活动总结见：https://mp.weixin.qq.com/s/RPER2WWWRkWagC_kRjeKYw

一、背景

        最近各级组织都在要求大家做年终总结和规划，一般大家都是按照这样一个模板来做的：

1、首先分析前一年的目标达成情况

2、再根据目标达成情况看下还有哪些薄弱点

3、然后结合VOC给出新一年的总体目标

4、再将总体目标拆分为具体的任务

这个框架大体上是没有问题，但是我在思考的另外一个问题是：这就够了吗？仅仅看去年的目标达成情况，再加上一些voc就确定我们新一年的计划，是否存在着一些漏洞？是否需要在更高的维度上去思考我们新一年的计划？

        让我们回归到本质：企业为啥存在？企业的存在都是为了满足客户的需求，如果没有客户需求，企业很快也就没有存在的价值。从这个意义上来说，我们的战略需要至少考虑两个层面。一个是企业应该满足哪些客户的需求，另外一个是凭我们的资源和能力能够满足哪些客户需求。但是仔细思考一下，这两者的是有很大差别的。前者是正向思考，是从未来倒推现在，发现缺口弥补能力，从而有可能实现跳跃式的增长。后者是从现在到未来，走一步看一步，只可能实现连续式的增长。两种思考模式对企业成长模式和发展潜在空间产生的影响差别是巨大。

接下来，就谈谈我个人对这两种模式的理解。

二、正向思考，我们要满足哪些客户的需求

        在思考我们要满足哪些客户的需求这个问题时，实际上是对客户进行筛选。以我司当前的能力，我们是有能力筛选客户的。哪些客户只卖好却不卖坐，不产生价值；哪些客户是我们需要重点跟进和满足的，需要我们仔细甄别。常言道：战略就是决定“做什么”和“不做什么”，关乎企业的发展方向。战略的本质就是做取舍。尤其是确定“不做什么”，画好边界。如果大方向没定，哪边来的风都是逆风。所以企业一定要定个方向，哪怕定错了还可以修正，但不能没有方向。

        另外，不止企业整体的战略很重要，我们各级组织的战略也很重要。产品是否有长期战略，研发提效是否有长期战略。。。这些问题如果得不到回答，仅仅看最近一两年的数据进行规划，那就可能出现“一直在规划，长期无变化”。因此我们做规划时，可以允许一年一年螺旋式的上升，不能放长期的任箱体震荡。

        那么如何做好正向筛选？做企业战略正向规划，需要收集到足够的信息，需要了解客户，了解竞争对手，了解行业现状，同时需要从经济长周期这样的维度进行思考和规划，这对于各级组织也是类似的。其中长期规律这一思考维度，通常是产品线或者研发中心做规划时所短缺的。比如从研发提效的规律上来看，产品质量是内建出来的，外部质量是内部质量文化的外在表现，要提升外部质量必须重视内部的质量文化，而往往文化的建设又是一个长期的过程。因此需要在对这个规律有一定认识的基础上，逐层分解目标：今年我们组织的质量文化要做什么，补哪一块短板，明年再补哪一块，总体上，我们需要用几年时间把这些短板都补上。需要长期和短期相结合，坚持长期思考，短期规划有力落地，才能实现目标最终提升外部质量的目标。

三、逆向思维，企业/组织当前能做什么

        说到短期规划，就必须要看看企业/组织当前能做什么。这里有一个前提，看看自己能做什么，不是仅仅从当前现状出发，随机的选择一个任务来做，而是要在长期正向思考的基础上，再结合当前现状，选择一个当前能做，而且是最重要的事情来做，是长期规划和短期目标相结合的结果。

这里介绍一个模型：基于BLM（业务领先模型，又称业务领导力）模型。

下方是“价值观”做基础支撑，上方是“领导力”的根本保障，中间分为“战略”和“执行”两大部分。“战略”部分包括“差距分析”、“战略意图”、“市场洞察”、“创新焦点”和“业务设计”几个要素。

从差距分析中找到不满意的地方，结合自己企业的战略意图（我想做什么）从市场洞察中找到相关的机会，再从众多机会中聚焦到最有可能的方向，重新定义业务，设计业务。

“执行”的部分和“战略”的部分链接的枢纽是“关键任务”，就是那些实现战略目标过程中又难又对的事，需要企业长期认真投入。要想保证这些“关键任务”能真正落地，还需要执行一模块中的“组织”、“人才”、“数字技术”等要素做支撑。

BLM模型把长期正向思考和短期逆向补充的思路做了比较详细的描述。战略的关键是执行，错误的战略不可怕，可怕的是战略仅仅落地在纸面上，没有落地。战略错误了可以修正，但是没有执行的战略不如不做。

四、写在最后

        从年终总结和规划的层面，企业战略规划和各级组织的战略规划一样重要。各级组织的规划和企业的长期战略匹配起来，企业/组织才能相互促进共同成长。

参考内容：https://mp.weixin.qq.com/s/fLHthZ7YH76biKJyNbtIrQ