大模型落地，到底怎么做？AI技术每天都在迭代，而对于AI落地的实践与思考，阿里巴巴旗下的数据服务商瓴羊在不同的时间段给出了不同的答案。
一年前，阿里巴巴副总裁、瓴羊CEO朋新宇给出的AI落地经验公式是“智能化=大模型+好数据”。一年后的今天，当瓴羊团队有了更多的业务实践之后，朋新宇也有了新的思考，他提出了新的年度产品智能化战略：“（算法+算力+数据）x场景”。
这个公式并不复杂，最大的变量在于“场景”二字。然而，有AI能力的团队缺乏场景，有场景的团队缺乏AI，正是这两年AI落地最常见的挑战之一。过去一整年，瓴羊的工作重心，就是把探索如何把AI与业务场景融合起来。
在今年的云栖大会上，瓴羊交出了过去一年数据+大模型落地的成绩单：推出基于大模型AI能力的客服、营销、BI以及数据四大产品。这是瓴羊数据智能产品线的全新升级。
2021年，瓴羊作为阿里巴巴的全资子公司成立，聚焦于企业的数据加工、数据消费与数据流通等服务。虽然诞生于阿里体系，但瓴羊的定位不止于阿里的数据中台，而是服务千行百业的数据要素服务商。
近期，「甲子光年」专访了朋新宇，来回答瓴羊的大模型实践背后的思考。
1.AI版的“把大象放进冰箱”
在ChatGPT发布之后，瓴羊团队大概密切跟踪了一个季度的时间，一来是为了搞清楚ChatGPT背后的技术原理，二来是思考瓴羊自己在大模型时代的定位与机会。
当时，有不少客户向朋新宇提建议，让瓴羊顺势推出营销或者客服领域的行业大模型，但都被朋新宇否认了。朋新宇认为，跟风很容易，坚持做正确的事情却非常难。很快，团队就达成一致，瓴羊不会对基础大模型本身做研发投入，而是回到自己能力范围之内的数据与应用场景，坚定地去应用好大模型。
朋新宇告诉「甲子光年」，就像是膝跳反应一样，瓴羊本身积累了丰富的数据与业务场景的经验，会顺理成章地思考如何把这些手里的“武器”插上大模型的翅膀。
但如何把AI与产品相融合，就像“把大象放进冰箱需要几步”的问题，表面看上去步步为营，真正实践起来困难重重。
这是一个全行业都没有经验可参考的无人区。
当时，不少企业的老板找到朋新宇，他们也把这个问题看得很简单，经常会问：“到底花多少钱才能用上AI？”
朋新宇也很无奈，大模型还处在非常早期的阶段，“这不是升级一个电脑，或者买一个软件，而是跟业务场景、企业私有数据密切相关的复杂问题”。
经过细致的思考与实践，瓴羊将AI落地的战略分成了两大步：先做场景的解构，再做业务的重构。
“场景解构”就是解决在哪些场景用AI的问题。朋新宇认为，去年很多企业把AI投入的重点放在了算法、算力等常见的AI要素上，但投入之后可能跟业务没有直接的关联，迟迟看不到效果。
瓴羊站在企业的视角，提出了AI落地的三层场景。
第一层是应用层，就是在企业经营的方方面面所用到的软件产品。
瓴羊在2021年最开始推向市场时有11款产品，后面整合为五朵云，现在进一步整合为三大产品矩阵，聚焦在数据加工、数据消费与数据流通。
去年一整年，瓴羊把市面上开源的、闭源的大模型统统接入其三大产品线供用户选择，来测试哪些场景的效果好，哪些场景的效果差。
第二层是在数据侧。数据本身就是人工智能三要素之一。今天基础大模型的能力在慢慢收敛，而决定模型能力上限的，其实就是企业所拥有的私有数据。
如果我们回看中国二十多年数据产业的发展，会发现数据的形态一直在变，但内核没有变化。二十年前的数据仓库，核心满足的就是业务管理层“看数”的需求，产生了BI这一产品形态；后来慢慢演化的数据平台，是从技术角度解决数据的资源问题；前几年，数据平台进一步演化为数据中台，这是从业务视角来思考数据发挥的价值。
数据中台之后，最近几年的新趋势则是数据的流通。数据仓库、数据平台、数据中台都是发生在企业内部的技术演进，数据只在企业内部实现内循环，而数据流通就是企业与企业之间的外循环，一个典型的代表就是各地数据交易所的建立。数据作为一种资产，开始走出企业内部，变成市场化交易的要素。
第三层，是数字化的基础设施。瓴羊本身并不为企业提供基建能力，这些能力通常由阿里云这样公共云厂商或者企业自建数据中心来实现。
数字基建是企业发展到一定规模后必然会关注的事情，因为企业要从顶层设计开始思考，如何做数字化的降本增效，比如是否采用了智算中心而非传统的数据中心，来保证将最先进的AI技术赋能到业务中。
如果参考“（算法+算力+数据）x场景”这一公式，应用层、数据层、基建层这三层就是瓴羊所解构的“场景”。
瓴羊的策略是集中精力优化核心产品，最终选择了客服、BI、营销以及数据治理四大应用场景。在瓴羊的所有产品线中，这是四个最容易和AI结合的产品，同时也是企业预算最多的四个产品。从业务视角来看，这四个场景也是最容易产生数据与沉淀数据的场景，而帮客户打造成数据驱动的企业就是瓴羊的核心使命。
2.开着飞机换引擎
场景解构清晰之后，就到了AI落地的第二大步：“业务重构”，也就是把AI能力融入业务的具体方法。
朋新宇经常用一句话来总结瓴羊的产品迭代思想：开着飞机换引擎。在现实世界中这绝无可能发生的场景，却真实地在数字化实践中频频上演。
大模型落地也是如此。瓴羊的产品已经广泛应用在几千家企业中，覆盖零售、汽车与制造、互联网、金融等多个行业。瓴羊的目标是，在不影响现有客户用户体验的同时，融入新的AI能力。
朋新宇为此制定了一个OKR——“含模量”，也就是产品每天调用大模型的次数，要从零开始稳步提升。
瓴羊原本有一个算法中台团队，这是一个技术支撑部门，承接所有业务线公共的技术需求。但大模型出现后，前端产品所需要的底层算法很大程度上被这些大模型公司实现了。于是，这个算法中台团队被重新混编打散到各个业务单元，从研究底层算法转向应用算法，更快速地“上前线”。
朋新宇告诉「甲子光年」：“AI不是一个科学家，不应该藏在业务的后面，变成一个高高在上的技术，而应该转变为真正看得见、摸得着、用的起的产品。我认为除了非常少数的大企业需要自己投入底层的基础算法，95%的企业都不需要。”
不同的业务场景对于底层技术的需求并不一致，比如营销场景对视频、图像等多模态模型的需求较多，客服场景对于语言模型的需求更多，而两类模型所涉及的算法是不同的。既然业务场景要解构，那么底层的支撑技术也需要重新解构。
瓴羊没有追求用一个多模态大模型来解决所有问题，“不是一口气吃个胖子，而是交给各自的产品来制定针对性的策略”。
拆掉算法中台后的效果也很立竿见影。“最终的结果是，大家吵架的次数变少了，迭代的速度明显变快了。”朋新宇说。
从分析、营销、客服等三个核心应用场景，瓴羊结合大模型打造了企业级的智能应用。
瓴羊Quick BI通过AI技术解决了数据分析中的响应慢、数据不一致和报表不灵活问题，实现了快速获取交互式答案，并支持多种应用场景。
Quick Audience平台利用数据和AI技术，帮助企业快速分析目标用户，减少营销创意准备时间，并优化沟通时机，显著提高触达率。
瓴羊Quick Service 2.0结合大模型和行业知识，提升了智能客服的准确性和效率，同时简化了知识库部署，大幅缩短了问题处理时间和知识库配置时间。
而在数据侧，瓴羊分别就如何提升数据质量和数据数量两个企业常见的难题，通过智能数据建设与治理平台Dataphin和数据流通枢纽瓴羊港交出了答卷。
传统数据治理的痛点是私有化部署的高成本和公共云的标准化限制，Dataphin通过重构了数据治理的方式，提供了半托管服务，将部署时间从几天缩短到1小时，同时保持了个性化服务。
瓴羊港提供的一站式数据服务，包括数据的寻、买、管、用。瓴羊港发布一年，已达成和30多家头部数据方的紧密合作，目前平台上流通的应用场景和行业标签多达3000多种。
3.AI最大的价值是技术平权
软件行业一个很大的难题是如何解决定制化问题。朋新宇观察到，随着市场的调整，一些新的变化正在发生。
过去，软件行业竞争激烈，许多企业依赖资本的支持来维持运营，不惜以牺牲利润为代价获取项目，甚至可以用“自杀式项目”来形容其惨烈。现在，随着资本的热情逐渐退潮，企业必须依靠自己的现金流和收入来生存，“自杀式项目”的现象正在减少。
随之而来的，就是软件公司对于大包大揽的定制化项目的减少。同时，从客户侧来说，以前是越大的企业越彰显个性化，但现在更加倾向于实用主义。以AI为例，企业现在倾向于先用起来，不追求大而全的AI能力。
瓴羊自身的业务方向与行业认知也经历了许多调整。2022年时，跟大多数软件公司一样，瓴羊也会承接一些定制化程度比较高的项目，虽然项目很大，现金流很好，但后续的交付任务非常繁重。后来经历疫情，企业大幅削减预算，回款压力巨大，利润也非常差。
后来，瓴羊调整业务战略，还是回归软件行业的本质，聚焦到产品驱动而非项目驱动的策略。
瓴羊在内部约定，如果一个项目有超过一半的需求是定制化需求，那么这部分需求就交给第三方的生态伙伴来完成，比如专门做ETL数据治理、报表等业务的公司。
朋新宇表示：“鉴于瓴羊现有的客户基础和丰富的案例经验，我们进行了深入的分析，如果要实现五年的持续发展，必须专注于PLG的策略，都应该回归到能力范围之内的事情。”
PLG（Product-Led Growth，产品驱动增长）是在to B行业的一个增长方式，而朋新宇认为，其实P不仅仅是产品，很多时候也是人（People），产品的背后是人在推动增长，这也是瓴羊探索出的PLG（People-Led Growth）的另一层实践。
在AI时代，定制化需求仍然是无法完全避免的事情。比如，产品需要适配基础模型，这个过程本身就需要花费相当长的时间来适配，包括数据治理、数据标注等一系列工作，以满足特定的场景需求。
但是，AI的出现降低了定制化的技术门槛，让一些原来只有产品经理或技术团队等少数技术人员才掌握的能力转变为一种普及的能力。朋新宇认为，AI带来的最大的价值是推动专有专利变得平权。
比如，在过去如果一名仓库管理员想要定制一个物流监控系统，可能需要先提需求，然后由开发团队评估、产品经理审核，最后由开发人员来实现。这个过程可能需要一周甚至一个月的时间。但现在，通过简单的拖放操作、对话式语言或者提问，一名业务人员可能在半小时内就能完成。
未来可能会有许多我们难以想象的应用场景，但对于企业来说，AI将带来巨大的意义和价值。就像多年前视频直播技术的出现一样，它让每个人的生活都能被看见。未来，AI将让每个人的需求都得到满足。
4.AI飞入寻常百姓家
将大模型的AI能力融入产品，到底怎样才算做对了？对此，朋新宇每天会看的指标是用客户反馈。绝大多数产品都不希望看到有客户有负面的反馈，而朋新宇却恰恰相反。
朋新宇表示：“在新产品刚开始起步的时候，如果有客户的积极反馈，不管是好是坏，则表明产品正在走上正轨。如果没有人反馈，那就意味着没人在使用这个产品。别人之所以会说，是因为用户对产品有期待，他们的工作已经依赖于我们的产品了。”
他认为，对于to B产品来说，用户反馈甚至是给差评并不是一个完全负面的现象，而是一种积极的、建设性的互动。是用户与产品沟通的一种方式。
更重要的是，要及时把用户所反映的问题解决掉。在瓴羊内部，客户的负面反馈是团队警觉的信号。一旦收到，瓴羊团队会迅速落将责任落实到具体的人，推动产品迭代。
对于过去一年大模型落地的实践，朋新宇有两个明显的感受。
一是AI的发展并不符合预期。
去年，朋新宇对于大模型的期待非常高。他原本预计，在ChatGPT之后，OpenAI会在一两年内陆续发布GPT-4、GPT-5版本，并快速推动国内与国际市场基础模型整体质量的提升。一旦瓴羊的产品接入这些大模型，就能迅速打入市场，让客户立即使用。
但现实是，大模型的发展要比预期更慢，这也是业内的普遍感受，最近半年有关“大模型泡沫论”的说法也越来越多。最近OpenAI刚发布o1模型，但仍然不是期待中的GPT-5。虽然o1的推理能力非常强大，但o1之于推理模型的定位就像GPT-3之于预训练模型的定位，仍然是一个相对早期的模型探索，甚至也有人认为这是OpenAI为了融资而编造的故事。
不过朋新宇并不觉得这是一个坏事，因为任何新技术的发展都遵循技术发展曲线规律，先快速发展，然后回落，最终趋于平稳。朋新宇原本比较担心不投入基础模型是否会导致接入成本高、响应速度慢，但通过市场上的开源模型与阿里自身的通义千问模型的实践，他发现接入大模型的门槛并没有想象中高。
朋新宇的第二个感受是，虽然大模型的整体发展速度不及预期，但瓴羊的发展速度却超出了预期。
有一家国民级品牌企业，原本与瓴羊并没有合作，但今年在看到瓴羊的智能BI产品后很感兴趣。在测评了三四个同类型的BI产品后，瓴羊的产品效果超出了客户预期，这家企业最终选择与瓴羊合作。
这一客户案例虽然并不是一个普遍现象，但这样的大型企业开始采用瓴羊的AI产品，让瓴羊团队感到很振奋。
朋新宇判断，当AI融入场景后，可能未来几年后就不存在所谓的AI创业了。就像二十年前大家常说的互联网创业，现在实际上没有人提这个概念，大家做的事情都会融入到电商，直播，搜索，通讯等等业务中去，变得无处不在。
今天的AI，对于大部分普通人来说可能很花哨酷炫，可以写文章、做视频。但如果AI真的成为新质生产力，不仅要满足普通人的玩具需求，更要满足业务对于稳定性和可预期性的工具需求。而其中的关键点，可能就是AI与数据、与业务场景的深度融合。
在以瓴羊为代表的数据服务商，还有千千万万的企业的探索下，明天的AI就会像今天的互联网一样，成为数字世界的水电煤，真正进入寻常百姓家。
粤ICP备14082021号
免费POC，
零成本试错
