观点速读 ｜ SierraAI分享Agent落地经验：AI擅长检测而非避免自身错误，AI代理部署更多是工程上的挑战

本文所呈现的观点整理自Seirra AI 联合创始人Clay Bavor接受Sequoia Capital Youtube频道专访，公开发表于2024年08年27日。

人物简介

Clay Bavor

Clay Bavor 曾是 Google Labs 的副总裁，负责领导虚拟现实（VR）和增强现实（AR）技术的开发。他曾是硅谷知名游戏公司 Sierra Online 的联合创始人，该公司在 2008 年被 Activision 收购。

在加入 Google 之前，Bavor 曾在惠普担任产品经理，负责 webOS 设备的软件开发。他拥有斯坦福大学的媒体研究和计算机科学双学位。

作为 VR/AR 领域的领军人物，Bavor 对沉浸式技术的未来充满热情。他领导的 Google Labs 团队致力于打造突破性的硬件和软件，为用户带来前所未有的体验。他相信 VR/AR 将会改变人们工作、学习和娱乐的方式，并将对各行各业产生深远影响。

Clay Bavor 和 Bret Taylor 在 2023 年联合创立了 Sierra AI。两人共同创立 Sierra AI的目的是专注于利用人工智能提升客户体验。

公司简介

Sierra AI 是一家处于科技前沿的人工智能 (AI) 公司，专门开发先进的机器学习模型和人工智能解决方案。Sierra AI 的使命是利用人工智能的力量来解决现实世界的问题，专注于创造能够提高各行各业效率、准确性和决策能力的创新技术。

该公司的专长在于自然语言处理 (NLP)、计算机视觉和预测分析。他们的人工智能解决方案旨在通过自动化任务、改善客户体验和提供可操作的见解来增强业务运营。Sierra AI 与客户紧密合作，以了解他们的独特挑战，并相应地定制他们的人工智能解决方案。

通过将人工智能集成到日常流程中，Sierra AI 旨在利用机器学习的潜力来推动增长和创新，从而改变医疗保健、金融和零售等行业。该公司致力于提供高质量的人工智能解决方案，这使其成为人工智能行业值得信赖的品牌。

核心观点整理

本次访谈主要围绕Sierra公司及其利用AI代理革新企业客户互动的方式展开。Clay Bavor，这位谷歌前高管，分享了他对AI发展趋势的深刻见解以及Sierra在这一领域做出的努力。以下为访谈纪要，提炼出若干核心观点：

1. 解决许多AI问题的办法是更多的人工智能。大型语言模型更擅长检测自身输出错误，而非一开始避免错误。

大型语言模型（LLM）并非完美无缺，它们会产生“幻觉”（hallucination），即输出虚假信息。然而，Bavor指出，LLM的一个显著特点是它们能够有效地检测自身输出中的错误，这与传统的避免错误的编程方式不同。Sierra的Agent OS正是利用这一特性，通过多个LLM协同工作，并利用AI进行错误检测和纠正，从而提高AI代理的可靠性。

★

在过去一年半的时间里，我们从这项工作中获得的一个更有趣的经验是，解决许多AI问题的方案是更多地使用AI。这有点违反直觉，但大型语言模型的一个显著特性是，它们在检测自身输出错误方面比在避免犯这些错误方面做得更好。这就像你我快速起草一封电子邮件一样，好的，让我停一下。让我校对一下。这有意义吗？这些要点连贯吗？哦，实际上，我错过了这个。更强大的是，你可以提示LLM本质上扮演不同的角色，比如监督者的角色。看起来这样可以得到更多。

2. AI代理将成为企业与客户互动的新范式，彻底改变企业与客户的互动方式。

Bavor认为，AI代理将如同互联网、社交网络和智能手机一样，成为企业与客户互动的新方式。它允许企业以更自然、更便捷的方式与客户沟通，处理各种事务（例如购物、退换货、账户管理等），从而提高效率并提升客户满意度。

★

其背后的背景是，我们观察到，每当技术发生重大变化时，人们与计算机、与技术的互动方式都会发生变化。因此，企业能够以全新的方式与客户互动。你曾在90年代看到过这种情况。互联网使得网站成为可能，公司第一次可以拥有某种数字店面，并出现在世界面前，只需点击一下按钮即可更新库存，等等。在2000年代中期和早期，2005年、2008年，如果你是公司，你就可以通过无处不在的社交网络与你的客户进行大规模互动，并进行大规模对话。2015年呢？是的。智能手机兴起之后，作为一家公司，你可以在每个人的口袋里放进你公司的“瑞士军刀”版本。所以，我想你手机上肯定装有银行的移动应用程序，可能还在你的主屏幕上。因此，过去几年人工智能的进步，第一次使得创建可以与之对话的软件成为可能，对吧？能够理解语言、能够生成语言的软件，我认为最有趣的是能够推理的软件。对。并做出决定。它创造了非常令人愉悦的对话体验，就像我们与ChatGPT相关的那些体验一样。因此，我们认为这对于企业如何与客户互动来说是一件大事。

3. Sierra的Agent OS解决了AI代理的实际应用难题，为构建可靠、安全且实用的AI代理提供了工具包和运行时环境。

Sierra的Agent OS并非仅仅是简单的LLM堆叠，它解决了LLM的诸多实际问题，例如“幻觉”问题、与现有系统集成的问题以及处理复杂流程的问题。Agent OS提供了一个完整的工具包和运行时环境，包含数据治理、PII保护等功能，从而使构建可靠、安全且实用的AI代理成为可能。

★

因此，对于AgentOS，我们构建的是一个工具包和一个运行时环境，用于构建工业级代理，我不想说我们解决了每一个问题，但我们已经克服并减轻了这些问题的风险，以至于你可以安全地大规模部署它们，并与它们进行数百万次的对话等等。它始于基础层。我不是指基础模型层，而是平台的基础层，你必须处理一些非常重要的事情，例如数据治理、检测、个人身份信息的屏蔽和加密。因此，我们从一开始就将这些功能构建到平台中，以便客户的数据仍然是客户的数据，以便保护其客户的数据。例如，在我们将其记录到持久性存储之前，我们会检测、屏蔽或加密所有PII（个人身份信息），对吧？

4. AI代理的能力正在快速发展，未来将无处不在，融入整个客户旅程。

Bavor强调了AI代理能力的快速发展。仅仅18个月前，构建真正有用的AI代理几乎不可能，而现在，AI代理已经能够处理相当复杂的客户服务任务。未来，多模态模型（尤其语音）、更高级的认知架构以及更可靠的模型将进一步提升AI代理的能力，使其融入整个客户旅程，提供全方位的支持和个性化体验。

★

首先，逐月乃至18个月以来的进步令人叹为观止。18个月前，GPT-4级别的模型还不存在，对吧？它还只是一个遥不可及的未来。智能体架构、认知架构，以及你如何组合大型语言模型和其他支持性基础设施的方式都非常非常原始。所以，我甚至可以说，让一个能够提供帮助，更重要的是安全可靠的AI面对你的客户，这在当时根本不可能。……我认为更先进的模型、更复杂的认知架构，所有这些都将提高智能体的智能程度以及它能够解决的问题类型。然后是信任、安全、可靠性，我认为幻觉问题仍然是一个未解之谜。……未来，多模态模型（尤其语音）、更高级的认知架构以及更可靠的模型将进一步提升AI代理的能力，使其融入整个客户旅程，提供全方位的支持和个性化体验。

5. 构建和部署AI代理是一项工程和研究兼顾的挑战，需要新的开发流程、测试方法和监控系统。

虽然大型语言模型的进步至关重要，但Bavor强调，构建成功的AI代理更需要工程方面的努力，包括构建新的开发流程、测试方法、部署工具和监控系统等。Sierra的Agent OS和经验管理系统正是为此而设计的。此外，还需要深入了解客户业务流程和策略，才能设计出真正有效的AI代理。

★

我我认为简短的答案是两者兼而有之。但更具体地说，我对它在很大程度上是一个工程挑战。这并不是说下一波模型和前沿模型的改进不会产生影响，我相信它会。特别是，我们看到了一些技术，例如针对函数调用的更好的微调、针对基础模型或一些开源模型的以代理为导向的微调。这些都会有所帮助。但是，我们构建 AgentOS 和 CIRA 基础所采取的方法，实际上是将构建 AI 代理首先视为一项工程挑战，我们在此组合基础模型。……所以，这需要与他们合作去……引出并理解，这实际上是如何完成的？我们发现更有趣的一点是，它们通常是策略。

6. 基于结果的定价模式能够鼓励持续改进和更强的客户满意度。

Sierra采用基于解决问题的定价模式，其收益与客户的成功紧密关联。这种模式能够激励Sierra持续改进其AI代理，并确保客户获得最佳体验，从而提升客户满意度。

★

我们采用我们所谓的基于解决方案的定价方式或基于结果的定价方式进行收费。这意味着我们只在完全为客户解决问题（他们的客户问题）时才向客户收费。有趣的是，我们的激励与客户的激励高度一致。我们希望在高客户满意度的情况下更擅长解决案例，而他们希望尽可能多地向我们发送案例来解决，因为我们的成本远低于让某人接听20分钟的电话的成本。

7. AI的未来潜力巨大，将成为创意和生产力的巨大倍增器。

Bavor对AI的未来发展充满信心，他认为AI将成为创意和生产力的巨大倍增器，不仅能彻底改变企业运营方式，也能赋能个人，极大缩短创意到实现的路径。

★

我认为AI代表了从脑中想要在世界上存在的东西到使其存在的一种快速途径。我甚至在今天的个人生活中看到了这一点，我和我八岁的孩子在75分钟内，可以从头开始，使用Copilot、ChatGBT等等来帮助我复习我脑子里已经有点生疏的JavaScript语法，我可以和他一起从头开始制作一个游戏。我为我姐姐写了一个个性化的剧本。我用AI在45秒内为她生日写了一首歌。我想，如果在未来五年内推断出这一点会是什么样子？我认为，这只会大大加快从想法到创造到在世界上实现某事这一途径。

名词解释：

• PII (Personally Identifiable Information): 个人身份信息，指能够直接或间接识别个人的信息，例如姓名、地址、电话号码、身份证号码等。保护PII是数据安全和隐私保护中的重要环节。

• Agent OS: Sierra公司开发的一个操作系统，用于构建和部署工业级AI代理。它提供了一套工具和运行时环境，帮助开发者解决AI代理的实际应用难题，如幻觉问题、系统集成问题和复杂流程处理问题。

• 检索增强生成 (RAG):  一种结合了信息检索和文本生成的技术。它首先从外部知识库中检索与问题相关的文本，然后利用这些文本作为上下文，生成更准确、更全面的答案。