亚马逊COSMO: 大模型驱动的大规模常识知识图谱应用于商品推荐框架

发布日期：2024-08-21 08:57:16 浏览次数： 3317

作者：知识图谱科技

微信搜一搜，关注“知识图谱科技”

摘要

大型知识图谱在电子商务平台的应用可以改善客户的购物体验。虽然现有的电子商务知识图谱整合了大量的概念或产品属性，但它们未能发现用户意图，导致与人们思考、行为和与周围世界互动的方式之间存在差距。

在这项工作中，亚马逊提出了COSMO，一个可扩展的系统，用于从海量行为中挖掘以用户为中心的常识知识，并构建行业规模的知识图谱，以支持多样化的在线服务。具体而言，本文描述了一个收集高质量种子知识声明的流程，这些声明是从大型语言模型（LLMs）提炼而来的，并通过对人类标注数据进行训练的批评分类器进一步优化。由于这些生成的内容可能并不总是与人类偏好一致，并且可能包含噪声，本文接着描述了如何采用指令微调来对高效的语言模型（COSMO-LM）进行微调，以在规模上生成真实的电子商务常识知识。COSMO-LM有效地将知识图谱扩展到亚马逊的18个主要类别，仅凭30k个标注指令便生成了数百万条高质量知识。

最后，COSMO已在亚马逊搜索应用中部署，如搜索导航。离线和在线的A/B实验都表明我们提出的系统取得了显著的改进。此外，这些实验凸显了从经过指令微调的大型语言模型中提取的常识知识的巨大潜力。

正文

随着我们探索知识图谱在各种应用中的潜力，我们发现了一个大家都非常熟悉的实际应用案例：电子商务！最近亚马逊发表了一篇论文，介绍了如何利用大模型构建常识知识图谱并应用于商品推荐。https://assets.amazon.science/1a/a6/44a84fa24574979b066037b4e20b/cosmo-a-large-scale-e-commerce-common-sense-knowledge-generation-and-serving-system-at-amazon.pdf

在广阔且不断发展的电子商务世界中，为客户提供个性化和相关的产品推荐是一个关键挑战。虽然传统的推荐系统通常依赖历史购买数据和协同过滤，但它们在捕捉许多日常购买决策背后的细微常识知识方面可能会遇到困难。

Amazon COSMO Framework

亚马逊的COSMO框架就是在这个背景下出现的。COSMO，即“常识知识生成和服务系统”，是一种开创性的方法，用于构建常识知识图谱，可以显著提升产品推荐引擎的性能。

COSMO的核心是认识到常识推理对于理解客户查询的上下文和相关性至关重要。例如，如果客户搜索“孕妇鞋”，那么由COSMO驱动的推荐系统将理解对防滑、舒适鞋款的隐含需求，而不仅仅是建议最受欢迎或评分最高的鞋子。

为了构建这种常识知识，COSMO利用了一种递归过程，结合了大型语言模型（LLM）、人工标注和机器学习。该系统首先通过挖掘客户行为数据，包括查询-购买对和共同购买模式，来发现产品之间及其使用上下文中的潜在关系。

然后，一个LLM负责使用一组预定义的类别，如“用于”、“能够”、“是”和“原因”，来描述这些关系。生成的候选关系通过一系列启发式方法进行过滤，以去除低质量或冗余条目，并将一个子集发送给人工标注员，根据合理性和典型性进行评估。

有了标注的数据，COSMO训练了一个基于机器学习的分类器，为剩余的关系候选分配分数，仅保留那些满足特定阈值的关系。这些高质量的关系然后被编码为LLM的指令，LLM被提示生成额外的解释和见解。

最终结果是一个综合知识图谱，它捕捉了产品、功能、受众和使用场景之间的常识性联系。这个图谱可以无缝集成到产品推荐模型中，为其性能提供强大的提升。

图3：用于生成知识候选的提示

图4：调整COSMO-LM以生成来自两种典型用户行为的电子常识知识的示例。我们扩大产品领域、关系类型和任务。

图5 COSMO-LM部署的示意图，展示了异步缓存存储和特征存储作为核心组件。它描绘了用户查询的高效处理和动态每日更新，这对满足亚马逊的搜索延迟要求至关重要。

图8：COSMO尾部知识的层级组织示意图

COSMO图9：使用COSMO的搜索导航体验

Performance 性能

为了评估COSMO的影响，研究人员利用购物查询数据集进行了一系列实验，该数据集是为KDD Cup 2022比赛创建的基准数据集。他们比较了三种推荐模型的性能：双编码器、交叉编码器以及增强了COSMO常识知识的交叉编码器。

结果令人震惊。当编码器固定时，基于COSMO的模型在宏观F1得分上比表现最好的基线提高了60%。即使在对测试数据的子集进行微调时，COSMO模型仍然保持了显著的优势，在宏观F1和微观F1上分别超越了最佳基线28%和22%。

这些研究结果突显了常识知识图谱在电子商务领域的变革潜力。通过捕捉产品及其使用情境之间的细微关系，COSMO使推荐系统能够提出更为明智和相关的建议，最终提升客户体验并推动销售增长。

Takeaways

展望未来，常识知识图谱的潜在应用远超产品推荐。这些强大的工具也可以用于改善客户支持、个性化内容和营销，甚至为产品开发决策提供信息。随着电子商务领域的不断发展，利用常识知识的能力无疑将成为像亚马逊这样的行业领导者的关键竞争优势。

总之，亚马逊团队在开发COSMO方面的工作代表了在将常识推理与电子商务结合的追求中向前迈出的一大步。通过构建全面的知识图谱，捕捉产品与用户之间的上下文关系，他们正在为一个未来铺平道路，在这个未来中，个性化推荐不仅仅是数据驱动的，而是真正直观且以人为本的。随着电子商务格局的不断转变，COSMO的见解和创新无疑将在塑造在线购物的未来中发挥关键作用。