我要投稿

什么是停用词表？构建RAG系统时为什么要注意异常停用词？

发布日期：2025-03-18 05:03:15 浏览次数： 2011

作者：7sh科技

微信搜一搜，关注“7sh科技”

停用词表在英文中叫：Stop Words List，它是一个包含常见、但通常对文本分析或自然语言处理任务不重要的词汇的列表。停用词表一般在信息检索、文本分类、情感分析等场景被使用。

因为某些词汇其高频出现在表达具体意义时作用有限，因此被称为“停用词”。在处理文本数据时，通常会将这些停用词从文本中移除，以减少数据的稀疏性，提高处理效率，并可能提升后续分析或模型的性能。

停用词出了一些常用的标点符号，通常包括但不限于以下几类：

介词：如 “的”、“在”、“和”、“以”等。

连词：如 “而且”、“但是”、“因为”等。

助词：如 “了”、“着”、“过”等。

语气词：如 “啊”、“呢”、“吧”等。

在某些上下文中，一些非常常见的实词，如“人们”、“时间”等，也可能被视为停用词，特别是当它们对特定分析任务没有贡献时。

使用停用词表时，需要注意以下几点：

不同领域的停用词可能有所不同，例如，在医学文本中，“患者”可能是一个重要词汇，而在一般文本中则可能被视为停用词。

不同语言的停用词表会有显著差异，因为每种语言都有其独特的词汇和语法结构。

停用词表不是静态的，可能需要根据具体任务和数据集进行动态调整。

目前在一些RAG系统中的文本预处理阶段，通过移除停用词，可以简化文本数据，使其更加专注于表达核心意义的词汇，从而有助于提升后续分析或模型的准确性和效率。

另外，中文常用的停用词已经有大佬整理好了，大家可以直接拿去参考哈，修修改改，基本上就可以用来了。

https://github.com/goto456/stopwords

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-30

涌现观点｜RAG评估的"不可能三角"：当独角兽公司因AI评估失误损失10亿美元时，我们才意识到这个被忽视的技术死角

2025-08-29

RAG2.0进入“即插即用”时代！清华YAML+MCP让复杂RAG秒变“乐高”

2025-08-29

利用RAG构建智能问答平台实战经验分享

2025-08-29

RAG如七夕，鹊桥大工程：再看文档解析实际落地badcase

2025-08-29

基于智能体增强生成式检索（Agentic RAG）的流程知识提取技术研究

2025-08-29

RAG 为何能瞬间找到答案？向量数据库告诉你

2025-08-28

寻找RAG通往上下文工程之桥：生成式AI的双重基石重构

2025-08-28

万字长文详解优图RAG技术

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAGFlow中的Embeddings模型选择及向量数据库选型与实现分析

2025-06-05

RAG技巧与底层代码剖析

2025-06-06

RAG技术全解析：从基础原理到优化实战

2025-06-05

知识图谱+RAG：大幅提升智能问答系统准确率

2025-06-05

RAGFlow实战：如何根据文档类型选择最佳切片策略？

2025-06-20

从0到1落地一个RAG智能客服系统

2025-06-20

RAG彻底爆了！一文读懂其架构演进及核心要点

2025-07-15

详解RAG五种分块策略，技术原理、优劣对比与场景选型之道

2025-06-24

Agentic RAG：下一代智能检索与生成的革命性突破

2025-06-24

关于 RAGFlow 项目中 RAG 技术的实现分析

2025-06-05

大家都在问

RAG检索后如何应用更有效？

2025-08-28

一文搞懂大模型：何为深入理解RAG？

2025-08-25

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

当AI学会“查资料”：RAG如何让智能回答更靠谱？

2025-08-11

响应速度提升300%、检索准确率90%：RAG如何让企业知识“活”起来赚钱？

2025-08-05

长文本放提示词中还是采用 RAG？

2025-07-28

AI大模型落地最后一公里：RAG？

2025-07-09

向量相似度检索遇到天花板，是否我们走错了？

2025-07-04

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB