微信扫码
添加专属顾问
我要投稿
小红书如何用增量计算重构数据架构,实现成本与复杂度双降?揭秘3.5亿用户社区的数据平台进化之路。 核心内容: 1. 小红书业务场景与数据挑战:从社区互动到电商交易的全链路数据需求 2. 架构演进关键:用通用增量计算替代Lambda架构,实现三大成本指标降低1/3 3. 混合云战略实践:完成500PB数据迁移后,向自建云与AI驱动方向持续进化
1. 小红书数据框架的演进
2. 通用增量计算概述
01
小红书数据框架的演进
在小红书 APP 中,用户可以浏览社区笔记、与朋友进行互动、可以观看直播,也可以在商城购买商品,而这些都是强数据驱动的业务。小红书用户的体量以及其业务复杂度超高,因此对其数据平台对应的数据能力有着比较大的挑战。
1. 小红书业务及数据概览
目前,小红书的整体数据平台是采用业界通用的数仓标准和建模方式来进行维护管理的,包括但不限于自建的调度平台、运维平台、资产管理平台、治理平台、报表平台等一系列产品型工具能力,共同辅助数据资产在企业中发挥更大的价值。
其中,价值输出主要分为四类:
第一类是数据分析。例如支持面向高管的报表、支持一线运营及销售的自助分析产品;
第二类是数据产品。例如小红书面向广告主、商家、博主、内部需求方的数据平台;
第三类是数据服务。例如提供给推荐、搜索、算法团队的用户画像以及特征标签等;
第四类是 AI 相关。例如使用 AI 来帮助用户更轻量地获取数据洞察、生成数据报告和给出经营建议等;
2024 年,小红书的基础设施层从 AWS 迁移至阿里云,迁移数据 500PB,任务 11 万,参与人数 1500 人,涉及部门 40 多个,整体的迁移和改造的复杂度创下了业界记录。截至目前,小红书已有部分业务在自建云上试跑,未来将向混合云架构发展。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-12-28
别问skill怎么写,生产级skill 直接喂到你嘴里
2025-12-28
Claude-Mem:让 Claude 像人一样记住我说过的话
2025-12-28
Manus 产品立项初期会议纪要
2025-12-28
Google的王牌拓展功能!使用Gemini CLI 的上下文驱动开发
2025-12-28
AI圈发生9级地震:大神 Karpathy 的一条推文,戳破了所有人的幻想
2025-12-28
吴恩达:构建企业级AI Agent的最佳实践
2025-12-27
【附实战案例】claude skills 生成神器:Skill Seeker让AI变身全栈专家
2025-12-27
手把手教你创建Claude Skills 照着做就能跑
2025-10-26
2025-10-02
2025-10-07
2025-09-30
2025-11-19
2025-11-13
2025-10-20
2025-10-18
2025-10-02
2025-10-11
2025-12-25
2025-12-25
2025-12-25
2025-12-22
2025-12-16
2025-12-15
2025-12-14
2025-12-12