2026年7月9日 周四晚上19:30,报名腾讯会议了解“如何构建自进化的动态知识库(Brain)”(限30人)
免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

NotebookLM +PodLM + F5:AI播客系列,个性化中英文播客(本地安装、Colab部署)

发布日期:2024-10-20 19:08:34 浏览次数: 5076
作者:AI进修生

微信搜一搜,关注“AI进修生”

Insight Daily ?

Aitrainee | 公众号:AI进修生

Hi,这里是Aitrainee,欢迎阅读本期新文章。

前段时间,NotebookLM 凭借其‘AI 播客’功能出圈了。它能将复杂材料转化为更接地气的语音访谈形式。虽然我们通常选择直接查看内容,但长时间使用同一种方式总会感到疲惫。此时,躺在床上或椅子上,把原材料丢进去,让 AI 生成一男一女的对话播客,确实让信息吸收变得轻松许多。
以不同的方式处理相同内容,往往能提升我们的兴奋度。就好像休闲时,我们想听播客,工作时则更依赖文字效率。
NotebookLM 生成的播客在流畅性和换气自然度上表现非常出色。例如,我上传了 Dify 开发者贡献指南(https://docs.dify.ai/community/docs-contribution),它就生成了一个质量极高的播客。

NotebookLM 在流畅性和自然度上表现优异,但可惜的是它不支持中文播客输出。接下来,我们将先介绍一下 NotebookLM,然后再转向 PodLM 和 F5,这两个为中文用户提供支持的播客解决方案。
NotebookLM,支持多种文件格式的导入,包括 Google 文档、幻灯片、PDF、txt 和 Markdown 文件,甚至复制粘贴文本、分享网址和 YouTube 视频链接,或上传音频文件。每个来源上限为 50 万 tokens,上传文件的大小限制为 200 MB,而每个笔记本最多可容纳 50 个来源。这种灵活性让知识的获取与创作变得轻松而丰富。

在NotebookLM的主界面,我们可以看到三个核心功能:首先,上传的文档构成了我们的知识库,用户可以对其进行提问,获取精准答案;其次,点击ai播客它就会生成这些文档的播客内容;最后,还有五个快捷选项,帮助你便捷地生成所需内容。这一切,使得知识的获取与应用变得更加高效与直观。

NotebookLM的第一个功能是RAG(Retrieval-Augmented Generation),允许用户对知识库进行提问,表现相当出色。每个空间最多可容纳50个文档,但用户可以创建更多空间。相比于Anythingllm,NotebookLM在这方面更具优势,使用的是免费的Gemini模型,操作也更加简便,唯一的挑战在于其界面基本上是全英文的。

这五个快捷选项挺有用的

比如其中,大纲 ...

然后时间线 ...

NotebookLM可以作为研究型专家,支持用户导入多种研究材料,如论文、参考资料、视频(youtube 链接)和音频等,集中进行混合研究。通过其知识库功能,用户可以结合不同领域的信息,模拟主持人与专家之间的一问一答形式。

基本的功能我们介绍完了,那么,对于 NotebookLM 有没有一些好的实践?

OpenAI的创始成员Andrej Karpathy对NotebookLM充满热情,认为它可能开启与大型语言模型产品交互的新范式,令人想起ChatGPT的影响。他花了两个小时制作了一个10集的历史主题播客系列,并上传至Spotify。

▲ 来源|36氪

其过程颇具启发性,可以总结为以下几步:
1. 创意生成:使用ChatGPT、Claude和谷歌寻找有趣的话题。
2. 内容创作:根据维基百科条目,让NotebookLM生成音频内容。
3. 播客简介:用NotebookLM撰写播客描述。
4. 封面艺术:使用Ideogram创建播客封面。
另外想想,AI播客属于音频内容,那么利用数字人技术,或许可能将它转化为真正的访谈节目,比如 ...
来源:https://www.youtube.com/watch?v=lFxu0mlOoWs
利用Heygen,我们通过中文音频生成虚拟数字人视频,它是能够根据音频内容对准口型的,并配合恰到好处的肢体动作和表情。
只需将AI播客的音频上传即可。
除了NotebookLM,我记得谷歌以前还有一个Illuminat — 专门 将论文转换成音频的产品。

无论如何,NotebookLM并不支持中文,不过目前来讲,有一些开源平替:Open NotebookLM、文档生成播客的 Podial、PodLM ......
还有,最近的 F5 TTS 也支持AI播客

PodLM

这个东西操作挺简单的,到这里https://podlm.ai/zh-CN可以免费体验一定的次数,不过他也是开源的,你可以选择自己部署。

现在下面是使用PodLM的一个例子

点击生成它就会按照你填入的内容,自动补内容,形成播客脚本,并生成音频

这个音频就是用文章开头内容生成的AI播客,

虽然不如NotebookLM生成英文播客那样流利顺畅,不过也做的挺不错的,而且它是开源的:https://github.com/lihuithe/podlm-public。

F5-TTS

这是一个挺厉害的TTS项目

我在Colab部署F5后生成了一个例子:

由于F5官方(https://huggingface.co/spaces/mrfakename/E2-F5-TTS)访问人数众多,经常出现卡顿,因此推荐本地部署。第一种方法是在我的Windows电脑上部署,使用4060显卡(8GB显存),生成15个字的内容也需要比较久的时间,显存要求较高。

如果你想要更便捷的体验,可以选择第二种方法,我已在谷歌Colab中调试好,只需连接到T4 GPU,速度比我本地的快得多。

现在看看第一种方式:首先克隆仓库

打开pycharm进入项目目录,pycharm提示自动按照requirements.txt创建虚拟环境,当然你也可以使用conda手动创建虚拟环境并安装依赖

我们需要查看本机的Cuda版本,安装对应的torch与audio torch,我这里使用了一个上海交通大学的源,测试下来比较好,我的cuda是12.1的

pip install torch===2.3.0+cu121 torchaudio===2.3.0+cu121 -f https://mirror.sjtu.edu.cn/pytorch-wheels/torch_stable.html

安装依赖

pip install -r requirements.txt

然后执行python gradio_app.py启动项目

点击web界面的端口

可以看到界面:

TTS功能是正常的,但是播客用不了,会报一个这样的错误

总之播客没有生成出来内容,我也不想花太多时间弄这个,网上也没有生成成功的例子,期待有人指明。并且,官网的播客也是一直处于生成错误的状态。

此外,如果你的TTS也没有成功的话,他可能缺少ffmpeg,你需要安装它

安装这个东西的网址在这(有不同系统的):

https://www.gyan.dev/ffmpeg/builds/

Windows中记得把bin文件夹添加到环境变量中。

现在第二种:Colab部署我解决了几个潜在的问题,Colab版本可以直接运行,笔记本在这:

https://colab.research.google.com/drive/1KoMvZQyxXiE3bw00_InCyNDbD4WkPlNr#scrollTo=P9Sgtw-jBBRe

链接T4,然后点击最后一行,并“ctrl+F8”,它会执行所有代码。

One More Thing

总的来说,就是这样,语音是人类最自然的交互模式之一,符合我们大脑的认知习惯。虽然我们有教科书,但依然需要老师讲课来帮助理解复杂内容。当我们能用口语解释概念、讲给别人听时,才真正掌握了它。AI播客 就是用简单的语言重新诠释书面概念,同时融入情绪和语气,带来了更自然的感官体验。

传统媒体让你被动地听别人制作的内容,而现在,你可以主动制作个性化的音频。

正如 OpenAI 研究主管 Karina Nguyen 所说,‘我心目中的终极 AGI 界面是一张空白画布(Canvas)’,它随着人类的偏好不断演变,自我变形,给予用户无限的创作空间和自由度,让交互方式更加个性化和丰富。

?希望这篇文章对你有帮助,感谢阅读!如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我,以便我用来评估创作方向。

?Submission:kristjahmez06@gmail.com
参考链接:
[1] https://mp.weixin.qq.com/s/Jqf2eZZHSU0ax732xP5V5g

[2] https://www.youtube.com/watch?v=lFxu0mlOoWs
[3] https://podlm.ai/zh-CN

知音难求,自我修炼亦艰

抓住前沿技术的机遇,与我们一起成为创新的超级个体

(把握AIGC时代的个人力量)

点这里?关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅