我要投稿

他因选DeepSeek 70B 体验差，被开除

发布日期：2025-03-28 06:58:32 浏览次数： 1943

作者：算力百科

微信搜一搜，关注“算力百科”

受害者案例

这个案例是真实的，这个哥们之前问过我选什么版本，我俩还探讨过选什么版本比较好，我推荐他选满血版，哪怕是选择一个量化Q4的，他们预算不多，领导的意思是先做个AI助手，再慢慢体验后续逐步集成到业务系统里。

最终，他们选择了一个之前合作过的集成商，提供了一个DeepSeek 蒸馏的70B版本，部署了一个AI助手用，领导说不好用，天天PUA他，然后就吵吵起来了，被迫离职。

领导很好学，天天在体验APP

现在的领导都是既要又要还要，很多领导虽然技术不咋地，但是他们朋友多，朋友们各种推荐，下载一堆大模型app。

我认识一个部委的处级干部，手机上有5 6个大模型APP，Deepseek 、豆包、通义、kimi、文小言都有，没事的时候各种体验，跟我分享他的体验效果，哪个好，哪个不好，他的想法，美其名曰，与时俱进。

这类领导很多，他天天泡在大模型APP上体验，他们也需要聊天话题。现在内网给他一个70B私有化的助手，他能体验好么？由奢入俭难啊，他已经体验过效果好的大模型，智障版真心看不上。

我们一定要牢记，现阶段的领导已经完成了市场化教育，虽然他们不懂技术，但是他们一直在体验优秀的，高智商大模型，他们知道智商最高的模型是什么样，虽然他们不知道怎么应用大模型，但是他们内心对大模型的效果，有自己的想像，虽然大多数是空想。

员工没有错，预算有限

员工没有错，都是预算不够惹的祸。预算充足，谁不想用最好的，谁不想买最好的，但是囊中羞涩，领导不给批更高的预算，被逼无奈，只能退而求其次，选择一个70B。

选型工程师选一个70B，可以预测到领导体验不好，但是领导体验不好叼你两句就叼你两句呗，你干啥要跟领导顶着来啊，还是太年轻了，打工过程中，一定要记住“领导一定是对的”这是高情商的表现。当年我就是这么被PUA的，虽然我知道年轻人从来不喜欢听建议，因为我就不喜欢听别人的建议，我也有跟领导吵架美其名曰“主动离职”的经历。

在这里有一个小建议，虽然Deepseek方向很火，但是相关工作招聘的岗位依然不多，大环境使然，各位同学能忍就忍，工作不是那么好找，或者骑驴找马，找到再提离职。正是因为这样的现状，让某些领导更加的变本加厉PUA。

最近群里讨论最多话题就是用什么版本够用？

群友回答最多的答案是“用什么版本的大模型主要看场景”，选择哪个版本主要看钱，钱多啥都不是事，钱少啥都是事。

硬件成本=参数版本（智商程度=精确度）*并发数*响应速度。

在硬件一定的情况下，参数越大占用硬件资源越大，并发数和响应速度越慢。

算力百科团队建议一体机厂商，不妨把应用场景分为两类：实时任务和非实时任务。

非实时任务：例如智能客服、会议纪要、行业分析、离线翻译、合同审阅等等任务不需要实时性，任务提交等几分钟就是可以接受的，但是要求准确率极高，所以这种场景就需要高智商版671B。

实时任务：同声传译、问答练习、业务助手、企业内搜，这类任务既要求准确性又要求实时性。

在大模型内网部署，算力资源有限的情况下，任务一定要分优先级，排队机制很重要，需要实时性的任务，优先级高的任务及时响应，非实时任务可以排队到晚上处理。

以ds为借口，被开除的人会更多

真正的干活的能有多少决策权呢？选择什么样的模型还不是领导决定的？但是承担责任的往往都是干活的。

deepseek一体机已经完成了很多场景落地，但是更多没有完成业务闭环，跟风的居多。

算力百科团队调研过的客户用起来的场景，都是通过原业务伙伴落地的，而且效果特别好。举两个完成闭环的业务场景。

例如，某伙伴AI社工已经完成落地，每个基层网个人人手一个AI助手，用来给协助孤寡老人办理业务，大大提高了办事效率。他们之前就是提供社区管理业务系统的开发商，目前AI社工卖的很好，目前跟运营商合作非常紧密，运营商为什么愿意分包给他们，因为他们业务做的落地啊。

例如：某伙伴电子病历AI助手上线，之前的电子病历都是写好模版，把一些关键空格空着，让医生填写，现在不需要了，AI自动读取相关化验单和化验数据，自动完成电子病历填写，并且标红，由医生审核即可，大大节约了医生电子病历填写时间。当然这个伙伴本来就是国内top5的电子病历软件提供商。

目前很多客户选择deepseek一体机都只能web访问个助手，只是因为很多信息不能发到公网上，所以在内网用，但是无奈内网又选了个智障版。根本不好用，造成事与愿违，选型的技术人员最后成为内网兜底背锅的那个人，类似的矛盾随着一体机成交量的上升，类似的矛盾肯定是越来越多。因此类矛盾离职的也肯定越来越多

DeepSeek业务黑马和白马

业务黑马：就是业务系统很熟悉，最好是之前开发某一个系统的，现在用AI改进这个系统去落地，并且快速完成商业闭环。

业务白马：就是履历非常靓丽，海龟、名校、大厂根红苗正，通过资本故事获得资本青睐，用资本的力量推动业务商业闭环。

最终能落地的一定是业务商业能完成闭环的场景，所以建议客户选择一体机的时候一定要选择这两种供应商，才有可能走下去，如果只是买个硬件，那基本上最后就gg。

DeepSeek模型和应用部署，私有化模式一共有两种：

A:完全私有化：模型和应用都私有化在一体机里，这种称之为完全私有化。

B：混合私有化：模型公有云，应用私有化在一体机里，这种称之为混合私有化（类似混合云）

个人认为，如果混合私有化和公有云没啥区别，如果想拿你数据，肯定一样拿走，中小微就直接用公有云得了。

你们说这个小伙冤枉不冤枉？！好像都没错！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-25

手把手教你用LLaMA‑Factory微调医疗问答模型：从小白到专家的实战之路

2025-08-23

微调实战之上手训一个7b小模型

2025-08-18

WeChat-YATT：微信强化学习大模型训练库

2025-08-11

让AI读懂代码需求：模块化大模型微调助力高效代码理解与迁移

2025-08-07

大模型微调，解锁AI的专属超能力！

2025-07-31

微调之后还能做什么？大模型后训练全链路技术解析

2025-07-30

使用quarot量化qwen3并实现在线推理

2025-07-30

Unsloth微调Qwen3实战：让大模型训练飞起来的神器

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

手把手教你用LLaMA-Factory微调Qwen3大模型

2025-06-17

【大模型微调】5.调参经验总结与显存占用因素探究

2025-06-21

模型微调是啥？有哪些方法？小白也能看懂的通俗讲解

2025-07-03

大模型微调，为什么99%的企业都不应该碰这个坑？

2025-06-20

深入理解大模型微调，LoRA超参数指南

2025-06-26

我用unsloth将Qwen3大模型微调成了一个脑筋急转弯专家

2025-06-02

飞桨 AI Studio：一步步微调你的大模型

2025-07-28

10分钟微调，让0.6B模型媲美235B模型！免费体验进行中

2025-07-22

万不得已，不要对 LLM 进行微调？

2025-06-17

大模型微调的数据成本到底有多吓人？丨实战笔记

2025-07-09

大家都在问

大模型微调，为什么99%的企业都不应该碰这个坑？

2025-06-20

万不得已，不要对 LLM 进行微调？

2025-06-17

可以将任何符合OpenAPI规范的接口转 MCP Server吗？

2025-05-21

OpenAI发布GPT-4.1系列模型，对行业最大吸引力是什么？

2025-05-17

私有部署大模型需要多少显存？

2025-05-14

软件公司如何为AI的下半场做准备？

2025-05-10

LoRA为何成为大模型微调不可或缺的核心技术？

2025-05-07

为什么AI多轮对话总是那么傻？

2025-05-07

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB