微信扫码
添加专属顾问
我要投稿
阿里Qwen3-4B模型重磅升级,256K超长上下文支持,性能直逼GPT-4.1-nano! 核心内容: 1. Qwen3-4B两大升级版本:指令版提升多语言能力,思考版强化逻辑推理 2. 4B参数模型实现256K超长上下文处理能力 3. 性能测试显示接近30B大模型水平,特别适合翻译和RAG应用
阿里发布了 Qwen3-4B-Instruct-2507 和 Qwen3-4B-Thinking-2507。
这2款模型比3月前发布的 Qwen3-4B 更智能、更敏锐、且支持 256K上下文!
🔹指令:提高一般技能、多语言覆盖和长程上下文指令的遵循。
🔹思考:逻辑、数学、科学和代码的高级推理,专为专家级任务而构建。
两种模型都更加一致、功能更强大、并且更能感知环境。
hf模型:
https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507
https://huggingface.co/Qwen/Qwen3-4B-Thinking-2507
魔搭社区下载:
https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507
https://modelscope.cn/models/Qwen/Qwen3-4B-Thinking-2507
Qwen3-4B 具有以下特点:
训练阶段:预训练、后训练
参数量:4B
非嵌入层参数量:3.6B
层数:36层
注意力头数量(GQA):Q 32 个,K 8 个
上下文长度:原生支持262,144 token,即 256k
以下例子使用了非思考模式的 Qwen3-4B 模型。
Qwen3-4B,在小模型队伍里比较亮眼,256K的上下文,适合做翻译任务、tool call 和 RAG等。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-02-04
Skills使用体验
2026-02-04
AgentScope 正式发布 Skills 支持 - 实现渐进式披露
2026-02-04
从“回答者”进化为“研究员”:全面解析 Deep Research
2026-02-04
刚刚,Xcode 史诗级更新:原生集成 Claude Agent SDK,苹果开发直接起飞!
2026-02-04
国产 Cowork 它来了!MCP、Skills和Expert Agents都支持,全部免费体验!
2026-02-04
混元研究博客上线姚顺雨团队最新成果:从 Context 探索语言模型的范式转变
2026-02-04
通俗讲解大模型短期记忆 vs 长期记忆
2026-02-04
谁动了我的电脑?谁应该抱怨?
2026-01-24
2026-01-10
2025-11-19
2025-11-13
2026-01-26
2026-01-01
2025-12-09
2025-11-12
2026-01-09
2025-12-21
2026-02-04
2026-02-03
2026-02-03
2026-02-02
2026-02-02
2026-02-02
2026-01-31
2026-01-30