微信扫码
添加专属顾问
我要投稿
阿里Qwen3-4B模型重磅升级,256K超长上下文支持,性能直逼GPT-4.1-nano! 核心内容: 1. Qwen3-4B两大升级版本:指令版提升多语言能力,思考版强化逻辑推理 2. 4B参数模型实现256K超长上下文处理能力 3. 性能测试显示接近30B大模型水平,特别适合翻译和RAG应用
阿里发布了 Qwen3-4B-Instruct-2507 和 Qwen3-4B-Thinking-2507。
这2款模型比3月前发布的 Qwen3-4B 更智能、更敏锐、且支持 256K上下文!
🔹指令:提高一般技能、多语言覆盖和长程上下文指令的遵循。
🔹思考:逻辑、数学、科学和代码的高级推理,专为专家级任务而构建。
两种模型都更加一致、功能更强大、并且更能感知环境。
hf模型:
https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507
https://huggingface.co/Qwen/Qwen3-4B-Thinking-2507
魔搭社区下载:
https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507
https://modelscope.cn/models/Qwen/Qwen3-4B-Thinking-2507
Qwen3-4B 具有以下特点:
训练阶段:预训练、后训练
参数量:4B
非嵌入层参数量:3.6B
层数:36层
注意力头数量(GQA):Q 32 个,K 8 个
上下文长度:原生支持262,144 token,即 256k
以下例子使用了非思考模式的 Qwen3-4B 模型。
Qwen3-4B,在小模型队伍里比较亮眼,256K的上下文,适合做翻译任务、tool call 和 RAG等。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-12-17
吴恩达最新课程:别再只写Prompt了!掌握Agentic AI,让AI自主工作!
2025-12-17
开发者能用 ChatGPT App 赚钱了|机会,留给晚睡的人
2025-12-17
一位网友逆向破解了 ChatGPT 记忆系统,给我干破防了
2025-12-16
深度研究:我们如何构建水平最先进Agent
2025-12-16
原来ChatGPT的记忆是这么做的
2025-12-16
陈天桥丨系统的融化:从AI赋能到AI原生
2025-12-16
Google Disco:新型浏览器+Gemini3,信息不只是文字总结
2025-12-16
Claude MCP 和 Skills 的微妙关系
2025-09-19
2025-10-26
2025-10-02
2025-09-29
2025-10-07
2025-09-30
2025-11-19
2025-10-20
2025-11-13
2025-10-02
2025-12-16
2025-12-15
2025-12-14
2025-12-12
2025-12-12
2025-12-11
2025-12-09
2025-12-08