GPT-4o Mini深夜突发：即刻免费上线，API降价60%

发布日期：2024-07-19 02:49:46 浏览次数： 4401

机器之心报道

机器之心编辑部

大模型向小了。

还没「休息」几天，AI 大模型再次卷起来了。

刚刚，OpenAI 突然宣布了「Mini」版本的 GPT-4o 模型。该公司表示，新的轻量级版本旨在让更多公司和项目能够获得最先进的技术。

这款名为 GPT-4o mini 的新模型立即上线，它在 MMLU 上的得分为 82%，目前在 LMSYS 排行榜的聊天方面分数优于 GPT-4。

除了立即在 ChatGPT 免费版、付费版上可用以外，GPT-4o mini 的商用价格是每百万输入 token 15 美分，每百万输出 token 60 美分 —— 比之前的 SOTA 模型便宜一个数量级，比 OpenAI 此前最便宜的 GPT-3.5 Turbo 还要便宜 60% 以上。

OpenAI CEO 山姆・奥特曼对此的形容是：通往智能的成本已经「too cheap to meter」。

GPT-4o mini 凭借其低成本和低延迟的性能实现了广泛的任务，例如链接或并行化多个模型调用（如调用多个 API）的应用程序、将大量上下文传递给模型（如完整的代码库或对话历史记录）或通过快速、实时的文本响应与人互动（例如客户支持聊天机器人）。

OpenAI 表示，目前 GPT-4o mini 在 API 中支持文本和视觉，很快也将支持文本、图像、视频和音频输入和输出。该模型具有 128K token 的上下文窗口，知识截至 2023 年 10 月。得益于与 GPT-4o 共享的改进版 tokenizer，处理非英语文本能力也更加经济高效。

OpenAI 将新模型的推出描述为努力让 AI「尽可能广泛普及」计划的一部分，但这也反映了 AI 技术供应商之间日益激烈的竞争，以及人们对小型和免费开源大模型的兴趣。另有消息称，Meta 预计将于下周推出 Llama 3 的最大体量版本。

在人们看来，GPT-4o mini 可以替代 GPT-3.5 Turbo，对标的是 Claude 3 Haiku 和 Gemini 1.5 Flash—— 作为后来者，GPT-4o mini 毫无疑问的比这两者更便宜，性能也更好。

「OpenAI 的全部意义在于安全地构建和分发 AI，并使其广泛普及，」OpenAI 负责新模型的产品经理 Olivier Godement 表示。「以更低的成本提供智能是我们实现目标的有效方法之一。」

Godement 表示，该公司通过改进模型架构、优化训练数据和训练方案，开发出了 GPT-4o 的这个最新版本。它在几个常见的基准测试中也优于市场上其他的「小体量」模型。

小模型中最能打的

GPT-4o mini 在文本智能和多模态推理方面，在学术基准上超越了 GPT-3.5 Turbo 和其他小型模型，并支持与 GPT-4o 相同范围的语言。

GPT-4o mini 还在函数调用方面表现出强大的性能，使开发人员能够构建应用程序，以获取数据或执行操作。

值得注意的是，与 GPT-3.5 Turbo 相比，GPT-4o mini 提高了长上下文性能。

GPT-4o mini 已在多个关键基准测试中进行了评估，包括：

推理任务：GPT-4o mini 在涉及文本和视觉的推理任务上优于其他小型模型，在文本智能和推理基准 MMLU 上得分为 82.0%，而 Gemini Flash 为 77.9%，Claude Haiku 为 73.8%。
数学和编码能力：GPT-4o mini 在数学推理和编码任务方面表现出色，优于以前的小型模型。在 MGSM 上，对于数学推理任务，GPT-4o mini 得分为 87.0%，而 Gemini Flash 为 75.5%，Claude Haiku 为 71.7%。编码性能方面，GPT-4o mini 在 HumanEvalji'zhun 上得分为 87.2%，而 Gemini Flash 的得分为 71.5%，Claude Haiku 的得分为 75.9%。
多模态推理：GPT-4o mini 在多模态推理评估基准 MMMU 上表现出强劲的性能，得分为 59.4%，而 Gemini Flash 为 56.1%，Claude Haiku 为 50.2%。

作为模型开发过程的一部分，OpenAI 也与一些合作伙伴合作测试了 GPT-4o mini，发现 GPT-4o mini 在一些任务上明显优于 GPT-3.5 Turbo，例如从收据文件中提取结构化数据，或者生成高质量电子邮件回复。

安全对齐

从一开始，OpenAI 就在模型中内置了安全措施，并在开发过程中的每一步都加以强化。

在前期训练中，团队会过滤掉他们不希望模型学习或输出的信息，如仇恨言论、成人内容、主要汇集个人信息的网站和垃圾邮件。在后期训练中，会使用 RLHF 等技术使模型的行为与自身策略保持一致，以提高模型响应的准确性和可靠性。

GPT-4o mini 内置了与 GPT-4o 相同的安全缓解措施，OpenAI 根据 Preparedness Framework 和自愿承诺，通过自动和人工评估对其进行了仔细评估。70 多名社会心理学和错误信息等领域的外部专家对 GPT-4o 进行了测试，以确定潜在风险，这些问题的解决方法会在即将发布的 GPT-4o system card 和 Preparedness 记分卡中分享。这些专家评估得出的见解有助于提高 GPT-4o 和 GPT-4o mini 的安全性。

在这些经验的基础上，团队还利用研究中获得的新技术努力提高 GPT-4o mini 的安全性。

API 中的 GPT-4o mini 是第一个应用指令分层 (instruction hierarchy) 方法的模型，该方法有助于提高模型抵御越狱、提示注入和系统提示提取的能力。这使得模型的响应更加可靠，有助于在大规模应用中更安全地使用。

价格降低

OpenAI 表示，GPT-4o mini 现在可在 Assistant API、Chat Completions API 和 Batch API 中作为文本和视觉模型使用。每 100 万输入 token 价格为 15 美分，每 100 万输出 token（大约相当于一本标准书的 2500 页）价格为 60 美分。