微调是什么？简单来说，它是一种让AI模型“更懂你”的方法。通过向模型输入自定义数据集，你可以调整它的响应结构、语气，甚至让它更好地理解并执行复杂的领域特定指令。无论你是从事编程、创意写作，还是其他特定领域，微调都能显著提升模型的表现。只需使用少量的训练数据集示例，就能产生显著的效果。这不仅降低了训练成本，也使得更多小规模项目和初创团队能够享受到AI定制化的优势。
而就在昨天（8月20日），OpenAI正式推出了GPT-4o和GPT-4o mini模型的微调功能，对所有付费层级的开发者开放。并且，OpenAI还提供了免费的训练标记（training tokens）配额，持续到9月23日，每个组织每天可以免费获得100万训练标记用于GPT-4o微调，200万训练标记用于GPT-4o mini微调。
1. 微调功能的可用性
现在，开发者可以对GPT-4o和GPT-4o mini模型进行微调。这项功能对所有付费使用层级的开发者都开放。
微调允许开发者根据自己的需求定制模型的响应，使其更符合偏好的结构或语气，或者使其适应复杂的领域特定指令。
2. 微调的应用和效果
Cosine
Cosine的Genie是一款AI软件工程助手，能够自动识别和解决bug、构建功能以及与用户协作重构代码。通过微调的GPT-4o模型，Genie在新的SWE-bench Verified基准测试中取得了43.8%的最佳成绩。与之前的19.27%相比，这次的改进是该基准测试中最大的进步。
Distyl
Distyl是一家为财富500强企业提供AI解决方案的公司，在BIRD-SQL基准测试中排名第一。Distyl微调的GPT-4o在SQL生成、查询重组、意图分类、链式思维和自我纠错方面表现优异，执行准确率达到了71.83%。
3. 如何开始使用微调：
OpenAI Fine-tuning Dashboard: https://platform.openai.com/finetune
OpenAI Fine-tuning Docs: https://platform.openai.com/docs/guides/fine-tuning
GPT-4o的微调功能现在对所有付费层级的开发者开放。开发者可以通过微调仪表板开始操作，选择基础模型“gpt-4o-2024-08-06”。GPT-4o的微调训练费用为每百万标记25美元，推理费用为每百万输入标记3.75美元，每百万输出标记15美元。从现在起到9月23日之前，OpenAI为每个组织每天免费提供100万GPT-4o的训练标记。
GPT-4o mini的微调功能也对所有付费层级的开发者开放。开发者可以选择“gpt-4o-mini-2024-07-18”作为基础模型。GPT-4o mini的微调训练费用为每百万标记3美元，推理费用为每百万输入标记0.3美元，每百万输出标记1.2美元。从现在起到9月23日之前，OpenAI为每个组织每天免费提供200万GPT-4o mini的训练标记。
附：OpenAI邮件通知全文
好消息！现在，所有付费层级的开发者都可以使用GPT-4o和GPT-4o mini的微调功能，这能帮助你在特定用例中以更低的成本获得更高的性能。
微调让你能够定制模型的响应，使其符合你偏好的结构或语气，或者让模型更好地遵循复杂的领域特定指令。
从编程到创意写作，微调可以在多个领域显著提升模型的表现。例如，Cosine的Genie模型通过微调GPT-4o在新的SWE-bench Verified基准测试中取得了43.8%的最高分。Distyl微调的GPT-4o在BIRD-SQL基准测试中达到了71.83%的最佳执行准确率。开发者只需要在训练数据集中使用几十个示例，就可以为他们的应用程序带来出色的效果。（关于这些结果的更多细节，请查看我们的博客文章。）
你可以从文档开始，或者直接前往微调仪表板，点击“创建”，然后从基础模型下拉菜单中选择“gpt-4o-2024-08-06”或“gpt-4o-mini-2024-07-18”。GPT-4o的微调训练费用是每百万标记25美元，推理费用为每百万输入标记3.75美元，输出标记15美元。GPT-4o mini的微调训练费用是每百万标记3美元，推理费用为每百万输入标记0.30美元，输出标记1.20美元。
为了帮助你快速上手，我们还提供了免费的微调标记配额：在9月23日之前，每个组织每天可以免费获得100万标记用于GPT-4o微调，200万标记用于GPT-4o mini微调。
如果你有任何问题，请在OpenAI开发者论坛上联系我们。
粤ICP备14082021号
免费POC，
零成本试错
