微信扫码
添加专属顾问
我要投稿
GPT-4o新版本突然上线,更强更便宜。
能力全方位提升,ZeroEval基准测试直接跃居第一。
输入和输出分别节省50%、33%。
四舍五入就是API降价啊。
token输出扩展到16k,此前支持4k。
9.11和9.9谁大这个问题,也能丝滑解决。
这是因为OpenAI给API中引入了结构化输出。
通过JSON 模式确保模型输出符合开发者定义的结构,能让模型变得更可靠安全。
最新版模型“GPT-4o-2024-08-06”在JSON模式评估中,得分100%。
相比之下,去年6月的版本得分还低于40%。
在代码编辑方面,最新版本的基准得分和此前版本相同,但是现在成本只有原来的一半。
还有人发现,这个新版本是OpenAI在图像输入上最便宜的型号。
去年OpenAI DevDay上,官方正式给GPT-4引入了JSON模式,可以帮助开发者构建应用程序。
尽管JSON模式能提高模型可靠性,但是它并不能保证模型生成结果符合特定模式。
因此在这次更新中,OpenAI在API中引入结构化输出,可以确保模型生成内容和开发者提供的JSON模式完全匹配。
主要形式有两种:
1、函数调用:通过在函数定义中设置strict:true来调用结构化输出。
此功能适用于所有模型型号,包括gpt-4-0613和gpt-3.5-turbo-0613等。当结构化输出被启用时,模型输出将匹配提供的工具定义。
2、response_format参数新选项。
开发者可以通过json_schema (response_format参数的新选项)提供JSON模式。
当模型不是调用工具,而是以结构化的方式响应用户时,这是有用的。该功能适用于gpt-4o-2024-08-06和gpt- 4o-mini-2024-07-18。当response_format使用strict: true提供时,模型输出将与提供的模式匹配。
OpenAI更新了Python和Node SDK,支持本地的结构化输出功能。
此外,还强调了安全输出。新模式将遵循现有的安全规则,并引入了refusal字符串值来帮助开发者识别模型拒绝 unsafe 请求的情况。
结构化输出还可以用于动态生成用户界面、分离最终答案与推理过程、从非结构化数据中提取结构化数据等多种用例。
最后在价格方面,输入价格为2.5美元/100万token,输出价格为10美元/100万token。
由于新模型在输入和输出上能更节省,四舍五入也是降价了。
有人发现,这个新模型的输出没有上一版本那么冗长,成本上更可控。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-08-30
大模型的“思维链”(Chain-of-Thought):AI 是怎么一步步“推理”的
2025-08-30
Agentic AI与WorkFlow的相互成就
2025-08-29
刚刚,xAI 发布 Grok Code Fast 1 编程模型,快、便宜、免费
2025-08-29
大模型时代有了自己的「价值高速公路」
2025-08-29
A I智能革命——上下文工程新突破
2025-08-29
知识库检索准不准,关键看模型选没选对!一份评测指南请收好
2025-08-29
我如何用Prompt工程将大模型调教成风控专家
2025-08-29
度小满金融大模型技术创新与应用探索
2025-08-21
2025-06-21
2025-08-21
2025-08-19
2025-06-07
2025-06-12
2025-06-19
2025-06-13
2025-07-29
2025-06-15
2025-08-28
2025-08-28
2025-08-28
2025-08-28
2025-08-27
2025-08-26
2025-08-25
2025-08-25