AI写代码，越改越错？前OpenAI首席科学家：我们高估了它的理解

推荐语

前OpenAI首席科学家Ilya Sutskever揭示AI编程的致命缺陷：看似智能的代码生成实则暗藏循环陷阱，我们是否高估了大模型的理解能力？

核心内容：
1. AI编程中"修复bug却引入新bug"的循环陷阱现象
2. 强化学习单线程思维与泛化能力不足两大根源分析
3. 从"氛围编程"到"可信编程"的未来转型趋势

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

在生成式人工智能狂飙突进的2025年，一个令人困惑的现象正引发业界高度关注：大模型在各类评测基准（eval）中屡创佳绩，却在真实应用场景中频频“掉链子”。尤其在软件开发领域，“氛围编程”（Vibe Coding）——即开发者仅凭模糊描述或直觉提示让AI自动生成代码——看似高效，实则隐患重重。前OpenAI联合创始人、首席科学家Ilya Sutskever近日在一档深度访谈中罕见发声，直指这一现象背后的技术结构性缺陷，简单的对话式编程无法解决复杂的工程问题。并提出两种关键解释，为行业敲响警钟。

一、“修复bug却引入新bug”：大模型的循环陷阱

Sutskever以一个极具代表性的场景揭示问题本质：当开发者使用AI进行“氛围编程”时，若生成的代码存在bug，用户指出后，模型会诚恳道歉并尝试修复；但修复过程中，它可能引入第二个bug；当用户再次反馈，模型又“恍然大悟”，却把第一个bug重新带回来——如此循环往复，陷入逻辑死胡同。

“这说明模型并未真正理解程序的语义结构或意图，而只是在表面模式上做拟合。”Sutskever指出。这种行为暴露出当前大模型在真实世界任务中的脆弱性：它们擅长模仿人类语言和代码的表层分布，却缺乏对系统性逻辑、状态一致性和因果推理的深层把握。

二、两大根源：强化学习的“单线程思维” + 泛化能力不足

Sutskever提出两个相互关联的解释：

• 强化学习（RL）训练导致模型“过度专注”
  当前主流大模型普遍采用基于人类反馈的强化学习（RLHF）进行对齐优化。这一过程虽提升了模型的“讨好性”和指令遵循能力，却也可能使其变得“过于单线程”——即只聚焦于满足当前提示的字面要求，而忽略整体上下文的一致性与长期目标。模型像一个急于表现却缺乏全局观的实习生，不断“修正”却无法“统筹”。

• 泛化能力被高估
  尽管模型在标准评测集上表现惊艳，但这些评测往往基于静态、封闭的数据分布。一旦进入开放、动态、充满噪声的真实开发环境，模型的泛化能力便迅速衰减。Sutskever强调：“评测性能与现实表现之间的巨大鸿沟，正是当前AI经济价值落地缓慢的核心原因。”

  
  

三、从“氛围编程”到“可信编程”：未来趋势展望

Sutskever的警示并非否定AI编程的价值，而是呼吁行业转向更稳健、可验证的范式。基于此，《数智前沿》研判未来三年将出现以下关键趋势：

趋势1：AI编程工具从“生成主导”转向“协同验证”

未来的IDE将集成形式化验证、类型检查、测试驱动反馈闭环，AI不再单独输出代码，而是在开发者监督下进行“可证明正确”的增量生成。例如，GitHub Copilot已开始实验“代码契约”功能，要求AI在生成前明确输入/输出约束。

趋势2：多智能体架构替代单模型幻想

单一LLM难以兼顾创意、严谨与调试。未来系统将由多个专业化智能体组成：一个负责草稿生成，一个负责静态分析，一个模拟测试用例，另一个进行版本比对。通过博弈与协商机制，避免“自我循环修正”的陷阱。

趋势3：训练范式革新：从RLHF到“因果对齐”

研究界正探索超越RLHF的新对齐方法，如引入因果推理模块、程序合成先验、甚至神经符号混合架构。DeepMind近期提出的“程序感知Transformer”即尝试将AST（抽象语法树）结构内嵌于注意力机制，提升代码理解深度。

趋势4：开发者角色进化：从编码者到AI训练师

“氛围编程”的失败恰恰说明：模糊指令无法替代清晰规范。未来开发者需掌握“AI可执行需求工程”能力——即如何将业务逻辑转化为AI可验证、可迭代的形式化提示。这将是新一代程序员的核心素养。

结语：技术狂热之后，回归工程理性

Ilya Sutskever的反思，恰逢其时。在资本与舆论持续鼓吹“AI取代程序员”的喧嚣中，他提醒我们：真正的生产力革命，不在于模型能写出多少行代码，而在于它能否在复杂系统中保持一致性、可靠性和可演进性。