大模型从“懂不懂”进化到“能不能干”，AI 正在从回答问题走向真正执行。这个跨越的背后，带来了一个更深层的问题：当机器越来越能干，人该怎么办？Agentic AI 时代的核心命题，不是技术本身，而是人与机器的责任分配，人不可能退场，“可控自治”才是人与智能体共存的基本形态。本文根据欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长、腾讯云 TVP 郭毅可在 TVP 走进香港数码港活动上的现场精彩演讲整理，略有编辑。

过去我们评价一个 AI 模型，最重要的标准是两件事：模型懂不懂，回答问题准不准。

而现在，问题变了。

今天的关键问题，是智能体能否在复杂任务中持续执行，并在关键节点把风险交给人判断。这意味着 AI 正在从“回答问题”走向“替人做事”，一旦 AI 开始真正行动，而不只是给出建议，一个更深层的问题就浮现出来：谁来负责？

因此，Agentic AI 时代最核心的命题，不是技术本身，而是：人机共生，人不可能退场。

人不可能退场，原因至少有以下三个层面：

• 所有法律制度与社会秩序都是为人而设的：即便未来机器人可以完成所有任务，规则的解释权、责任的归属权，始终在人这一端。

• 信任的本质也是人与人的连接：以医疗场景为例，即便 Agent 能阅读所有病例、做出精准诊断，患者最终需要的，仍然是一位真人医生来确认、来签字，这个签字权，永远在人手里。 

• 机器与人各自擅长的事原本就不同：机器负责解锁、验证与规则化工作；人负责设定目标、判断是非、分配责任与承担责任。

这三个层面合在一起，指向了 Agentic AI 中“人不可能退场”的深层原因。所以，AI 的角色必须升级，它不能只是回答问题，而必须真正进入工作流。

聊天机器人主要帮助对话，Agentic AI 进一步处理任务。它能读文件、查资料、调用工具、整理结果，把 AI 从信息助手推进到工作参与者。这个角色跃迁的背后，是 AI 从“懂不懂”到”“能不能干”的能力跨越。

“可控自治”是 Agentic AI 的核心形态：机器在授权范围内自主行动，但人必须对结果进行校验。人机共生的重点，正是把责任分清楚，机器负责高频、重复、可验证的工作，人负责目标、判断、取舍和最终责任。

Agentic AI 的核心形态，正是在过度干预与放任不管之间找到平衡点。从这个角度看，人对机器的责任边界，实际上决定了 Agentic AI 的应用深度。凡是高风险的任务，机器可以提供建议，但不能单独执行，更不能替代人的责任。这是一条必须守住的红线。

但这不仅是技术问题，更是社会问题。责任的转移如何界定，Agentic AI 何时该介入、何时该交还人类，都需要清晰规则。这已不再是一个算法问题，而是一个治理问题。

要找到这些问题的答案，需要一个真实的试验场。香港恰恰是这样的试验场。

香港的产业很适合 Agentic AI，因为金融、法律、政务和专业服务都高度依赖文本、规则和合规。高密度任务场景，正好需要可控的智能体能力。更重要的是，香港有完整的法律体系，责任如何在人与机器之间转移、如何在法律框架内界定，这些问题在香港有现成的制度土壤可以去试验。

与此同时，香港已经具备比较清晰的 AI 基础设施条件。算力、资助计划和产业政策一起形成底座，让 Agentic AI 可以从试点走向真实应用。香港政府推出的人工智能资助计划规模为 30 亿港元，对于推动本地 Agentic AI 产业起步，意义不容小觑。

产业有需求，制度有土壤，投入在跟进。Agentic AI 在香港具备了从试点走向真实应用的条件。

这些方向并非纸上谈兵。基于本地化大模型的 Agent 平台 HKGAI 已经在香港落地，支持长任务执行、安全沙盒隔离与自定义 Skill，能够交付分析报告、报税、对话系统等各类应用。28 小时连续工作的记录，代表的不是技术指标，而是 Agentic AI 真正进入工作流的能力信号。 智能体的价值，归根结底是把组织里分散、重复、低价值的流程整理成系统能力，让团队把时间用在更高价值的判断上。

从这些正在发生的实践出发，可以更清晰地看到 Agentic AI 整体演进的方向。

从产品形态来看，行业正从 Copilot 式的辅助工具，转向具备自主执行能力的 Agent 平台。辅助与自主是两种完全不同的产品逻辑，而金融行业最有可能率先实现规模化落地，大量的调查文书工作以及投资决策支持，都是 Agent 擅长的领域。

从工作形态来看，人机交互正从单一对话，转向一人统筹多智能体协同的协作网络。未来的工作场景里，一个人类可以同时调度多个智能体，各自负责不同的专业环节。这不再是远景，而是正在发生的事。

从系统定位来看，Agentic AI 不能只是提效工具，而必须成为一套可信的基础设施。它需要具备边界管理、审计机制与追责能力。HKGAI 团队甚至引入区块链技术来记录 Agent 的行为时序，使得每一次决策都可以被追溯和评价。

从应用范围来看，孤立的 Agent 应用价值有限，真正的潜力在于构建城市级的智能协作网络。金融、法律、政务、医疗等场景有机连通，形成高信任度、高密度、高价值的生态体系。

这些方向构成了一个完整的落地框架，但这个框架本身隐藏着一个深刻的矛盾。

Agentic AI 有一个无法回避的悖论：智能体越聪明，它犯错的危害就越大；而对它管控越严，它的能力发挥就越受限。 这是一个真正的两难。我们希望 Agent 足够自主，能处理复杂任务；但正因为它足够自主，一旦出错，后果可能远超低能系统。所以越聪明，越要严管；但越严管，自主性又会被削弱。

破局的关键在于，高风险任务必须保留人类最终判断。机器可以给出建议、提高速度、整理证据，但人类负责关键决策和责任承担。

这一原则落地，需要一套可信的基础设施作为支撑。它不只是技术问题，更需要清晰的责任规则、审计机制与治理框架。而香港的优势恰恰在于，这里有完整的法律体系、高密度的高信任行业场景，以及正在形成的 AI 基础设施。这些条件加在一起，使得“可信智能体城市”可以成为香港的未来定位。

这个定位的核心不是技术，而是两种能力：组织能力与治理能力。技术只是手段，能不能把智能体有机地嵌入城市运行体系，能不能建立一套让人类与智能体协同工作的治理规则，才是决定性的。

从单点应用走向城市级智能生态，最重要的一个词是信任。而信任的建立，靠的不是宣传，而是闭环：可验证、可追溯、可追责。这“三可”，是可信智能体城市的基石。

未来几年最重要的，是把 AI 的能力真正治理好。治理好了，AI 就是生产力；治理不好，AI 就只是被投资者炒作的神话。

而治理的第一步，对于企业来说，是从流程改造开始。先选高频、文本密集、结果可验证的任务，再为每个智能体设定目标、权限、工具和复核机制。

在引入 Agentic AI 之前，需要先把流程搞清楚：哪些环节可以让机器做，哪些必须人把关，机器的输出如何校验，出错后如何追溯。这些“任务合约”，必须事先厘清。这将是未来几年最重要的管理工作之一，而这件事之所以难，是因为大多数企业的流程，可能连自己都没有想清楚。

这也是 Agentic AI 对组织真正的挑战：它逼着企业直面自己的流程，也逼着企业重新定义人与机器的分工。 当智能体真正进入工作流，ERP 这类传统管理系统会面临很大的挑战——要么转型，要么被替代，这是一个必然的趋势。因为这套新的分工方式，需要的是一套全新的组织基础设施，而不只是把 AI 嵌进旧流程里。

香港现在做的正是这件事。从完整的法律体系，到高密度的专业服务场景，再到正在形成的 AI 基础设施，条件已经具备。而 HKGAI 选择将 Agent 平台开源，让更多用户一同参与这场探索，为智能体赋予身份、界定权限、建立契约，让智能体形成可管理、可追责的协作网络。就像人类社会有规则约束，智能体社会同样需要。

人机共生时代的到来已不可阻挡。当 AI 智能体不再局限于语言世界，而是能在行动世界中自主决策、与人协同工作，人与机器的关系就已经越过了某个边界。Agentic AI 时代的核心焦点，将从让机器更聪明转向人与机器的社会契约。

这意味着每个人都要建立全新的认知框架：把 AI 当作共生伙伴，而非单纯工具；明白什么能让 AI 做、什么必须自己做。这便是 Agentic AI 时代的人类素养。

但技术终究是手段，真正重要的问题是：如何让机器与人各司其职，如何建立一套可信的责任体系。而答案，不会从某篇论文里找到，也不会从某个产品的发布会上找到。它只能从真实的实践里，从一次次的试错与校准中，慢慢长出来。

AI 是生产力，还是炒作的神话，取决于我们今天的治理与行动。