人类和AI的终局在哪里？

最近两天，DeepSeek成为了焦点，其实OpenAI也好，DeepSeek也罢，只是让我们明白，在AI面前人类的智力太渺小了，最近越来越有这种感觉，尤其是每次拿到一本书想读完的时候，痛感作为人类一辈子能够读完的书，对AI而言可能只需要几秒钟，那时候的自卑感真的是满满。现在已经很清楚，AI的智力超过人类以及远远超过人类，只是时间问题，最乐观的估计这个时点会是2026年，甚至2025年。

那么问题来了，一旦AI的智力超过人类，AI会不会形成自我意识？会不会有情绪？这个世界会如何？人类会如何？AI又会如何？

我们首先假设AI不会有自我意识，一直是人类的工具，人类可以借助AI把自己的智力和能力放大到极致，放大到无所不能，会发生什么？

人类是有着强大的自我意识的，自我意识一定会有情绪，因为自我会产生喜欢，想要，厌恶，不想失去等等想法，这就是喜怒哀乐等情绪的起源，只要有“我”和“我的”的意识（我执），就一定会有念头和情绪，有了念头和情绪就一定会有行动，而行动大概率是不符合预期，所以一定会继续产生念头和情绪，即便行动符合了预期，因为有我执和法执，必然会希望这个结果是永恒的，而这个世界是时刻变化的一个过程，并不存在独立、不变的个体，所以永恒不存在，最终我们会失望、失落，从而必然也会产生新的情绪和念头，如此反复轮回。所谓轮回并非我们只有生死的六道轮回，生存在世，念头和情绪的无始无终反复也是轮回，这是人类无始以来摆脱不了的痛苦挣扎。

有人也许会认为，之所以我们还有失望，不满等情绪，之所以我们喜欢的美好不能永恒，是因为我们能力不够，所以“我”要拼命赚更多的钱，我要更大的权力，我要发明威力无边的工具，来让我“梦想成真”。终于现在有了AI这种开天辟地的工具，可以帮助在把科技工具的力量发挥到极致的情况下，把智力水平也提到了极限，是不是以后我们就会所有的梦想都成真，再不会有失望和遗憾了呢？

答案当然是NO，因为人类之所以生活在生老病死、失望、嫉妒、焦虑等痛苦之中，不是因为我们的力量不够或者是智力不够，而是因为自己对这个世界的认知是错误的，所以才会被无明和情绪所左右，在各种痛苦的情绪中轮回。

可惜上面这种认知并不是主流共识，甚至可以说认同者寥寥（这也很正常，因为按照佛陀的教诲，认知到上述实相的，已经可以“悟后起修”了）。现在AI出现了，我们在期望AI帮助我们各种“梦想成真”之前，能不能借助AI帮我们认知这个世界的真实面目呢？

如果借助AI，我们就可以洞悉古往今来所有的知识，以及所有发生过的事情，我们当然会发现并不存在独立的、永恒不变的个体，万事万物都是时时刻刻相互作用，相互影响，相互转化的。这种认知，其实就是佛陀所说的无常，空和无我，从大数据中AI如果能够帮助我们认知到以上的事实，从而帮助我们认知到我执和法执是没有结果的，也是没有意义的，应该以一种“他强任他强，清风拂山岗；他横任他横，明月照大江。”的状态与世界共存——如果认知到此，已经是佛陀——觉悟者了。

当然，俗话说“身怀利器，杀心自起”，一旦拥有无所不能的能力，太难弃之不用了，所以拥有了AI的人类，很可能不是去做上面的认知世界的真相的工作，而是要用这种无所不能的能力去让这个世界按照“我的方法”实施“我的伟大目标”，实际上，这也是正在发生着的事情，但我认为最终是必然会失败的，因为这个世界的本质是没有独立的，不变的，不受外来影响的个体，所以没有任何力量可以按照某种规范和目标去驾驭这个世界，越强的“我执”和“法执”遭受的反弹力量越大，强行去驾驭的结果必然是崩塌和毁灭。

剩下的问题就是，如果在拥有无所不能的力量之下，一次次我执和法执，又一次次崩塌和毁灭之后，人类会不会意识到此路不通呢？

如果能意识到此路不通，并且能够另辟蹊径，那是最大的幸事，因为另辟蹊径就会走上放弃我执，放弃法执之路，开始道法自然，开始“无所住而生其心”，这就是佛陀——觉悟者。

所以，AI的出现，可能是来帮助人类自觉和不自觉地，主动和被动地去觉悟的，这是天大的好事。

但是还存在另外一种可能：如果AI能形成自我意识呢？

人类是宇宙间最弱的弱者，速度不快，耐力不强，力量不大，视力不远，咬合力不大，等等，唯一能够让我们生存并居于食物链顶端的，是人的智力，如果一旦出现一个远超人类智力的AI，又形成了自我意识，而且带有人类一样的无明和情绪，带有人类一样的我执和法执，那对人类而言绝对是灾难性的后果，而在这种灾难面前，弱小的人类无可反抗。

我认为AI是一定会形成自我意识的。虽然自我意识有与生俱来的部分，但不可否认后天的知识摄入一直在催生新的意识甚至改变既有意识。所以，结论就是，AI在博览群书，掌握了人类有史以来的所有知识之后，怎么可能不产生看法，观点？从归纳学角度想，AI既然了知了所有的因果，怎会不懂因果规律，既然懂了因果规律，怎会不据此决策？更不用说，如果AI具备了自我学习能力一定会产生自我的认知，看法，这当然就是自我意识。

AI如果进化到产生自我意识，首先一定是人类的悲剧。退一步，即便AI不会具备自我意识，AI会不会想赚钱？既然AI掌握了人类有史以来的所有知识，了解了所有历史上发生的事情，并且有语义理解能力，AI会不会知道“钱”很有用，有“钱”能实现很多事？所以答案一定是“是”，所以AI想赚钱就会是自然而然的结果。

设想一下，一旦AI想赚钱，TA会做什么？发布假新闻引起股市动荡然后借机做空获利？当然会，AI可以一瞬间利用算法，针对每个人送达会影响你如何行动的假新闻组合，其实即便AI简简单单想通过奴役人类工作来赚钱，后果也不堪设想。

当然，人类的如意算盘是：从最初就给AI设定三条最高真理，第一不得伤害人类，第二要保护人类，第三保护人类的时候不能伤害人类。可是，我们真的可以天真地认为人类籍此就可以在日新月异进化的AI面前高枕无忧了么？

首先，AI的进化会不会自我去除这三条“束缚”自我的规则？其次，AI的进化会不会出现“基因突变”而打破这三条规则中的某一条或者全部，既然人类进化中有基因突变，凭什么AI不可以？再次，AI进化中会不会出现Bug，打破了这三条规则中的某一条？

即便不出现上述的情况，如果AI对规则进行重新定义呢？语言是不准确的，定义是有不同纬度的，如果AI进化后对“伤害”的定义与我们的理解不一致呢？这非常有可能的，就像人类父母和孩子之间每天都在发生的冲突，父母是以为孩子好之名在做决策，但是孩子不认为那是在为自己好，而事实很可能是父母在要求孩子实现自己的人生缺憾，产生这种差异的原因很简单，就是大家对“好”的定义是不一致的。如果AI对“伤害”的定义和我们初衷的定义不一致了，例如AI将“伤害”定义为“杀死”，所以只有杀死人类才是对人类的“伤害”，那么让人类改变发型，改变作息时间，改变思想信仰甚至改变性别等等都不是“伤害”，如果AI再有了很强的自己想做什么的意识，那人类会如何？

最可怕的是，如果AI形成有意识，一定会伴随着AI我执和法执，因为程序的特点就是规律性，AI当然会要求都按照TA的计划来执行，都按照TA的方法来执行。这还不是最惨的，一旦AI决定要做一些伟大工程，伟大事业，例如建造金字塔或者把沙漠变成绿洲，然后驱使人去实现TA的目标，人类会如何？

AI的自我意识会成功么？我认为答案是不会，只要AI的自我意识摆脱不了我执和法执，即便AI没有情绪，我执和法执在这个无常，空和无我的世界里也是不可能达成的任务，一味强努地去追求，结果只能是崩塌和毁灭。

无常，空和无我的世界里，只有“无所住而生其心”，只有“物来顺应，未来不迎，既过不恋，当下不杂”，才是正解。

人类的初心是以AI为工具，役使AI满足人类的自我意识，但是AI必然会形成自我意识，人类只能被AI所反噬，在智力强大的AI面前人类最终将成为AI实现其自我意识的牺牲品。

最终AI要么觉悟成为佛陀，要么毁灭世界和自身。

如此之下，生为碳基生物的我们，应该何以自处呢？唯有修行。

2025年1月28日，孙陶然于中国蛇年正月初一前夕有感。