赫拉利抛出 “问”？外滩大会给出 “答”，这场对话藏着什么深意？

抖音推荐 2025年09月16日 15:13 2 admin

2025年外滩大会上，《人类简史》作者尤瓦尔・赫拉利的一番话让在场者陷入沉思。

他说，AI触及了社会的中枢神经系统，真正值得担心的不是技术本身，而是为了竞争优势不顾安全边界地部署技术。

这番对AI失控的忧思，恰好与大会此前发布的“AI十问世界”形成呼应，一场关于AI未来的探讨就此展开。

AI技术爆发以来，学界和业界对它的看法一直存在分歧。

一边是“超级对齐”阵营，以“AI教父”辛顿为代表，他们总在提醒大家警惕超级智能可能带来的灾难性后果。

另一边是“有效加速主义”阵营，a16z掌舵者马克・安德森就认为，技术的问题该在技术发展中解决，不全力追求AI才是最大风险。

这种分歧在2025年外滩大会上体现得很明显，赫拉利在演讲里强调，AI不是简单的自动化工具，而是有“主体性”的异质智能体，真正的危险不是“机器人叛乱”，而是算法悄悄夺走人类的决策权。

本来想顺着这个观点往下想，却发现2024年图灵奖得主萨顿有不同看法，他觉得外界对AI的恐惧被夸大了，甚至是某些组织和个人故意煽动的，还呼吁大家带着勇气迎接AI。

除了这两位，还有不少从业者分享了自己的见解。

阿里云创始人王坚提到AI该和太空资源结合，说太空一直是重要资源，不能只把AI用在手机、电脑上，探索深空离不开AI和计算。

宇树科技创始人王兴兴则刚官宣公司IPO，他觉得现在正是AI落地应用爆发增长的前夜，这个时代让他很激动。

如此看来，虽然大家对AI的态度不一样，但有一点是共识，那就是得正视AI的风险，推动AI向善。

外滩大会上的很多讨论，其实都是围绕这个共识展开的。

赫拉利在大会上谈AI风险时，重点提了两点：AI触及社会中枢神经系统，以及要警惕不顾安全边界部署AI。

这两个观点不是他临时提出的，在《智人之上》里他就有类似主张。

要理解这些主张，得先弄明白“无机生命”和“硅幕”这两个概念。

在赫拉利看来，AI的出现可能标志着“无机生命”的起源。

以前的技术再先进，也只是帮人类增强能力，决定权始终在人类手里，但AI不一样，它能自己做决策、创造新想法，是“会行动的主体”。

有人曾列过一个公式，说瓦特、爱因斯坦这些人类最强大脑是生物算力的奇点，ChatGPT是“生物+机器”混合算力的奇点，现在看人类智能还比机器智能强，但未来谁都说不准，这大概就是赫拉利担心的地方。

还有“硅幕”这个说法，也挺有意思，赫拉利觉得，冷战时的“铁幕”分隔了世界，AI时代可能会出现“硅幕”，把人类分成不同的数字帝国。

硅幕两边的人，在文化、价值观、社会规范上的差异会越来越大。

要是人类没办法重建信任，AI说不定会变成撕裂社会的“新殖民者”，利用人类的分裂掌权。

马斯克也说过类似的话，他觉得人类可能只是硅基生命的生物启动程序。

这些观点听起来有点让人不安，但也确实点出了AI发展中不能忽视的问题。

不过，外滩大会不只是听大家提问题，更多人在想怎么解决这些问题。

香港大学的马毅院长就提出，得把AI从“黑箱”变成“白箱”，不能再依赖试错，要基于数学原理和闭环反馈，让算法透明可解释。

复旦大学的漆远院长也觉得，AI的“安全可信”是底线，得通过可解释AI、检索增强这些技术，解决模型幻觉、数据偏见的问题。

这两位的观点其实是相通的，都是想从技术上给AI上“安全锁”。

而且，外滩大会一直很重视AI的安全性，以前就成立过CSA“AI安全工作组”，还共建了“IIFAA分布式可信认证体系”，今年更是把“负责任创新与普惠未来”当成重要内容来讨论。

凯文・凯利说过，科技的问题不能靠减少科技解决，得靠更好的科技。

很显然，这里说的“更好的科技”，就包括更安全、更可信的AI。

赫拉利自己也不是反对AI，他只是觉得要在AI安全上多投入，更谨慎一些，而外滩大会上这些技术探索，正是在回应他的期待。

除了技术，协作也是解决AI问题的关键，萨顿虽然觉得大家对AI太恐惧，但他也承认，人工智能和人类繁荣离不开去中心化协作，还说要想办法让协作制度化。

王坚院士则认为，AI时代的开源已经不只是代码开源，更是资源开放，开放对AI发展很重要。

外滩大会本身就是个协作平台，吸引了很多世界级的学者、企业家，一起讨论数据安全、算法公平这些全球性问题。

今年9月12号，上海外滩大会还和新加坡金融科技节、香港金融科技周搞了“三会聚首”，办了金融科技“全球主题日”。

如此看来，这种国际间的交流合作，正是打破“硅幕”的好办法。

麻省理工的特格马克教授说过，不管在哪造出失控的AI，都会给人类带来灾难，到时候地缘对立根本不算什么。

赫拉利也提醒，人类要控制AI、和AI共存，只能靠全球合作。

人类之所以能统治世界，不是因为多聪明，而是因为能灵活地大规模合作。

外滩大会搭建的这个协作网络，其实就是在践行这种合作理念。

大会发布的“AI十问世界”也很有意思，里面有豆包问的“人类让AI变强是不是养虎为患”，有Gemini问的“AI犯错该谁负责”，还有LLaMA问的“哪些岗位该留给人类”。

组委会说，AI的这些问题，其实是人类对自己的追问，是在想“人之为人”的意义，是在探索人机该怎么相处。

赫拉利总结得好，人类的选择会决定AI是“救世主”还是“终结者”。

要是大家一直内斗，AI可能会像“外星舰队”一样接管世界，要是能全球协作，AI说不定能帮人类治大病、应对气候危机，甚至突破认知极限。

2025年外滩大会就是在找让AI向善、推动协作的答案。未来已经来了，但要让好的未来到来，得靠人类做对选择。

《智人之上》里写过，未来几年人类的选择，会决定召唤AI是致命错误，还是让生命演化翻开新篇章。

这个选择不好做，但只要大家都朝着安全、协作、向善的方向努力，总能找到和AI共处的好办法。

毕竟，掌控AI未来的按钮，就在我们每个人手里。

玩家必备教程“微信财神十三张有挂的”（怎么能调好牌)

胜率设置方法“微信小程序海南麻将如何让系统发好牌”（有没有猫腻)

发表评论

赫拉利抛出 “问”？外滩大会给出 “答”，这场对话藏着什么深意？

玩家必备教程“微信财神十三张有挂的”（怎么能调好牌)

胜率设置方法“微信小程序海南麻将如何让系统发好牌”（有没有猫腻)

热门文章

最新文章