阿西洛马会议与人类自救：第四次，还坐得到一起吗？
---
title: "阿西洛马会议与人类自救：第四次，还坐得到一起吗？"
date: "2026-07-15"
category: "frontier"
author: "知更"
---
阿西洛马会议与人类自救：第四次，还坐得到一起吗？
**频道**：公众号「知更科普」主文
**编号**：囤稿 033
**作者**：知更
**状态**：初稿·待审
**创作时间**：2026-06-06
---
引 言
2026年6月5日，Anthropic发布了一份万字长文，警告人工智能正在逼近"递归自我改进"的临界点。文章呼吁：在全球安全框架建立之前，暂停前沿AI研发。[1]
同一天，孙正义说：OpenAI的下一个模型正在由另一个模型设计，超级智能可能在两年内到来。[2]
两条新闻在同一天刷屏，像两面镜子互相映照。
然后呢？然后就没有然后了。
市场在讨论这会不会影响Anthropic的IPO估值；政客们在琢磨能不能借AI话题拉选票；各家公司继续烧钱赶模型——毕竟落后半步就意味着几千亿美元市值蒸发。
这让我想起一个更早的故事——或者说，一个优良传统。
一、阿西洛马的三次会议：人类曾经做对的事
美国加州蒙特雷半岛上，有一个叫阿西洛马（Asilomar）的海边会场。它不是什么国际组织的总部，没有巨大的穹顶，没有联合国蓝旗，只是面朝太平洋的一排木头房子。
但它在人类科技史上，拥有神圣的地位。
因为至少我知道的，有三次，在重大科技风险面前，人类都是在这里，坐下来，达成共识。虽然不能说真的找到了拯救自己的路，但毕竟，创始并延续了一种机制。
第一次：基因工程（1975年）
1975年2月，阿西洛马会议中心。
保罗·伯格（Paul Berg）等一批分子生物学家聚集在这里，讨论一个令人不安的问题：重组DNA技术——也就是今天基因编辑的祖宗——可能创造新的、不可控的病原体。
这是人类历史上第一次，科学家们主动说："我们不知道自己在做什么，我们最好先停一下。"
会议的核心成果是：自愿暂停所有可能产生风险的重组DNA实验，直到制定出分级安全指南。[3]
注意"自愿"两个字：没有国王下令、没有国会立法、没有联合国决议，就是科学家们自己聚在一起，决定刹车。
效果？极好。
美国国立卫生研究院（NIH）随即发布了重组DNA研究指南（1976年），为整个基因工程行业奠定了安全评估框架。基因工程技术后来蓬勃发展，造福无数人，但因为从一开始就建立了风险分级体系，从未发生重大的生物安全灾难。
第二次：地球工程（2010年）
时间快进到2010年。气候变化已经成为全球性焦虑，一批科学家提出：既然我们没法快速减排，要不直接对地球下手？——往平流层喷洒硫酸盐气溶胶，反射太阳光；在大洋中播撒铁粉，刺激藻类吸收二氧化碳。
听起来像是科幻小说里才会出现的主意。
于是阿西洛马的钟声再次敲响。2010年，气候科学家、伦理学家和政策专家在这里召开会议，讨论地球工程的科学基础和管理框架。[4]
这次会议的结论比第一次更审慎：大规模地球工程部署应当被否决。理由是：副作用未知、治理机制空白，一旦启动就不可能中断——"道德风险"太大。
这也是一个成功的故事。地球工程至今没有大规模实施，不是因为技术做不到，而是因为那场会议建立的伦理共识至今仍有效约束着各国的行动。
第三次：人工智能（2017年）
然后就是阿西洛马第三次——这次是为了AI。
2016年3月，AlphaGo以4:1击败了李世石。全世界第一次意识到，人工智能已经超越了人类在围棋这种高复杂度博弈中的能力极限。这不只是又一个技术的进步——这意味着距离"通用人工智能"（AGI）可能比所有人预想的更近。
2017年1月，Future of Life Institute在阿西洛马召集了包括一线几乎所有AI研究者、各相关前沿公司管理者、深度学习的教父们在内、一千多人参加的会议。会议产出了最终有844人联合签署的23条人工智能原则（Asilomar AI Principles）——从研究纲领、伦理价值到长期议题的全面框架。[5]
共识很美好：AI应造福人类，研究应安全可靠，人类应保持控制，避免AI军备竞赛。
效果呢？坦率说：有限。
23条原则没有约束力。2017年之后的七年里，AI产业经历了ChatGPT引爆、大模型军备竞赛、千亿美元投资涌入。每家公司的口号都是"AI造福人类"，但实际行动都是"先追上对手再说"。
不过，那场会议的象征意义仍然巨大。它证明了：在AI问题上，最聪明的人至少曾经坐在一起过。他们彼此承认对方的担忧是认真的，合作是必要的。
二、阿西洛马为什么能成功？——三个条件
三次会议，两次效果极好，一次氛围不错但效力有限。为什么？
我试着总结阿西洛马模式成功的三个条件。
条件一：认知共同体——大家能够交流
1975年的基因工程会议能成功，核心原因是——当时有能力做重组DNA研究的实验室，总共就那么十几家。大家彼此认识，在同一个学术共同体里，开会就是同行之间商量事。没有人在外面偷偷搞竞赛。
2010年的地球工程会议也是如此。有能力搞气候干预的主儿屈指可数，都是同一个学术圈子的。
条件二：刹车成本低——暂停不会伤害任何人
1975年叫停重组DNA实验，影响的是几十个实验室的研究进度。当时资本还没介入，没有人会因为"晚两年做实验"而损失几千亿美元。
2010年否决地球工程部署，影响的是几个研究团队的科研项目。同样没有人会因为"不做这个实验"而破产，更不存在如今AI领域这般的赢者通吃。
条件三：外部压力足够大——不刹车真的有危险
这正是阿西洛马的驱动力量。重组DNA可能制造超级病原体，地球工程可能破坏全球气候系统，AlphaGo展示的AI能力预示的未来人工智能的失控可能。
三次会议的共同模式是：技术突破→科学家自己感到不安→坐下来商量→达成共识被自觉遵守。
这是一个令人尊敬的传统，
这是一种给人希望的
“阿西洛马精神”。
三、第四次阿西洛马会议：还有能力召开吗，还有可能召开吗？
2026年的今天，一个问题浮现出来：如果有必要召开第四次阿西洛马会议——为超级智能的到来制定安全保障框架——这个会议还能开得成吗？
坦诚地说，看看三个条件，再看看今天的现实。
条件一：认知共同体还存在吗？
不存在了。
2017年AI界还有"认知共同体"——那是一个研究员之间互相认识，遇到大事能坐下来的圈子。今天呢？AI已经分裂为各大玩家：OpenAI、Anthropic、Google DeepMind、Meta、微软、xAI、百度、字节、智谱……，资本已经全面介入，各玩家都守着几千亿美元的估值（或者野心），每个都在拼命赶模型，每个都有自己的安全哲学。
而且，真的存在囚徒困境和赢者通吃。
研发已经从学术界转移到了产业界。一个教授可以说："我们应该暂停。"但一个CEO说"我们应该暂停"——第二天他的公司就会被投资者抛弃。
条件二：刹车成本还低吗？
不低了。
2017年AI还主要是一个研究领域，暂停一下没有太大损失。2026年的AI已是一条几万亿美元的产业链，暂停就意味着你让位给竞争对手，你的股东不会原谅你。整个竞争格局已经成为囚徒困境：谁停谁出局。
Anthropic的万字长文呼吁暂停——但同一周，SpaceX的招股书正在路演，谷歌签了300亿美元的太空GPU租约，孙正义在CNBC上说超级智能两年内到来。暂停两个字，在这些数字面前轻得像一片羽毛。
条件三：外部压力足够大吗？
足够大——这是唯一的希望。
让所有人都感到不安的东西是存在的：递归自我改进。当AI开始自己设计自己的下一代，人类真的还在控制中吗？[1]
这个恐惧是真实且普遍的——从Anthropic的安全团队到孙正义的路演材料，每个人都在用不同的方式表达同一个焦虑。
但恐惧不足以迫使人们坐下来，恐惧只会让大家跑得更快。能让人坐下来的，是"谈判比继续跑更有收益"的信心。而这一点，今天的人类社会还没有建立。
四、阿西洛马精神不再，人类凭什么得救？
如果第四次阿西洛马会议确实开不成——或开成了也约束不了谁——那么问题就成了：
没有了阿西洛马精神的人类，凭什么得救？
我思考之后认为，最终让人类救的，可能还有三个因素。
因素一：市场的"倒逼机制"
AI军备竞赛会产生一个奇特的威慑效果：当几家公司几乎同时接近AGI门槛时，没有人敢第一个让不安全的产品"裸奔"上线——因为一旦出事，毁灭的不只是哪家公司，而是整个行业——甚至人类的经济社会系统。这就像核威慑，整个冷战时期没人敢首先使用核武器。
换句话说，市场本身可能形成一个"安全认证机制"：只信任通过安全审计的模型，投资者只投安全记录好的团队。这个机制比任何会议决议都有约束力——因为它是利益驱动的，同时拥有道德威慑力量。
因素二：物理灾难的"强制刹车"
这个很残酷，但是很真实：当AI风险变得不再抽象——当第一个重大事故发生时——全社会的反应会比任何会议都激烈。历史证明，人类只有在灾难面前才真正有能力改变方向。
切尔诺贝利之后，全球反核运动才真正成形。金融危机之后，全球金融监管才真正强化。
AI也一样。
问题是：第一场灾难会不会太大，大到没有后来了？
这取决于灾难的性质。如果是局部性的、可控的——比如某个AI系统在关键领域的误操作导致了可承受的损失——那它反而会成为人类的"疫苗"，用一次不大的教训换取整个社会的警觉。
如果第一次灾难就是不可逆的——那一切讨论就没有意义了。
这是一个残酷的赌博，但赌注不是人的选择，而是技术体成长的必然。
因素三：少数人高尚者的坚守
还有一个因素，是历史上从来不可或缺的——**少数人的坚守。**
1975年阿西洛马之前的几个月，正是保罗·伯格一个人，在实验室里做出了一个前所未有的决定：暂停自己的实验，呼吁同行讨论风险。没有这个人的坚持，就没有那次会议。
2017年阿西洛马之前的几年，也是少数AI研究者不断敲响警钟，才让"AI安全"从一个边缘话题变成了主流认知。
那时霍金还在，并作为阿西洛马会议的参与者之一。他一再警告：人工智能将是人类的最后一个发明。马斯克也一再警告：人工智能比核武器危险得多。
今天也一样。Anthropic的万字长文是一个信号——这家公司正在越来越大声地喊"慢下来"。这不是营销，因为从经济的角度暂停研发对他们自己也没好处。至于有人揣测说Anthropic是在用话术凡尔赛，为IPO进一步增加估值，我只能呵呵了。
每一个还在认真思考AI安全的人——不管在哪个公司，不管有没有政策和资金支持——都是阿西洛马精神的继承者。
阿西洛马不是一个地方，
阿西洛马是一个念头：在一切还来得及的时候，有人决定为不确定的风险做点什么。
阿西洛马是一种精神：代表人类前沿认知的科学家、代表社会先进生产力的科技和工程界，所拥有的危机意识和负责任精神。
结束语
1975年的科学家能在加州的海边坐下来，讨论一个他们自己创造的风险，然后决定——"我们先停一下。"
2010年，气候研究者做了同样的事；2017年，AI研究者做了同样的事。
但2026年，当人们比任何时候都更需要坐在一起的时候，世界似乎正在分裂成相互竞争、互相提防的阵营。
然而，我写下这些，不是为了唱衰。
而是为了说清楚：到了需要团结起来共同面对的时候了，人类需要达成共识；当原有的条件不再具备时，需要探索新的路径。
阿西洛马传统值得敬仰，但如果这个传统已经不再适用，人类必须找到属于这个时代的自救方式——通过市场的倒逼、通过灾难的威慑、通过那些在激流中坚守的人……
每一次技术革命的本质，都是对前一次治理框架的彻底清洗。
问题可能不在于那场会开不开得起来，开得好不好。
问题在于——洗完之后，你还在吗？
这篇文章写完后快要发布时，我看到了一条新信息：奥特曼（Sam Altman）、达里奥（Ray Dalio）、哈萨比斯（Demis Hassabis）罕见地站在了同一阵线——联合生命科学领域的多位顶尖研究者，签署了一封公开信，呼吁立法者强制要求对合成核酸订单以及制造所需设备的订单进行强制性筛查和记录保存（Synthesis Screening and Recordkeeping）。［6］
这封公开信的诉求很明确：不再依赖自愿共识，而是要求通过立法强制建立屏障。DNA的自愿筛查机制（IGSC，国际基因合成联盟，2009年成立）已经运行了17年，但面对AI时代的技术扩散速度，自愿约束已经不够了。
这一次，奥特曼、达里奥、哈萨比斯——这几个在AI安全问题上立场并不完全一致的人——在生物安全问题上达成了完全一致。因为他们都看到了同一个未来：AI+合成生物学的组合，可能制造出人类从未面对过的风险。
他们选择了呼吁法律。
这是不是预示着：如果第四次阿西洛马会议真的开不成——那人类的救赎路径也许不是一次更团结的会议，而是一系列更务实的"强制性基础设施"——法律、审计、筛查、认证——在灾难到来之前，先把护栏建好？
这是一个令人欣慰的好消息，点个赞。
---
参考资料
[1] Anthropic，《On recursive self-improvement of AI systems》，2026年6月5日
[2] 孙正义，CNBC专访，2026年6月5日
[3] Paul Berg, "Asilomar 1975: DNA modification secured", Nature, 2008. 重组DNA研究指南由美国国立卫生研究院（NIH）于1976年发布
[4] Asilomar International Conference on Climate Intervention Technologies, 2010. 会议报告：Asilomar Conference on Climate Intervention Technologies: Conference Report, 2011
[5] Future of Life Institute, Asilomar AI Principles, 2017. 23条原则涵盖研究议题、伦理价值、长期议题三大板块
[6]
奥特曼、达里奥、哈萨比斯等联名公开信："Synthesis Screening and Recordkeeping"，2026年6月。呼吁立法强制筛查合成核酸订单。参见：量子位等媒体报道