“美国一定会赢得这场竞赛。”美国总统唐纳德·特朗普在2025年7月23日的人工智能峰会上宣称，“因为我们绝不允许任何外国击败我们。”
同一天，白宫发布《美国AI行动计划》，把“赢得AI竞赛”写进标题。一个月后，中国国务院发布“人工智能+”意见，提出推动AI进入产业、消费、民生和治理等领域，同时强调安全能力建设与全球治理合作。
美中都在加快发展AI，减速的呼声却也从行业内部传出。2026年9月，Claude开发商Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发文，主张放慢最前沿AI能力提升的速度，让安全措施有时间跟上。但他同时强调，协调减速应当保住美国及其盟友的领先优势。
如果风险可能影响所有人，为什么想重视安全的一方，也难以先慢下来？
美国圣克拉拉大学马库拉应用伦理中心技术伦理主任布赖恩·帕特里克·格林（Brian Patrick Green）在采访中说，竞争会让研发者担心，谨慎反而意味着失去优势。
“有些人想把事情做得安全，但他们觉得，如果努力把事情做得更安全，就会输掉这场竞赛；那些不那么安全的人，反而会赢。”格林说。
风险尚有分歧，哪些边界需要提前设定？
2026年2月，由计算机科学家约书亚·本吉奥（Yoshua Bengio）牵头、100多名专家参与编写的《国际AI安全报告》，将失控情境描述为：AI系统脱离任何人的控制，而重新控制它的代价极高，甚至不可能。报告认为，在其评估时点，系统尚不具备造成这类失控所需的能力；至于未来发生的可能性，专家之间存在很大分歧。
格林的担忧既包括人利用AI实施危害，也包括未来赋予AI更大行动权限后可能出现的问题。他举例说，犯罪组织、恶意个人，甚至国家，都可能尝试利用AI入侵银行账户或从事其他有害活动。但他强调：“那些坏结果并不一定会出现。”
对于更远期的风险，他提出，若未来有人让能力更强的AI控制生物实验室，就需要考虑它是否可能被用于制造危险的生物武器。
“这是更远的未来，但我们现在就需要决定，哪些事情是我们不希望发生的。”格林说。
更安全的产品，会不会输给更快的对手？
对参与竞争的国家和企业而言，安全要求还涉及研发与上市节奏。
时事与经济分析专栏作家李厚辰在采访中，将中国推动AI发展的方式与产业政策联系起来。他认为，政府可以从光刻机、数据中心、模型研发，到采购和应用等多个环节推进发展。
他说:“如果他们知道有人从后面追赶，就会觉得需要更快，才能保持领先。”
在格林看来，走出这种压力，需要参与者共同接受安全底线、分享安全信息，并协调发展节奏。他主张建立国际条约，明确AI的最低安全标准，包括哪些任务必须能够安全完成，以及哪些行为应被禁止。
从沟通到核查，怎样确认对方守约？
美中之间已经出现新的沟通安排。根据白宫2026年9月25日的说明，以及中国驻美大使谢锋在10月1日刊出的访谈，双方同意继续就AI相关风险和益处开展对话，并同意建立AI事件沟通渠道。
在格林看来，即使各方同意遵守安全规则，仍需要解决一个执行问题：谁来检查？
“只要与别人签订条约，就需要确保它被遵守，这需要核查机制。”格林说。他设想，未来的AI协议可能需要国际人员进入相关国家和企业，检查模型是否具备约定的安全措施。
AI造成伤害，责任应落到谁身上？
除了检查安全承诺，格林还主张，将造成伤害的责任落实到开发技术的公司及相关个人。
“如果一个AI系统伤害了某个人，那么AI的创造者就应该承担责任。”他说，“你不能让AI本身承担责任，也没有迹象表明它具有某种道德责任。”
在他的伦理判断中，讨论不能停留于“系统出了问题”，还应追问是谁作出了开发、部署和使用上的选择。他建议考虑让具体决策者承担责任，促使公司内部的人更加重视安全。
“我认为，让人们更重视伦理和安全的一种办法，是把责任联系到具体的人。”格林说。
对格林而言，AI竞赛中的安全问题，最终需要落在可以执行的安排上：哪些边界不能跨越，承诺由谁检查，伤害发生后又由谁负责。
下一集，我们将把视角转向个人，讨论AI如何改变政府与普通人之间的力量关系。