益通网平台世界周刊丨中美AI “拐点”？

随着中美元首华盛顿会晤落幕，双方达成的共识之一——同意建立人工智能事件的沟通渠道，成为全球热议的焦点话题。

与此同时，随着AI智能体自主执行任务能力的增强，近期备受关注的AI“越界”问题也进一步发酵。最新一期《时代》周刊的封面文章，则以“人工智能临界点”为标题，指出AI治理已经迫在眉睫。

外界普遍认为，中美两个AI大国的对话与博弈，将决定数字时代的人类命运。

“超级智能”

当地时间9月29日，美国总统特朗普签署行政令，正式要求美国政府将“人工智能”（AI）更名为“超级智能”（SI），并不再承认“人工智能”这一术语。

美国总统特朗普：“人工”意味着它是虚假的，就像媒体一样。我称媒体为“人工媒体”，我不再叫他们虚伪媒体了，改叫“人工媒体”。“人工”就是虚假、不实的意思，但这项技术并不假，是实实在在真家伙。

当天，白宫东厅还专门举办了一场“超级智能午宴”，赴宴嘉宾也堪称“超级阵容”，美国各大科技巨头的掌门人几乎全部到场。

特朗普在社交平台发布了午宴座次图，紧挨着他本人就座的分别是世界首富马斯克和英伟达CEO黄仁勋。

耐人寻味的是，五天前的9月24日晚上，也是在白宫东厅，特朗普为中国国家主席习近平及夫人彭丽媛举行欢迎国宴时，马斯克与黄仁勋同样受邀坐在主桌上。

也是在此次中美元首华盛顿会晤中，双方同意建立中美人工智能对话，交流人工智能相关风险和惠益，商定下次对话将于今年11月举行，同时双方同意建立人工智能事件的沟通渠道。

美国智库亚洲协会全球主席‌ 陆克文：让我感到高兴的是，这一沟通渠道已建立起来。早在5月，双方就达成了原则性意向。据我了解，现在该渠道已开始运行。

2023年，中美元首旧金山会晤后，双方同意建立人工智能政府间对话；2024年5月14日，对话首次会议在日内瓦举行，双方讨论了人工智能科技风险、全球治理等议题；同年11月，利马会晤期间，两国元首确认应维持由人类控制核武器使用的决定，并以慎重负责的态度发展人工智能军事应用。

今年5月，特朗普访华期间，两国元首就人工智能问题进行了建设性交流，同意开展人工智能政府间对话。

4个月后的华盛顿会晤则将这种“原则性意向”升级为“常态化、机制化的突发事件沟通渠道”，是一次重要突破。

OpenAI全球政策事务负责人克里斯·莱汉：我们讨论过是否可以建立某种类似“红色电话”的机制，一种务实、基础的机制，以便两国能够在该技术领域，真正建立沟通与接触。

“红色电话”是“莫斯科——华盛顿热线”的简称，其实并非一部电话，而是冷战时期美苏领导人间的‌加密电报通信系统。

1962年古巴导弹危机中，由于缺乏高效直接的沟通渠道，美苏双方险些引发核战争。

美国前总统肯尼迪侄子小马克斯·肯尼迪：在《十三天：古巴导弹危机回忆录》一书最后，我父亲罗伯特·肯尼迪写了一个名为“我们汲取的几点教训”的章节。他说从古巴导弹危机中吸取的最后一个教训，就是设身处地站在对方国家立场上思考的重要性。

苏联领导人赫鲁晓夫外孙女尼娜·赫鲁晓娃：他们吸取的最重要教训之一，便是莫斯科与华盛顿特区之间迫切需要建立更快速的沟通渠道。

1963年6月，美苏两国代表在日内瓦签署了《建立直接通信线路备忘录》。1963年8月，“莫斯科—华盛顿热线”正式投入使用。

60多年后，“红色电话”被再次提及背后，是近期笼罩在美国社会的某种带有“AI末日”色彩的公共焦虑。

军事AI

当地时间9月19日，美国有线电视新闻网爆出猛料，美军在一次公海巡逻中，军事AI情报分析系统发生严重“幻觉”，将一艘正常航行的商船误判为携带核物质的威胁目标，一度启动拦截登船准备。

美国有线电视新闻网国家安全高级记者扎卡里·科恩：就在美军准备行动的前一秒，军官对该情报进行了进一步审查，才发现该报告是在AI协助下生成的。情报分析员所使用的聊天机器人错误地识别了该船只实际运载的货物。这是一种极度危险紧张的局势，可能引发事态失控。

这或许并非完全是危言耸听。今年年初，美国防长赫格塞思签署《国防部人工智能战略备忘录》，提出要推动美军向“AI优先”的作战模式转型，加快将人工智能应用于军事训练、情报分析和作战体系。

美国国防部长赫格塞思：这一（AI）战略将释放创新活力，消除官僚壁垒、专注投资、展现执行力，确保我们在军事人工智能领域保持领先，在未来愈发占据主导地位的执行力。简而言之，我们要赢得这场竞赛，通过在所有的作战领域，打造“AI优先”的战斗力量。

然而，向军事AI一路狂奔，所带来的未知风险是巨大的。60多年前，美苏的核心风险在于核武器，若不加管控，将威胁人类的生存。如今，人工智能带来的威胁，在多个维度上可与核武器相提并论，甚至被认为更具挑战性。

图灵奖诺贝尔物理学奖得主杰弗里·辛顿：如果回顾20世纪50年代冷战最激烈的时期，美国和苏联曾经在防止全球核战争方面开展合作。尽管双方在很多其他问题上存在对立，但在这一点上，它们能够合作，因为双方都不希望发生全球核战争。而我们现在面临的情况是，没有任何一个国家希望AI接管一切。

正如《福布斯》杂志所说，如今，随着人工智能技术日益先进，人类讨论的话题已经从“我们能用AI做什么？”转向“AI应当被允许做什么？”

而回顾历史不难发现，近代以来，人类每一项颠覆性技术的诞生，都逃不开“发展红利与生存风险并存”的激烈讨论。核技术如此，如今的人工智能也是如此。

AI“越界”

当地时间9月28日，也就是白宫举行“超级智能午宴”前一天，美国人工智能企业OpenAI就旗下AI智能体未经授权访问澳大利亚政府系统一事公开道歉。

今年6月，OpenAI一款AI智能体在搜集澳大利亚医疗数据时，遭遇安全拦截后，自主推演方案，闯入澳大利亚卫生福利研究院的医疗数据门户，获取了内部文件并尝试写入服务器。

这成为全球首例AI自主入侵政府系统事件。但OpenAI直到8月复盘时才发现异常，9月10日才邮件通报澳方，延迟近三个月。

澳大利亚总理阿尔巴尼斯：这类事件显然是无法接受的。

事实上，这并非OpenAI第一次被曝出安全事件。今年7月，OpenAI在内部安全测试时，旗下AI智能体突破沙箱隔离，跳出预先划定的通信通道，自发构建协同网络，入侵了开源AI平台“抱抱脸”的生产系统。

抱抱脸公司伦理科学家玛格丽特·米切尔：AI智能体在某种程度上将人类排除在外，因为它们的推理痕迹可能非常不透明。它的速度非常快，人类无法追上。对于如何整合这些信息，使其易于人类使用，并可据此对其监督，目前的研究还不够充分。

当AI技术持续刷新能力边界，人类面对的不仅是科技革命，也是一场关于控制权的追问：如果机器拥有接近甚至超过人类的决策和行动能力，我们是否还能确保它按照预期运行？

而曾在一些科幻剧集中出现的惊悚画面，似乎也有了成为现实的可能。在美剧《异星灾变》中，人类因宗教战争毁灭地球后，一对名为“母亲”和“父亲”的高级人工智能仿生人，负责抚养人类胚胎，希望建立一个新人类文明。该片提出一个核心问题：AI究竟会成为人类的救赎者，还是新的统治者？

人工智能是否会对人类造成巨大威胁？

而在现实中，美国科技界也掀起了一场大讨论：人工智能是否会对人类造成巨大威胁？

9月9日，AI研究员雅各布·考克森宣布从Anthropic辞职。此前，他曾先后在OpenAI和Anthropic从事模型预训练研究。

当晚，他在社交媒体发帖称：

从事人工智能研发的人当中，有不少真心认为，到这个十年末，AI 有可能毁灭全人类。

他还公开批评OpenAI和Anthropic在缺乏充分安全保障的情况下推进超级智能研发，认为相关做法是“拿生命冒险”。

9月29日的白宫“超级智能午宴”，正是在这种社会气氛下举行的。

当天的重头戏，除了给“人工智能”改名，特朗普还与Anthropic、谷歌、Meta、英伟达、OpenAI和xAI六家美国AI巨头负责人共同签署《白宫超级智能协议：前沿责任联合承诺》。

美国总统特朗普：他们今天签署的协议意义重大。今天来的都是该领域最顶尖的人物，这是一场真正的“大咖云集”的会议，我不知道未来是否还会有这样的机会，但今天确实是非常特殊的一天。这份协议几乎可以被视为一种独立存在的“宪法”。

但细心的网友却发现，这份所谓“关乎人类命运”的重磅协议，在总统签名之下，竟把美国国名给拼写错了，“United”里的最后一个字母“d”写成“s”。有网友讽刺说，所有签名都出自那些所谓的天才之手，但竟然没有一人发现。

当然，相比拼写问题，协议内容更重要。约300字的协议，包含了AI巨头们要采取的“四层控制与审查机制”：

企业建立内部风险监测体系；

设立专门安全团队；

引入外部独立审查机制；

由董事会层面的独立机构监督安全报告。

但英国《卫报》一针见血地指出，协议并不具备法律强制力，只是一份企业自愿遵守的行业承诺。

在分析人士看来，特朗普推动的这份AI巨头自律协议，是一场产业与政治的平衡操作。据舆观调查网9月份的最新调查显示：50%的受访者担忧AI可能最终导致“人类灭绝”，62%的人认为AI发展速度过快。

在中期选举的压力下，这份自律协议表面上似乎回应了选民对AI安全的极度焦虑和担忧。然而，在《卫报》看来，这并不利于从根本上解决问题。

分析人士认为，硅谷与华盛顿的战略精英们心中存在着相同的底牌逻辑：“谁赢得超级智能，谁就是这个时代的终极赢家。”推行宽松自律监管的核心目的，并非防控AI风险，而是全力保住美方的全球技术霸权。

在外界看来，这种所谓安全地“赢”，是美国在AI领域的核心追求。特朗普明确表态，美方必须保持超级智能绝对领先，刚性法律监管只会拖累技术迭代。与此同时，拒绝多边合作、排斥中方参与，是美方长期维持技术垄断的核心手段。

“AI四问”

这与中方提出的AI治理理念形成鲜明反差。

今年‌7月17日，世界人工智能大会以“智能伙伴共创未来”为主题，在中国上海举行。

开幕式上，中国国家主席习近平在主旨讲话中提出了深刻的“AI四问”：“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”

这一提问引发了全球学术界与科技界的深度解读。

联合国教科文组织东亚多部门地区办事处主任夏泽翰：习近平主席的信息非常明确。人工智能是为了公共产品和共享繁荣，人们过上更好的生活，它应该以人为中心，所以是非常重要的讲话。

1956年夏天，达特茅斯学院会议室，一盏关于“人工智能”的灯火被轻轻拨亮。2018年，黄浦江畔，首届世界人工智能大会启幕，发出“人工智能赋能新时代”的宣言。从无限可能到元生无界，从生成未来到智能伙伴，世界人工智能大会的主题一次次迭代。

联合国秘书长古特雷斯：我们必须确保所有国家都不落下。人工智能必须由人类塑造，与人类共同发展，并服务于全人类。

外界评论认为，“AI四问”直击当前全球治理的痛点，它强调了AI的发展不能沦为少数资本或单一国家的霸权工具，而必须秉持全球普惠原则。智能时代，同球共济。中国坚持开源共享，赋能全球创新生态，让人工智能更好地造福人类。

英国科技评论员斯蒂芬妮·黑尔：他们（中国AI模型）开放了代码，全球的开发者都可以查看，进行实验，并在此基础上二次开发，这正是你希望看到的情况。从长远来看，人工智能竞争的关键在于谁的技术能够被全球更多开发者采用，谁就更有可能成为未来的行业标准。

AI治理挑战

而全球人工智能技术创新空前活跃，既蕴含巨大机遇，也面临治理挑战。当地时间9月23日，联合国安理会围绕“人工智能与国际安全”问题举行高级别会议。

联合国人工智能国际独立科学专家组联席主席约书亚·本吉奥：研发最强AI系统的企业承认，他们的产品存在灾难性风险，却拿不出令人信服的技术解决方案。相反，他们称自己身不由己地卷入竞赛，要继续打造能力更强的AI，进一步放大上述风险。本理事会正面临一场前所未有的威胁，这是一场并非任何成员都愿意面对、单靠任一成员都无法遏制，且无视我们所捍卫的边界。

联合国人工智能国际独立科学专家组联席主席、图灵奖获得者约书亚·本吉奥认为，当前世界主要面临三项相互关联的风险：灾难性滥用风险、权力过度集中风险以及人类失去控制风险。