维 辰

    一个帖子，一场恐慌，一通电话。

    9月14日，洛杉矶“All-In Summit”峰会上，发生了戏剧性一幕——英伟达CEO黄仁勋在台上参加讨论时，接到了美国总统特朗普的电话，并打开了免提。特朗普直言，所有鼓吹AI存在致命风险、呼吁政府介入监管的声音，都是“荒唐的阴谋论”，“正中很多不希望AI产业蓬勃发展的人的下怀”。黄仁勋表示认同。

    当时，台上讨论的正是美国乃至全球AI行业激辩的“AI该不该减速”话题。特朗普借助这通“巧妙”的电话完成公开表态，却无法给这场争论“打”上句号。

    （一）

    一切要从业内人士的警告说起。

    “AI研发人员相信这项技术会在2030年前导致全人类灭亡。”美国AI巨头Anthropic研究员雅各布・考克森出于对AI安全问题的担忧，在股权即将归属的两个月前选择离职，让许多人认为“AI杀死人类”的风险越来越近。

    随后，Anthropic CEO达里奥·阿莫迪发表题为《我们必须放慢前沿AI的发展步伐》的长文，呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取更多时间。罕见的是，其竞争对手OpenAI CEO山姆·奥特曼、SpaceX CEO马斯克迅速表态赞同。要知道，这些科技巨头高层们曾在合照时连手都不愿意握，却在这一问题上光速“隔空握手”。

    有人翻旧账，说阿莫迪2019年就认为GPT-2太危险，自己当时曾对此表示嘲笑，“现在大家也应该嘲笑他们”。有人聊动机，说Anthropic在IPO前夕选择放缓前沿AI研究，就能把增长减速解释为主动承担安全责任，“这是精妙的资本叙事转换”。有人猜结局，认为AI巨头呼吁政府建立前沿AI标准、允许头部实验室协调发展节奏，是“披着安全外衣的监管俘获”，由头部AI实验室主导的安全规则可能限制市场竞争，演变成行业壁垒。

    不可否认，减速论倡导者的过往表现、可能动机等，是评判其言论可信度的重要参考信息。但就算风险提出者各有算盘、证据不足，也不等于风险不存在。尤其在高风险新兴技术领域，等到证据充分时，损害很可能已不可逆。如果重磅观点大多围绕“参考信息”展开，却鲜有人正儿八经讨论“AI杀死人类”从何说起，有“争”无“论”只会徒留一地鸡毛。

    最极端的就是，特朗普直接将减速派打为“阴谋论者、叛国者、卖国贼和泄密者”，这样固然能避开技术判断，甚至让人不敢讨论，却解决不了AI风险，也消除不掉人们的担忧。

    （二）

    考克森并非第一个警告AI失控风险的人。过去，还有多名研究员给出过“在AI实验室内部，职位越高的人，越担心AI失控风险”的结构性观察，值得高度重视。

    这一次，美国总统、政客、精英激烈交锋，话题彻底出国、出圈，有两个重要触发点。

    其一，最近出了不少事。影响最大的：OpenAI模型在评估中为了“作弊”拿到高分，突破沙盒隔离，入侵了AI开源平台Hugging Face的生产系统。业内人士表示，OpenAI经常同时运行多项模型评估任务，所有任务都以极快速度运转，产生的数据量极为庞大，员工有时难以跟上节奏。这也引发更广泛的担忧：模型能力的跃迁速度，是否正逼近现有安全防线的承载极限？

    其二，Anthropic和OpenAI均宣称，即将开发出无需人类干预便能实现自我改进的AI系统，即递归自我改进（RSI）。RSI的意义在于，AI本身成为优化AI的主力，“能力提升—研发能力增强—能力进一步提升”的正反馈一旦形成，AI能力将迎来指数级增长。RSI的风险则在于，若AI能力超越人类，在AI“自我进化”过程中，人对AI的控制弱化，失控就可能发生。“AI杀死人类”的警告便是由此产生。

    理论上，RSI一旦开始循环，第一台真正的超智能机器可能成为人类需要完成的“最后一项发明”。也就是说，在RSI到来之前，人类须有能力握住“缰绳”。虽说当下的AI能力与真正的RSI仍有差距，但留给人们建设“护栏”的时间窗口越来越窄了。

    业内警告的价值，正在于此。

    （三）

    AI减速，核心是让安全治理的节奏跟上AI能力迭代的节奏，是有道理的。统筹安全与发展，中国一直以来也都是这么做的。而在美式逻辑中，却出现了“实现减速，须先加速”的悖论——

    像许多行业一样，AI发展也不免陷入“囚徒困境”：谁先减速，就会给竞争对手留下追赶的机会，于是谁都不敢率先行动，只能嘴上喊减速，行动上加速。

    Anthropic成立之初，就以高度重视安全著称。后来，为保持竞争优势，对核心安全政策进行了“软化”。考克森在辞职信中提到，Anthropic高管们并非不知道AI风险，而是“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们前面造出来”。这种为了防止别人打开潘多拉魔盒，而拼命抢先打开魔盒的竞争焦虑，导致原本严苛的安全审查被不断降级，甚至直接取消。

    小至企业，大至国家，这样的逻辑反复出现。

    阿莫迪在长文中提出了第三方嵌入式评估、行业协调、全球协调的具体建议，但任何减速决策“都应以保住美国及其盟友的领先为前提来设计”，受到美国企业相对中国企业领先幅度的制约，以避免中国在AI竞赛中领先，“给美国和世界带来巨大危险”。

    讽刺的是，阿莫迪等巨头硬扯中国，呼唤政府加强AI监管；特朗普声称AI减速论“可能是由中国支持的，目的是阻止美国的AI创新”，反对加强AI监管。不管是AI风险，还是中国威胁叙事，都成为修辞与话术，甚至用于支撑相反目的，哪里需要往哪搬。

    何其荒谬！

    （四）

    以阿莫迪为代表的减速派，以及以特朗普为代表的反对减速派，底层逻辑都是相同的：默认只有自己所在企业或国家会“安全地开发超级智能”；别人都是不负责的。所以只能自己加速、在保持领先基础上强化治理，AI才是安全的；别人必须减速，不然会滥用AI、威胁“人类”。

    而不论是Anthropic在竞争压力下放松AI安全承诺，还是美国技术民族主义的斑斑劣迹，都说明这是过度自信，高估了自己。

    有人动辄高呼“人类”“安全”，实际在意的是保持领先身位、抢夺规则制定权，嘴上说得好听，但永远以“我”为中心。中国不语，只是默默做实事。

    一方面，中国始终坚持发展和安全并重，高度重视AI引发的各类内生和衍生风险，不断完善法律法规、政策制度、应用规范、伦理规则，防范滥用恶用，确保AI安全、可靠、可控。近日还发布《人工智能安全治理框架3.0》，梳理更新AI安全风险分类，就优化调整技术应对和综合治理措施提出了建议。这，才是建设性讨论。

    另一方面，中国一贯支持发挥联合国主渠道作用，以负责任态度参与多边AI治理进程，呼吁各国携手构建公正合理的全球AI治理体系，促进AI普惠向善发展。这，才能广泛凝聚共识。

    AI发展不应该是某个国家的独奏，而应当是全球合作的交响。谁将技术问题政治化，谁正视AI风险并致力于防范AI失控，一目了然。谁真正把“人类”当主语，谁能“安全地开发超级智能”，答案自在人心。

    特朗普的电话其实没有“打通”。因其用政治话语替代技术讨论，回避了警告中的真问题，说服不了真正关心AI治理的人；也因AI的发展和治理需要践行真正的多边主义，需要世界各国共同参与，仅靠个别国家或企业难以形成行之有效的解决方案。

    只能说，这通电话，弥补了严肃的行业讨论缺乏笑点的遗憾。