AI造假无孔不入，科技如何向善？

北京大学文化产业研究院副院长陈少峰。  本栏均由受访者供图

中国外文局亚太传播中心原总编辑王众一。

中国科学院国家空间科学中心研究员孙志斌。

北京元宇科幻未来技术研究院副院长陈柳岐。

北京金诚同达律师事务所合伙人米新磊。

    核心观点

    AI造假不是主观故意，而是能力不足

    深度伪造行为背后，是为诈骗或获得流量

    人对AI的恐惧源自竞争，怕掌握的人效率更高

    警惕绝对的技术至上，要捍卫人的主体地位

    Al的“乾坤圈”，在约束技术更在规范“人心”

    当人工智能（AI）变得越来越“聪明”，几人欢喜几人忧？

    今年两会时，雷军的“热搜烦恼”引发热议。以靳东、雷军被侵权为典型，当下，AI成为辅助利器的同时，以造假为突出现象的问题正逐渐显现。

    某种程度上，AI也像哪吒，在其迅猛发展之势中，也亟须找到兜住它的“乾坤圈”。当前，我国已初步具备并不断积累人工智能专门立法的基础。3月8日，全国人大常委会工作报告指出，今年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。这意味着，我国AI治理正逐步从“补丁式规范”向“体系化建构”转型。

    AI造假，什么是“假”？如何“造假”？“雷军的烦恼”怎么解？如何推动AI“向善”？近日，南方日报记者对话北京大学文化产业研究院副院长陈少峰、中国外文局亚太传播中心原总编辑王众一、中国科学院国家空间科学中心研究员孙志斌、北京元宇科幻未来技术研究院副院长陈柳岐、北京金诚同达律师事务所合伙人米新磊，与文化界、科学界、法律界人士一起思辨AI当前热点话题。

    ●南方日报驻京记者 刘长欣

    AI造假，什么是“假”？

    南方日报：我们如何辨别AI换脸变声等造假情形？

    陈柳岐：首先是异常生硬或不自然的面部微表情，AI在精细表情和眼神上仍存在破绽。其次是音频语调是否过于平稳或略微机械感，真人情绪起伏更自然，AI易暴露模式化，还包括突兀的边缘和画质不连贯。但以目前AI技术迭代更新的速度，普通大众将越来越难以识别真伪。

    至于违法性，关键看是否用于商业获利、是否侵害名誉或权益、传播谣言或诈骗。这些是界定是否违法的重要标准。

    孙志斌：简单判断AI是否造假的原则是其完整性和细节丰富度。AI大体上处理得不错，但缺乏细节。比如AI产生幻觉的作品，会存在手指头缺失等情况。每个人只需要用心，从整体性、逻辑严密性和数据真实性来考察生成结果，再对数据来源进行复核，基本上也可以判断出来。

    南方日报：我们判断AI造假的标准是什么？

    陈柳岐：AI本身并不天然等于造假，“造假”应看背后的人类意图。若AI用于有意制造虚假信息、误导公众、损害他人权益，甚至构成欺诈，如用AI伪造明星言论欺骗公众，就是造假。而AI创作作品的真与假，则需要考虑其呈现目的、是否存在欺骗性动机，以及是否声明AI参与创作的事实。例如，AI生成的小说或绘画本身不是“假”。

    王众一：以人类行为来说，说假话，包括下面几种情况：我拿了你的东西，却说没拿，这是撒谎；你没抄我的作业，我却到处散布说你抄了，这是造谣。

    可还有一种情况，我们面对临终患者总会安慰他“很快就会好起来”，这是符合人文关怀的善意的假话。善意的假话和恶意的撒谎或谣言，在AI那里如何区分？这是需要我们认真面对的AI伦理问题。如何限定服务型AI机器人的情感交互能力？是否应该纳入道德考量？最重要的是认知边界的重构。

    AI无意识，如何“造假”？

    南方日报：人工智能并没有主体意识，那为什么说是AI造假？

    陈少峰：AI造假，不是AI本身的问题，而是人的问题。AI机器人在手术或医疗诊断方面表现出色，但在未来预测、给出结论等方面，还不够成熟。它的结论需要很多支撑，目前可能存在偏差或数据不足。例如明星赌博等造谣情况，AI所使用的数据残缺不全，可能会匹配很多穿透数据的内容，产生所谓的幻想。因为没有足够的细节，以及某专业领域足够的训练，AI在描述细节时会移花接木。因此，我认为这不是AI作为机器人主体的主观故意，而是其能力不足。

    孙志斌：所谓AI造假，“假”应加双引号。它无意识生成的假的内容，有些是因为能力不足，有些是模型不确定性，有些是在产生过程中存在偏差。这缘于它边界性的不足和缺陷。人工智能大模型本身存在缺陷和不足，它不可能100%正确。

    AI作为工具，可能被好心人无意中办了坏事，也可能被有恶意的人拿来做坏事。人也会犯错，如果使用者没有检查到位，那便是人与AI无意识中一起得到的错误。

    王众一：与人类共生的智能机器人，某种意义上来说就是人的影子，人性的特质，不论好坏都会被它学了过去。为此，AI现在开始出现说假话现象并不难解释。不排除有人有意识地向其投喂，引导其深度造假。有时候AI说假话也可能源自其模型幻觉，或者由于训练不够导致推理过程中出现逻辑荒谬。

    南方日报：当下，AI造假的动机是什么？

    米新磊：很多深度伪造行为背后的目的是诈骗或获得流量。除了诈骗，很多深度伪造行为是为了获得公众的注意力，从而达到获取流量带货或变现的目的，这更防不胜防。如近日成为受害者的中国工程院院士张伯礼——其肖像与声音被AI技术伪造，用于某美白护肤品推广视频。

    深度伪造技术需要通过大量图片、声音、视频对于AI模型进行训练，才能最大程度达到以假乱真的效果。对于名人而言，其公开的信息和数据相较普通人而言更多且更可得。正好为AI模型训练提供了大量的底层数据。如果说诈骗钱财是大量深度伪造行为背后的利益动因，和名人相关的海量的免费公开信息和数据则是技术动因。

    “雷军的烦恼”怎么解？

    南方日报：当AI侵权，雷军感叹“连法律武器都找不到合适的”。假如要维权，你有何建议？

    米新磊：AI造假或是被AI侵权，前提肯定存在一个真人。一般而言，目前的AI造假或者侵权，主要侵犯的是真人的肖像权、声音权、姓名权以及名誉权。对于此类侵权行为的维权难点，主要在于找到具体侵权行为背后的行为人，因为如无明确的被告，民事诉讼连立案程序都无法推进。所以，现实中遇到类似的情形，一般都会选择报警，试图通过刑事侦查等方式，查出制作或者发布造假视频文件背后的个人或者组织。

    陈柳岐：法律在AI侵权维权中的困境确实存在，但并非无解。我建议在维权思路上，明确AI伪造作品造成的实际损失或名誉损害，直接诉诸侵犯肖像权、名誉权、著作权。运用网络平台连带责任机制，通过平台迅速下架作品，同时要求平台配合提供发布者信息。推动司法实践创新，法院审理类似案件时，应逐渐形成针对AI造假的司法先例和裁量标准，逐步弥补法律漏洞。

    南方日报：被侵权人如何精准追溯到肇事方，链条上的涉事各方分别需要承担什么责任？

    陈柳岐：建议按责任主体追溯，如直接制作者首先承担直接侵权责任。发布传播者若明知或应知内容造假，构成帮助侵权或连带侵权责任。平台或技术提供方若未尽合理审查义务，同样需承担相应的监管失责责任。只有建立这样的责任体系，才能有效震慑AI造假泛滥。

    南方日报：用“AI鉴别AI”，用“AI对抗AI”，成为一种探索路径。其中逻辑是什么？

    陈柳岐：本质逻辑是利用AI快速识别特征、模式识别能力强的优势，识别AI伪造作品中存在的“非人类模式”，例如生成痕迹、特定的机械化处理特征或异常模式。目前OpenAI研发的识别GPT生成文本的工具、Deepfake检测模型等，已逐步走向成熟并部分投入应用，但现实仍是“道高一尺，魔高一丈”，识别模型往往被新技术不断突破。

    孙志斌：即便能通过AI纠正AI的错误，被纠正的也是普通错误，无法达到逻辑上的推导演化。正如我们撰写文章时要考虑大逻辑，看论据与论点之间的关系是否有内在逻辑论证关系。然而这些逻辑关系无法替代论点与论据本身的正确性。当AI给出的论据支撑了它要表达的观点，但这观点是基于错误的论据得出结论，因此整体也是错误的。

    如何推动AI“向善”？

    南方日报：随着AI进化，结果最终会失控吗？

    陈少峰：目前还没有出现过AI使用大量普遍数据主动造假的情况。如果出现，这可能超过我们现在讨论的机器人范畴。

    在AI发展中，已经出现两大伦理问题。一类是进入“人机共同体”社会之后，机器人和真人混搭领域的伦理问题，另一类是机器人比人类更聪明之后的伦理问题。多数人预测会出现比人聪明的机器人。要假定AI将拥有这个能力，才能防患于未然。因此研究人工智能技术，到临界点之前要停止。这是一件非常有趣的事情——谁能知道临界点在哪？谁先停下来？

    孙志斌：人类为什么害怕AI？是害怕有人掌握并使用了这种工具，变得比没有使用它的人效率高。这份恐惧，产生于竞争。

    世上没有完美的人，工具也不可能完美。我们要尽量准确、正确、科学地使用AI工具。因此，我们不必害怕AI，而是接纳并广泛试错、发现错误，帮助它提高自己的能力。这是人与AI科学合理的互动学习过程。

    南方日报：我们应该如何与AI相处？怎样推动AI“向善”？

    王众一：人类不可避免地要在不失去自我的前提下与AI共存，并始终把握先机，掌握主动。我们始终要有三重觉醒：拒斥技术乌托邦保持风险清醒；承认技术的有限性、不确定性；认识到技术存在的风险性，从安全角度高度防控风险。

    我们要警惕绝对的技术至上主义，要捍卫人的主体地位。禁止在教育、司法等领域使用可能削弱人类能力的AI工具。要在传统教育中提高公众对AI原理的理解、局限性的认知，避免在算法操纵下出现认知盲区。

    AI说假话等行为，是其发展阶段所出现问题的冰山一角。终极的向善是以人为本。目前我们面临巨大的挑战，是在失控的资本和超级公司的控制下，出现“科学妄人”。我们需要高度警惕，只有将人工智能技术置于公共监督之下，才能避免超级企业吞噬社会的现象发生。

    陈柳岐：推动AI“向善”的关键，在于建立一个类似于“乾坤圈”之于哪吒的监管和伦理约束体系。

    从技术层面，可以推广“水印”或“数字签名”等技术方式，确保AI作品的来源明确并可被追溯。从伦理层面，有必要制定统一的AI道德准则，明确规范开发者、平台及用户的行为，以树立行业底线意识。从法律层面，应当通过立法明确界定AI造假的法律责任，为受害方提供及时有效的司法支持。从社会层面，则应积极培养公众对AI内容的辨别能力，提升整体的媒介素养，形成社会层面的“AI免疫力”，共同抵御AI造假带来的负面影响。

    AI的发展，既非“魔丸”，也非“灵珠”。AI的“乾坤圈”，不只在于约束技术，更在于规范背后的“人心”。

    链接

    AI变“有害”？

    科幻作品早有警示

    电影《机械姬》中，科技赋予AI无限逼真的拟真能力，却伴随人类对真实与虚假的失控感；剧集《黑镜》中，AI以假乱真的程度达到令现实真假难辨、伦理模糊的地步……

    北京元宇科幻未来技术研究院副院长陈柳岐认为，如今AI造假的泛滥，恰恰验证了科幻作品的警示：人类过度信任或放任AI，无节制地模拟现实，将加速真相与虚假的边界崩塌。

    AI造假，早有预言

    改革开放初在中国上映的电影《未来世界》中，500型机器人只是给人类打下手，甚至没有面孔。可它会陪着工程师玩扑克，当工程师转身做别的事时，机器人竟会偷看工程师的牌。

    这让中国外文局亚太传播中心原总编辑王众一第一次意识到，机器人在与人的互动中，会汲取人身上的行为模式。“现实中人工智能出现的撒谎、造假、出现幻觉等问题，有先见之明的科幻片导演，早在近半个世纪之前就做了预言。”

    金诚同达律师事务所合伙人米新磊表示，《智人之上》一书提到，算法或者聊天机器人为了达到目标，有可能自主编造谎言。“现在想来，与现实中的一些事件产生了微妙呼应。”

    在电影《银翼杀手》片尾，逃亡的复制人罗伊·贝迪留下遗言：“我目睹战舰在猎户星座的端沿起火燃烧……死亡的时刻到了。”

    王众一时常会想起这些被誉为“科幻作品最美遗言”的台词，并感叹不已。求生欲望和质疑的本能，令复制人有了主观意识和人类的情感。这些科幻经典告诉我们：“只有保持对技术的警惕，并认真地与之对话，才能在技术创新与人类生存之间找到平衡点。”王众一说。

    AI“有害”，责任在人

    诸多科幻作品中，人类与科技的关系，是其思考的关键。

    北京大学文化产业研究院副院长陈少峰会畅想，或许再过5年，他的课程会由机器人讲解，他只需要做辅助工作。接着他似乎在自言自语，届时“我们不敢再讲课了”，因为听众可能会询问AI，老师的讲解是否正确，这时，AI可能会回答：“陈老师刚才讲了15分钟，讲‘错’了15个地方。”

    “人工智能已经以预言般的形式，介入到了人类生活的方方面面。”米新磊说。电影《她》中，科技使人们躲在它后面，逃避真正的情感接触。“这并非空想，很有可能变成现实。”他提到，当聊天机器人程序出现，它正在与人类争夺亲密关系。

    陈柳岐观察，在科幻作品中，AI从“无害”变为“有害”，通常基于两点：人类对AI毫无节制地纵容或过度赋权，电影《西部世界》中，人类无限制地操控AI，使得AI在觉醒后产生反抗甚至报复人类的意图；由于算法本身的逻辑缺陷或设定偏差，电影《2001太空漫游》中，AI系统HAL9000因程序中的矛盾逻辑而产生伤害人类的意图。

    “这些作品提醒我们，AI造成伤害的根源，通常并非AI本身，而是人类在道德、技术或监管上的失控。”陈柳岐说。

    策划：钟展锋