警惕数字人坑老的“温柔陷阱”

    静 子

    “秀才”退网，“建国”袭来！

    打开某短视频平台，搜索“健康养生”“理财投资”“情感咨询”等关键词，可以看到大量数字人“专家”账号：他们或西装革履，侃侃而谈投资之道；或温文尔雅，娓娓道来养生秘诀；或语重心长，为粉丝解答情感困惑。更有一批名为“建国”的数字人分享日常、嘘寒问暖，利用老年用户的情感需求诱导其购买商品。

    随着人工智能的兴起与应用，网络上的坑老套路亦升级到了“2.0版本”。细究这些数字人账号，从产出频率看，“在AI工具的辅助下，理论上1天可以创作出100条视频”；从经济收益看，“最少3天便可起号，学员可以轻松实现月入过万”；从监管难度看，“因为违规被封号了怎么办，直接换号就行”……在新的坑老赛道上，隐藏在数字人“建国”背后的“操盘者”，正以较低的成本与风险，精准收割老年人的“钱袋子”。

    更进一步，数字人带货背后，是一条环环相扣的灰色产业链。媒体调查发现，网络上不乏教人如何起号的自媒体“导师”，他们会帮助客户搭建数字人形象、提供文案指导、协助账号运营，“一条龙”服务的包年价格在5000—10000元不等。“数字人+情绪价值+低价商品”，一套爆款“组合拳”让不少自媒体“导师”赚得盆满钵满，徒留屏幕前的老年人暗自神伤、利益受损。

    新技术不能沦为诱老坑老的工具，网络更不是数字人“群魔乱舞”的大本营。作为治理主体的网络平台，必须承担起相应责任。就在去年，抖音发布《关于不当利用AI生成虚拟人物的治理公告》，明确针对违规使用AI生成虚拟人物的行为，平台会采取下架违规视频、取消投稿和营利权限、抹除账号粉丝、封禁账号等处置手段，可谓直击广大用户的关切。在此基础上，有必要继续强化利用模型、技术识别手段等进行监测的力度，让AI打败AI，用“魔法”打败“魔法”。

    “堵”固然重要，“疏”也不可或缺。老年人之所以沉迷于“秀才”“建国”发布的短视频中，很重要的一个原因是情感缺失、渴望陪伴。试想，若现实生活充满欢声笑语，谁会选择天天寄情于网络？这提醒我们平常要多关心父母，打一通电话、返一次家乡，即使再忙也要抽出时间陪伴他们。与此同时，提升老年人的网络素养同样必要。以“建国”们发布的短视频为例，他们有着相同的人物形象与场景布置，甚至连坐姿和神态都保持一致，这种高度相似的特征完全可以通过肉眼识别。多向父母普及网络知识、防骗技巧，他们的“钱袋子”才能更安全。

    就在本月初，多部门联合印发《人工智能生成合成内容标识办法》，要求所有AI生成的文字、图片、视频等内容，都要“亮明身份”。我们期待，这种“打开天窗说亮话”的制度刚性，能够让老年人看清坑老数字人的“真面目”，进而堵住“温柔陷阱”。