人工智能、深度融合等新技术快速发展，将加速新生产力形成，为实现经济社会高质量发展发挥重要作用，给人民生活带来便利。然而，一些不法分子利用人工智能技术传播虚假信息，扰乱网络生态，造成负面影响。多方位防止人工智能技术滥用，促进人工智能健康发展，保障社会共同利益。 《人工智能合成内容标签管理办法》通过标签提醒用户识别虚假信息，明确相关服务主体的标签责任和义务，规范生产、流通各个环节的标签行为。某日，林正继续进攻灰色产业链，他躺在床上看一段短视频当他的屏幕上出现了一个名为“AI理财助手”的账号时。当林看到主页时，该账号的粉丝数显示为“87000”，但最后一个视频的点赞数还不到三位数。 “公式名称、同质内容和异常交互数据是人工智能的标志。”短视频平台内容安全负责人刘翔表示。创建AI账号是一些自有媒体公司的一种收入方式，他们利用AI生成并发布吸引眼球的内容，在短时间内获得大量粉丝，并通过带货或直接转移账号来变现。 “我们使用人工智能来选择领域来增加关注者，并创造吸引关注者的个性。账户内容也可以使用人工智能来生成，”销售“人工智能账户入门课程”的“培训师”杨先生说。另一方面，它不受自有媒体所需经验或制作能力的限制。一方面，它有帮助准确吸引粉丝并保持“连贯的个性”。另外，多个账户可以同时操作，形成矩阵，互相吸引流量，促进协作。 《情绪急救：如何在人生低谷时防止情绪崩溃》《深度疗愈：潜意识自我反省》杨告诉记者，他已经开通了自己的账户。我向他展示了我刚刚创建的“心理博客”帐户页面。每个标题看起来都很专业，并且直接满足特定群体的心理需求。 “其实，一切文案都是基因。”创建AI账号的主要危害是欺骗，这也是治理的关键。”北京邮电大学互联网法律与治理研究中心执行主任谢永江认为，平台除了加强执法力度外，还应提高检测深度造假内容的准确度，明确界定。对创建虚假人工智能账户等违法行为的处罚标准。 “造号-转换-转售”的灰色产业链是人工智能造号相对于其他人工智能造假现象的独特之处。国家或个人都可以非法买卖、出租、出借互联网账号。”某电商平台安全运营负责人表示，所有电商平台均禁止转售账号。但仍有部分账号交易通过社交媒体公开，借助“隐晦码字”私下进行。北京师范大学法学院教授梁映秀建议，监管部门应加强监管，推动平台履行治理责任，建立违法账户“黑名单”，加强对违规账户持有人的制裁。频繁、屡次违反平台规则，取缔非法账号搬运货物、售卖课程等商业活动，持续造假、修改AI，切断犯罪盈利渠道。有效阻止假冒营销内容。 “今天我有件事想拜托你，请你帮帮我……还有，我送你三百个家乡的土鸡蛋！”前段时间，一位人气运动员发布了一段短视频。 “他推销的是家乡的农产品。”弹幕和评论里充斥着诸如“支持”“偶像销量上涨”之类的字眼。事实上，所有这些产品视频都是假的，并且使用了人工智能，其中一个产品链接显示已售出 47,000 件。据该短视频平台相关人士介绍，冒充明星的场景主要有几个。它利用人工智能技术生成名人的照片，并将其作为帐户头像，成为其他人的朋友。生成无标签的名人视频使用人工智能技术的操作系统。利用人工智能技术生成无标签的名人视频。使用虚假的名人帐户或内容来吸引注意力、反推销或其他手段来获得不公平的优势。我们该如何应对这种困惑呢？ “人工智能恶搞名人，归根结底是利用人工智能进行诈骗。民法典关于形象权、话语权的规定等相关法律法规都提供了相关保护。《人工智能生成的合成内容展示办法》对人工智能生成的合成内容的展示提出了要求。”梁映秀认为，重要的是严格执法、公平正义。 “从平台角度来看，平台腾讯官方表示，如果用户遇到没有AI生成标识的短视频，可以通过提交相关材料进行投诉。经平台批准的补充说明r以浮动注释的形式出现在原始视频页面上。抖音相关负责人表示，平台正在努力建立社交名人肖像保护数据库，同时有效屏蔽营销内容。错误的。各方共同建立辟谣机制。 “突然发生爆炸！火光冲天！伤亡不明！”一段显示火灾冲天而起的“视频新闻”视频在网络上疯传，引起了当地居民的恐慌。后来公安机关调查发现，这些都是该账号所属组织利用人工智能大量生成的假新闻。该组织每天可以生成4000至7000条假新闻，每天收入超过1万元。为什么人工智能制造的假新闻通常会在互联网上被禁止？新闻聚合平台内容安全负责人认为有必要完善e 一些平台反虚假信息机制的效率。一些账号在平台上发布人工智能生成的照片和视频后，几个小时后出现一条消息称“疑似由人工智能技术生成”，但没有及时提醒人们风险。中南大学法学院副院长杨庆万认为，平台应该立即根据权威信息采取辟谣、标注相关谣言等措施，对违规账号进行处理。近年来，相关法律法规不断完善，让人工智能用户和平台管理者的法律结局更加清晰。北京师范大学新闻与传播学院教授徐晓科建议，对于虚假信息产生和传播风险较高的领域，可以通过司法解释明确各方义务界限，进一步规范。n 或其他方式。建立科学合理的人工智能侵权责任认定标准。世界各地的监管机构也在不断探索利用技术打击假新闻。 “我们正在与科研机构和企业密切合作，进一步增强对恶意‘假’信息的监测预警和快速识别能力。通过会同有关部门建立网络谣言巡查监测、核实反馈、询问审理、举报举报、打压删除等闭环机制，对人工智能合成的虚假信息将尽快依法依规进行处理。”辽宁省沉阳市公安网安局相关负责人表示。因申报不实而造成的损失由谁负责？浙江师范大学著名教授乔巴生认为，如果内容创作者被怀疑如有诈骗行为，应当追究其侵权责任。平台未尽到审核义务的，将依法承担连带赔偿责任。此外，用户还必须提高识别虚假信息的能力。某短视频平台代表建议首先关注内容特点。例如，人工智能生成的文本通常包含逻辑差距、独特的情感表达或模糊的事实细节。视频可能包含不自然的面部表情、异常的灯光和阴影或音频失真。接下来，检查您的来源并优先考虑授权媒体和官方渠道。腾讯相关人士建议，如果人工智能生成的内容明显不可靠、含有误导性信息，用户可以通过评论区互动等形式互相警示，并通过投诉等形式及时向平台反馈。监控、平台规范和用户将共同管理，通过技术测试、投诉机制和法律问责，共同构建坚固的防线，确保完整性。 《人民日报》（2025年11月28日第16页）
