筑牢网络防线,阻挡AI“李鬼”
栏目:媒体新闻 发布时间:2025-11-22 12:24
11月14日,“中国网”官方微信公众号发布消息称,网络安全部门将对利用人工智能技术伪造公众人物图像的不法分子团伙采取严厉措施。...
11月14日,“中国网”官方微信公众号发布消息称,网信部门对一批利用人工智能技术伪造公众人物形象的违法违规网络账号采取严厉行动,并要求网站平台集中删除纠正。截至目前,已累计删除相关违规条目8700余条,修复假冒明星账号11000余个。利用人工智能技术冒充公众人物的事例屡见不鲜。前阵子,有网友发现“演员温峥嵘”同时“出现”在三个不同的直播间,穿着不同的衣服推销不同的产品。团队工作人员发现该假视频后仍继续举报。一天举报50个假账户。此前,有人利用人工智能技术,伪装成知名主持人,销售假冒伪劣产品。受到市场监管部门查处的产品。任何形式的破坏都会导致人们“放松警惕”。冒充名人销售产品的行为不仅侵犯了被冒充人的人格权、肖像权,还涉嫌虚假广告、欺骗消费者。令人担忧的是,生成式人工智能技术的快速发展,大幅降低了“复制”他人图像和声音的门槛。只需要伪造者的一段视频,人工智能软件就可以快速生成大量难以辨别真假的伪造内容。于是,一些别有用心的人假装浑水摸鱼,或者利用名人、专家的形象来吸引流量或者接收商品。技术不断创新和进步,关键是如何最好地利用它。尽管人工技术的发展l 智能化技术是大势所趋,新兴技术的应用不容忽视。人工智能技术要想长久发展,就必须严格规范其范围,严厉打击利用人工智能进行的违法侵权活动。近年来,我国出台了一系列法律法规,规范和引导人工智能技术发展可能带来的风险。 《互联网信息服务深度合成管理规定》将于2023年1月10日起施行。今年9月1日起,工具开发商、内容发布者、为社交媒体利益相关者提供操作合规指引的《人工智能合成内容标注办法》已正式实施,将有助于遏制虚假信息传播,降低公众误判风险。人工智能技术应该更好地服务人们,而不是成为侵权假冒的工具。解决AI作弊困境并非易事,需要长期努力。网站平台要积极履行主体责任,依法依规严格监管相关内容,对人工智能生成的合成内容进行识别和管理,为人工智能内容贴上唯一的“身份证”,有效发挥内容识别、监控和追溯的提醒河作用,构建有效的治理机制。同时,也要畅通投诉举报渠道。非法和侵权内容应下架并禁止。我们决不能允许人工智能技术广泛滥用来模仿他人。事实上,除了模仿公众人物之外,未经许可,他人的形象也不应该被他人使用。我们期待这次深入整治,在法律上划清界限,构建法治体系。以科技防御,大力遏制人工智能“李鬼”有害倾向,永远弘扬科技,维护网络空间风清气正的环境。发帖人:陈全义、王宇峰、郑晓宇