
演员文振荣穿着三套不同的服装,销售不同的产品,同时出现在不同的直播间。传说中的克隆技术是如何成为现实的?这种不同寻常的“联播现象”近日在网络上引发热议。可以肯定的是,文正英不具备成为克隆人的能力。相反,这些直播间是屏幕录制或剪报,或者是窃取了之前的直播素材,通过精心构图重塑了自己的形象和声音,嵌入到直播间中进行模拟互动。
事实上,2025年4月,温振荣曾就此发表声明,维护自己的权利。然而,这并没有阻止利用人工智能的在线盗版和身份盗窃的扩散。
近日,有网友发现演员文振荣isba同时“出现”在三个不同的直播间。他穿着不同的衣服来宣传虽然产品不同,但他的动作和表情却与她非常相似。此情此景,立即引发热议。温峥嵘没有能力做其他的事情。这三个直播间要么是录屏,要么是剪报,要么是提供商窃取了他们之前的直播素材,通过细致的合成重构了他们的图像和音频,嵌入到直播间中进行模拟互动。
演员文正英:这种AI方法让大家感到困惑。我认为以这种方式侵犯我的形象和肖像会受到很大损害。对于所有信任我的观众,如果您下单后买到了假货,我会很难过。
文正英的团队工作人员在发现该假视频在互联网上流传后仍继续举报。一天内举报 50 个虚假账户。一些虚假账户已从平台上删除,而另一些账户在被删除后不久又以其他形式重新出现。已被删除,使其难以防范。工作人员告诉记者,虽然有些公司可以简单地截取图像并使用简单的工具来生成虚假内容,但收集证据需要付出很大的努力。
演员文振荣团队工作人员:他们喜欢在凌晨三四点大家休息的时候专门留出一个时间来发这个材料。已发出律师函,内容包含侵权活动、产品和相应的法律实体。事实上,这只是一小部分,大量的已经被陆续处理了。
人工智能违规行为猖獗,但治理困境在哪里?
盗播、明星直播的假AI视频让网友无法辨别真假视频,让他们感到愤怒和无奈。今年9月1日,《人工智能生成合成内容展示管理办法》正式实施,要求人工智能生成内容“明确标识”。治理困境“卡”在哪里?
根据《民法典》和《个人信息保护法》规定,未经许可使用他人肖像进行人工智能合成,涉嫌侵犯肖像权和个人信息权。但在司法实践中,大多数案件的赔偿金额都在1万元以下,远低于商家的违法所得。
北京师范大学法学院教授刘德良:从法律的角度来看,行为者利用人工智能或者deepfake技术改变一个人的面部或声音,或者将面部转移到另一个人的身体上,如果未经对方许可用于非法目的,可能会构成侵犯他人肖像权或声音权。如果这种行为用于广告或直播营销目的,根据广告法可能会被视为误导性广告。
目前,面对质疑对此,监管机构出台了针对虚假人工智能直播的治理措施。国家网信办联合多部门发布《人工智能生成合成内容展示办法》,明确要求人工智能生成的肖像、视频必须标注“人工智能生成”,否则面临最高10万元罚款。但记者调查发现,不少造假者将标签隐藏在视频、直播介绍的角落,或者以很小的字体显示,让消费者难以察觉。
专家认为,网络平台应该负责对直播间的内容进行监控。在人工智能时代,监管要求办公室也可以利用人工智能的手段来监控网络内容。
北京师范大学法学教授刘德良:消费者可以先在平台上投诉。如果平台拒绝遵守其监管义务,届时可能需要承担连带责任,例如某种申诉机制。监管机构还可以使用人工智能实时响应此类投诉。有效、及时发现假冒产品化问题可以通过技术手段解决。当然,如果技术不能解决问题,就必须通过法律来解决。
有人怀疑人工智能可能侵犯权益和进行欺诈,例如模仿名人和走私产品。它还涉及数字社会赖以建立的信任基础。 “人工智能鬼”越来越真实,仅靠普通消费者识别和制止是不够的。需要更细致的监管和明确的问责来恢复造假行为,内容发布平台必须承担起责任,确保“不诚实者付出代价,逍遥法外者被追究责任”。