新闻中心

换脸换声、版权侵权......4118云顶集团专家对话央视记者，谈天生式AI被滥用该怎样治理

宣布时间：2025-10-24

浏览次数：3104

中国互联网络信息中心日前宣布了《天生式人工智能应用生长报告（2025）》。报告显示，我国天生式人工智能产品用户规模已达5.15亿人。报告同时也提出，随着天生式人工智能的高速普及，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。这些问题在实践中保存哪些体现？怎样治理和应对这些危害挑战？

使用AI换脸换声天生虚伪广告案件频发

天生式人工智能的多模态能力，可以让用户容易给视频中的人物换脸换声，甚至直接天生完全虚构的视频，给不法分子带来可乘之机。近期就爆发了多起AI换脸换声，天生虚伪广告的案件。好比，有的伪造奥运冠军推荐土鸡蛋，尚有的伪造医生形象推销保健品，严重误导公众。

这些换声和换脸的AI深度合成是怎样制作出来的呢？面临这些以假乱真的视频，又该怎样识别？

业内人士告诉记者，随着AI换声换脸手艺越来越成熟，已经足以抵达以假乱真的田地。区分一段视频或者声音是否是经由深度合成，最好的步伐照旧通过AI去识别。即用AI去识别AI。

4118云顶集团网络清静专家潘季明：从手艺角度来说，最快的方法照旧基于AI的方法去举行识别，如专门的深度伪造判别模子，用于剖析视频和音频中的不自然的特征，如检测眨眼频率、面部肌肉运动的心理一致性、音频与唇形同步率、光源一致性等细微的物理或心理破绽。

专家：治理焦点在于周全落实内容标识制度

近两年，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此，专家体现，治理的焦点在于周全落实内容标识制度。

北京航空航天大学法学院副教授赵精武：我国自2025年9月起正式施行了《人工智能天生合成内容标识步伐》，其中明确要求，所有AI天生的文字、图片、视频等内容必需添加显式标识以“亮明身份”，同时勉励添加数字水印等隐式标识。平台企业应当依据《人工智能天生合成内容标识步伐》，从源头嵌入标识机制，为AI天生内容附加不可改动的数字水印，并确保这些标识在经由剪辑、压缩后仍能被准确识别。

专家体现，AI深度合成的使用者在通过AI制作视频时，应该有一条侵权执法界线，要合规正当使用人工智能深度合成。

北京航空航天大学法学院副教授赵精武：在明确正当性界线方面，需要严酷区分AI换脸手艺的正当应用与不法滥用的界线。正当应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，这些应用需遵照执法上划定最小须要原则，确保使用规模和目的相匹配，并获取响应授权。而不法滥用则主要体现为未经授权的肖像冒用、虚伪信息撒播、淫秽色情内容制作等场景。

AI大模子训练引发版权问题矛盾怎么破？

再来看人工智能带来的版权侵权问题。早在去年10月，文学界、音乐界等超万名人士揭晓了一份团结声明，训斥“未经允许使用创意作品来训练天生式人工智能”的行为。人工智能大模子使用的数据为何会引起版权争端，又该怎样破局，来听听专家怎么说。

AI业内人士告诉记者，现在人工智能大模子训练的数据，绝大大都来自于网络，这些数据就包括含有版权的相关数据。

4118云顶集团网络清静专家潘季明：现有的大模子都是基于海量的数据举行训练的，其泉源包括像互联网数据，以及图书、论文、行业数据等，经由数据预处置惩罚，通过无监视学习、微调、强化学习之后，便可用于内容天生。然而模子是没有版权意识的，它不知道哪些内容是涉及版权，哪些不可随便天生，除非对现在数据举行一个明确的版权标识。而现在的大模子基本上不管有没有版权，都会去举行一个数据抓取训练。

针对人工智能大模子涉及的版权问题，专家体现，生长人工智能不可以牺牲版权为价钱，两者协调共生应以尊重知识产权为条件。

北京航空航天大学法学院副教授赵精武先容，AI开发运营者需建设周全的著作权合规机制，包括：

? 在训练数据网络阶段举行版权审核，优先获取授权和使用开放允许的资源；在模子训练历程中保存数据泉源纪录；

? 在内容天生环节嵌入防剽窃检测；

? 在输出阶段需要添加版权标识和水印。

另一方面，主管部分需要扩充训练数据供应渠道，化解训练数据不充分与版权的冲突逆境。

学生和研究职员滥用AI写论文抄作业引关注

除了适才说到的问题，报告中也提到，学生和研究职员将天生式人工智能用于写论文、抄作业的情形也正引起各界关注。

专家体现，随着天生式人工智能在学术研究中的普遍应用，学术诚信系统面临亘古未有的挑战。简朴的榨取步伐已被证实效果不彰，且难以执行。“堵不如疏”的治理理念正成为全球学术界的共识，其焦点在于认可AI手艺提升科研效率的起劲价值，同时通过规范指导确保其应用不损害学术诚信。

北京航空航天大学法学院副教授赵精武：在教学运动中，西席应当设置专门环节指导学生准确使用AI工具，将该类工具从“偷懒”“图省事”的过失定位调解为“提升学习效率”“辅助科研”的准确功效定位，明确它的辅助定位的属性。同时，西席还需要设计能够评估学生头脑历程的审核方法，镌汰对纯文本输入的依赖，增添历程性评价比重。

文章泉源：央视新闻客户端

2、一键盗声仅需十几秒！4118云顶集团专家对话央视记者，展现AI克隆声音原理并给出提防建议

3、AI数据污染可能引发大危害！央视对话4118云顶集团专家展现背后原理，并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，央视对话4118云顶集团专家共推手艺“向善而行”！

上一篇 “十五五”蓝图定调！4118云顶集团以手艺为本续写网安生长新图景

下一篇 4118云顶集团寇增杰中选“2025 IDC中国网络清静十大人物”

4118云顶集团

换脸换声、版权侵权......4118云顶集团专家对话央视记者，谈天生式AI被滥用该怎样治理

换脸换声、版权侵权......4118云顶集团专家对话央视记者，谈天生式AI被滥用该怎样治理

品牌动态

合作伙伴

手艺支持

怎样购置

关于4118云顶集团

其他内容