AI生成接吻视频,或引起隔空骚扰纠纷

□ 科普时报记者 陈 杰

  • 来源:科普时报
  • 作者:
  • 2024-12-13 10:27

只需9.9元,再上传两张照片,就能让照片中毫无关系的两人“活生生地”接吻了。近日,唐僧和女儿国国王、孙悟空和白骨精竟然都出现在这类AI生成的视频中。北京市社会科学院副研究员、大数据业务分析师王鹏提醒,AI接吻视频可能引发隔空骚扰纠纷。

AI接吻视频效果真假难辨

AI接吻视频是如何实现的?王鹏介绍,此类视频主要依赖于深度神经网络与计算机视觉技术的加持。具体而言,制作前会采集大量人脸图像、唇部动作及表情数据,作为训练素材“喂”给AI模型,让模型深度学习并掌握动作规律。

在选定目标人脸后,利用图像编辑、合成软件,将动作关键帧与目标人脸匹配,通过算法调整让拼接处自然过渡。一些先进的AI大模型还能依照设定情境,凭空“创作”出逼真的视频。部分手机甚至内置了该功能模板,用户只需上传照片就能一键生成视频。

随着AI技术的发展,视频生成的门槛也被迅速拉低。很多小公司、小团队利用开源算法,通过系统简化和局部增强,开发出了一大批新一代的AI视频软件。“不同于此前的换脸特效,AI接吻视频经过升级,其效果更是真假难辨。”王鹏说。

个人面部信息可能被非法收集

王鹏提醒,未经授权使用他人肖像制作、传播AI接吻视频,既侵犯他人肖像权,也有可能引发“隔空骚扰”纠纷。若借此编造不实信息、诋毁他人声誉,则可能侵犯他人名誉权。

用AI生成接吻视频,看似只是“新型恶作剧”。但这类视频会扰乱正常社交认知,模糊现实与虚拟界限,加剧人际交往信任危机。若视频素材遭泄露,个人面部信息还可能被非法收集、贩卖,用于制作虚假信息或进行网络诈骗,进而造成更大危害。王鹏表示,相关技术的滥用还可能导致低俗、恶趣味内容在网络上泛滥,会冲击公序良俗,污染网络风气。

近期召开的2024年世界互联网大会发布了《全球人工智能治理研究报告》,指出当前人工智能治理存在的风险,包括制作“幻觉”内容、深度伪造生成内容、侵犯数据隐私等。报告呼吁,要坚持以人为本的价值取向、坚守智能向善的原则,利用AI赋能千行百业,同时防范应对安全风险,逐步推进人工智能治理体系的建设。

相关新闻

  • TEL:010-58884104
  • E-Mail:kepu@kepu.gov.cn
  • 如果您有任何意见或建议,请联系我们!
  • 版权所有:中国科普网
Baidu
map