只需9.9元,再上传两张照片,就能让照片中毫无关系的两人“活生生地”接吻了。近日,唐僧和女儿国国王、孙悟空和白骨精竟然都出现在这类AI生成的视频中。北京市社会科学院副研究员、大数据业务分析师王鹏提醒,AI接吻视频可能引发隔空骚扰纠纷。
AI接吻视频效果真假难辨
AI接吻视频是如何实现的?王鹏介绍,此类视频主要依赖于深度神经网络与计算机视觉技术的加持。具体而言,制作前会采集大量人脸图像、唇部动作及表情数据,作为训练素材“喂”给AI模型,让模型深度学习并掌握动作规律。
在选定目标人脸后,利用图像编辑、合成软件,将动作关键帧与目标人脸匹配,通过算法调整让拼接处自然过渡。一些先进的AI大模型还能依照设定情境,凭空“创作”出逼真的视频。部分手机甚至内置了该功能模板,用户只需上传照片就能一键生成视频。
随着AI技术的发展,视频生成的门槛也被迅速拉低。很多小公司、小团队利用开源算法,通过系统简化和局部增强,开发出了一大批新一代的AI视频软件。“不同于此前的换脸特效,AI接吻视频经过升级,其效果更是真假难辨。”王鹏说。
个人面部信息可能被非法收集
王鹏提醒,未经授权使用他人肖像制作、传播AI接吻视频,既侵犯他人肖像权,也有可能引发“隔空骚扰”纠纷。若借此编造不实信息、诋毁他人声誉,则可能侵犯他人名誉权。
用AI生成接吻视频,看似只是“新型恶作剧”。但这类视频会扰乱正常社交认知,模糊现实与虚拟界限,加剧人际交往信任危机。若视频素材遭泄露,个人面部信息还可能被非法收集、贩卖,用于制作虚假信息或进行网络诈骗,进而造成更大危害。王鹏表示,相关技术的滥用还可能导致低俗、恶趣味内容在网络上泛滥,会冲击公序良俗,污染网络风气。
近期召开的2024年世界互联网大会发布了《全球人工智能治理研究报告》,指出当前人工智能治理存在的风险,包括制作“幻觉”内容、深度伪造生成内容、侵犯数据隐私等。报告呼吁,要坚持以人为本的价值取向、坚守智能向善的原则,利用AI赋能千行百业,同时防范应对安全风险,逐步推进人工智能治理体系的建设。