文化杂谈|AI接吻教程风靡社交平台,岂能放任AI“乱点鸳鸯谱”

发布时间:2024-12-06 18:52  浏览量:2

一会是唐僧和女儿国国王亲上了,一会又是《狂飙》里的安欣和大嫂亲上了,一转头还能看到来源不明的老年人照片和年轻女学生照片一融合亲到一块。近日,多个社交平台上出现了一系列分享AI接吻的视频,引发了网友的争议。

这些视频顶着“教程”名义出现,将影视剧角色、名人明星、素人照片使用AI软件变成接吻、拥抱的动态视频,其中部分视频内容颇为低俗。有网友质疑视频制作者使用素人的照片制作这样的视频居心不良,令人不安,还有网友质疑使用明星的照片制作接吻视频有违法嫌疑。

记者观看了多个发布在社交平台上的AI接吻教程视频,发现尽管这些视频的内容、发布者都不一样,但是指向了同一款AI小程序,疑似在通过博人眼球的恶搞、低俗视频内容为该小程序引流。在登录进入该AI小程序后发现,要使用图生视频的功能需要充值,价格从9.9元制作3次至21.9元制作9次不等,在使用小程序的过程中还间隔性地跳出广告弹窗。这一小程序的使用方法很简单,支持用户上传单图或者双图,下方有“灵感描述”提供用户描述想要达成的视频动态效果,如果上传两张单人肖像图片的话并输入“亲吻”“接吻”等关键词,那么最终就可以生成两个人穿过照片的分割线拥抱亲吻在一起的画面。不过在6日下午,记者发现该小程序当前已经不允许输入“接吻”“亲吻”“吻”等词语,疑似将相关词语加入了违禁用语,但依旧支持“拥抱”“牵手”等词语。从生成的视频来看,效果颇为逼真,有的网友觉得这一功能十分搞笑很有娱乐效果,但也有不少人对此表示了反感和不安“我看谁还敢在网上传自己的照片啊。”

利用AI换脸技术来恶搞的事件此前也发生过,此前曾有博主将某电视剧中的男主角AI换脸成了自己,制作了和明星迪丽热巴接吻的视频,引起了网友强烈的不满,最终博主账号被封,相关视频也已删除。而当下AI换脸图生视频显然是让一些人看到了“商机”,以分享教程的名义向付费的AI换脸软件引流,还有人出租起了自己的软件账号,按次向其他想要制作换脸的网友收费。北京安剑律师事务所周兆成认为,一方面,AI换脸可能涉嫌侵犯肖像权,之前,浙江省杭州互联网法院审理了一起某“换脸”App利用深度合成算法侵害他人肖像权的案件,最终侵权者向受害者赔礼道歉并赔偿损失5000元;另一方面,AI换脸影视剧演员还可能造成侵犯演员名誉权,此前博主换脸男演员制作与迪丽热巴接吻视频就是此种情况。最后,AI接吻视频还可能构成性骚扰,民法典规定违背他人意愿,以言语、文字、图像、肢体行为等方式对他人实施性骚扰的,受害人有权依法请求行为人承担民事责任,性骚扰不仅仅局限于身体上的接触侵犯,还包括言语上的冒犯、视觉上的骚扰这些非身体直接接触的模式。如果“AI亲吻”的行为侵害了性自主权和人格尊严,使被骚扰者在心理、生理或社会声誉等方面遭受不良影响,那么很可能构成性骚扰。

AI技术本身没有黑白之分,但在技术应用层面应该有对错之辩,AI换脸、AI图生视频等具有深度伪造性质的功能应该是受到更加严格管制的,这一功能过于以假乱真,不能用恶搞、娱乐来一言蔽之,一个不小心就会变成刺向他人的利剑。市场上存在的大量AI软件背后的公司本身自己并不开发人工智能技术,大多通过第三方接口实现AI功能,但在向用户收费却从不手软,这些门槛很低、鱼龙混杂处在监管盲区的AI软件时不时就会在社交平台上冒头,从制作“AI雷军”到处骂人到用AI图生视频功能“乱点鸳鸯谱”,一个软件、功能被下架了还会有另一个冒头,人工智能大爆发不是昨天才发生的事,不能总是让技术跑在监管前头了。

扬子晚报/紫牛新闻记者 沈昭

校对 盛媛媛

外部推荐