国庆假期时代91 萝莉

短视频平台上 出现了

精深 “雷军AI配音” 的恶搞视频

在视频中， “雷军”锐评了堵车、假期等热门话题，其中还有一些瞻念缅怀 ，有网友簸弄称 “国庆上网被雷军骂了整整7天” 。

除了吐槽外， 视频里的“雷军”还称要投资某某大学 。截止当今，平台上关联话题浏览量过亿。

“雷军AI配音”的恶搞视频截图

在雷军的微博褒贬区中， 连日来束缚有东说念主留言议论此事。

10月7日晚，针对网友“为何骂东说念主”的议论，雷军回答了三个盛怒神气。

小米公关部总司理王化，也在跟网友互动时，暗示把这件事转交给法务部了。

在酬酢媒体上用雷军AI配音如故形成一种创格调潮，多样配音师法、恶搞视频层见叠出 。抖音上话题浏览量过亿，B站上关联创作越过上百条。

从雷军到马保国、葛优、麦克阿瑟

AI不错克隆一切

记者查询发现， 当今市面上有精深AI配音的小门径，用户只需在门径内取舍相应的东说念主物声息并输入笔墨，便可借用他东说念主的声息发表言论。

值得扎眼的是，此类门径为了幸免版权风险并不会平直使用东说念主名，而是用的代称。以一款名为配音兔的小门径为例，内置了 雷雇主、麦克阿瑟、马真诚、姜小文、葛大爷 等上百种声息，用户不仅不错淘气取舍声息，还能曲折语速、语调等细节。

此类AI配音门径大多王人使用字数有限定，越过字数时需要购买VIP， 价钱30~60元之间。

除了现成的AI配音门径外， 用户还不错通过睿声等AI用具自行制作想要生成变装的配音，只需在软件内添加相应的原声即可。

当今酬酢媒体上出现的雷军配音视频大多出自上述两种形势。

21世纪经济报说念记者实测了“Reecho睿声”， 克隆声息的历程相等简便 ：最初上传一段音频文献，当作考验素材；随后AI自动学习这段音频，生成一个克隆变装；终末就不错输入文本，用克隆变装的声息念出任何内容。

在这款向总共东说念主免费洞开的产物里，用户不错“师法”任何东说念主的音频文献91 萝莉，况且能公开导布。

睿声产物首页特意有一个“声息市集”板块，21世纪经济报说念记者在9月27日下昼插足市集时，如故看到了 杨幂、刘亦菲、丁真 等东说念主的声息。尽管生成的音频听起来不够当然，但使用相等便捷，惟有像加入购物车一样，把克隆声息添加到变装库里即可。

AI伪造音视频事件已发生多起

事实上，AI伪造音视频事件早已发生多起。

此前，一段疑似某集团独创东说念主卢文庆醉酒后的音频流出，音频提到客服投诉、竞争敌手和三位女主播联系，一时激勉了精深商量。

9月26日，安徽合肥市公安局高新分局阐述，关联网传音频为AI伪造 。9月27日凌晨，深圳言域科技有限公司发文称， 三只羊事件使用的是“Reecho睿声”大模子，由卢文庆30秒的直播片断克隆生成。

传神的口吻、脏话、安徽口音 让很多东说念主不成置信音频为AI生成。

据科技类自媒体APPSO报说念， 国际也发生过 AI 声息作秀事件，以致把主意打到了总统头上。

本年头，好意思国新罕布什尔州的住户，接到了拜登的自动语音电话，被见告不要在州初选时投票，骨子上这段音频是用 AI 用具 ElevenLabs 伪造的，主义便是要插手选举。

事发几天后，ElevenLabs 拉黑了始作俑者的账户，这位用户承认， 克隆拜登的声息，他只花了不到 20 分钟，以及 1 好意思元。

本年头，泰勒·斯威夫特（Taylor Swift，华文混名“霉霉”）被 AI 伪造色情图片，亦然名东说念主被 AI 倒霉的典型事件。

图片开头：视频截图

近乎是在整宿之间，X、Facebook等酬酢平台上便充斥了精深罪状“瞻念相片”，而且浏览量如故高达上千万！

虽然，假如AI语音合成只是停留在恶搞的层面上，能够还不至于让网友们运转担忧这项技艺的安全性。 但造孽分子时时会将AI语音克隆技艺旁边到金融诳骗上。

《2024东说念主工智能安全求教》表示，2023年基于AI的深度伪造诈骗增长了3000%，仅本年上半年，AI诳骗案案值已越过1.85亿元。 诳骗者时时只需几秒钟的语音片断，就能消弱师法受害者亲一又的声息，发起“伏击求援”的诳骗。 更有甚者，平直上 AI 换脸，调解 AI 拟声的技艺。

这类骗局常以老东说念主和年青东说念主当作筹办，让东说念主防不堪防。 “AI诳骗正在寰宇爆发” 话题一度冲上热搜第一，激勉网友热议。

平台甘愿担怎么的连累？

AI 雷军声息的事件中，还有一个很故意念念的风物： 除了在线招呼法务部，也有网友暗示，奈何平台不管一管，反让这种内容流行起来？

网信办 9 月发布的《东说念主工智能生成合成内容记号办法（征求宗旨稿）》提议， AI 生成合成内容，应当添加显式记号和隐式记号，前者可被显著感知，后者添加在元数据中。

用户添加自主声明

其中， 传播内容的平台，应当承担什么连累呢？

一是核验元数据有无隐式记号，如有，应添加显眼的指示；二是莫得核验到隐式记号，但用户声明是 AI 内容，也应该添加指示；三是，既莫得隐式记号，用户也莫得声明，平台检测到了 AI 踪影，雷同需要添加指示。

此次的闹剧便是一个例子， 用户莫得自主声明，平台的检测也不到位 ，有的视频标题下方指示了「疑似使用了AI生成技艺，请严慎甄别」， 有的却没检测出来。

上头没标注，底下标注了

泰勒·斯威夫特被 AI 伪造色情图片的事件，雷同反应了赈济门径的滞后性。 尽管最早传播这些图片的账号已被封禁，但相片的流传仍未透彻阻断。 其中一张图片在被删除前，在 X 存活了 17 个小时，被稽查了 4700 万次。

雷军AI配音罪人吗？

垦丁讼师事务所辘集独创东说念主 欧阳昆泼分析称，关于深度合成技艺的记号义务，已有关联法例条款在使用合成内容时进行记号，各个酬酢平台也已遴荐了关联门径，会在AI生成的内容旁标注访佛于“本内容为AI生成”的内容。但是， 在骨子操作中，对AI生成内容记号仍存在一定挑战。 举例， 合成内容经二次传播后，记号就可能被不详或漠视，导致接收方对内容开头产生曲解。 这会是接下来各个平台需要处理的课题。

欧阳昆泼还暗示，声息克隆可能触及民事侵权，声息也属于一种东说念主格权益，具有东说念主身专属性。 未经授权的情况下使用他东说念主声息不错组成民事侵权 。本年4月，北京互联网法院一审就开庭宣判了寰宇首例AI生成声息东说念主格权侵权案， 认定在具备可识别性的前提下，当然东说念主声息权益的保护界限可及于AI生成声息。

北京京本讼师事务所主任连大有讼师暗示， 不管是日常东说念主照旧着名东说念主士 ，未经其本东说念主同意，私自使用其肖像和声息进行裁剪合成，以致发布具有长短和贬低性质的内容，显著骚扰了其关联民事职权，如肖像权、名誉权等。

《汇集安全法》《数据安全法》《个东说念主信息保护法》《科学技艺高出法》等法律对此均有划定；国度网信办等七部门辘集公布并于2023年8月15日起实施的 《生成式东说念主工智能工作处置暂行办法》还特意对侵害个东说念主信息权益的东说念主工智能的连累进行了明确划定 。

连大有讼师称，雷军不错依据《民法典》划定，条款恶搞者承担包括罢手侵权、公开说念歉、收复名誉和抵偿亏损等法律连累。如恶搞者的恶搞行为违犯《秩序处置处罚法》关联划定的，也会靠近行政处罚如行政罚金或(和）行政拘留。再者， 若是这些恶搞内容传播流言并形成严重社会影响，则可能触犯刑法。

日常东说念主能作念什么？

除了监管机构和AI技艺提供商的防诈门径以外， 咱们日常用户也需要警惕AI语音诳骗。

最初，很多安全大家建议 在家东说念主之间成就一个仅彼此清爽的“安全词” 。这种词汇不单是是把稳假冒亲一又的有用技能，更是为了在伏击情况中赶紧阐述身份。

在保护个东说念主诡秘方面， 咱们需要时辰严慎对待我方在酬酢媒体上共享的内容 。 比如， 在短视频平台共享生涯时，尽可能不使用我方的原声 ，或者是使用AI用具对我方的声息进行处理后再发布。

此外， 咱们需要升迁识别AI语音的机敏度。 比如，当今雷军的AI语音在短视频平台十分火爆，但仔细凝听这些用AI用具克隆的语音，咱们照旧能发现词语与词语之间的不连贯性，这也有助于咱们区分这些声息是否来自本东说念主。

终末，亦然最高大的，关于所谓的“汇集热门”及吸睛信息， 不成“听风便是雨”，盲目笃信、应酬转发。 更进一步，也有必要有执意地优化前言使用计谋，均衡信源、突破“茧房”，改善“信息偏食”、拒却“一面之辞”。

AI雷军锐评爆粗这种梗

细想一下

还真笑不出来……

你奈何看？

褒贬区聊一聊↓

裁剪 | 顾颖

详细 | 北京日报 中国后生报 21世纪经济报说念 逐日经济新闻 北京商报 羊城晚报 新闻坊 中国后生报 凤凰网科技 蓝鲸财经 雷科技 APPSO 网友褒贬

91 萝莉

• 警惕
• 91 萝莉
• 斯威
• 泰勒
• 麦克阿瑟