经常看小雷文章的朋友们估计记得,围绕热度高居不下爆火的“AI”,小雷也跟大家聊过不少瓜。包括去年国庆,有老哥用AI克隆了雷军的声音做了恶搞视频,让广大网友被雷总“骂”了7天。还有人伪造刘德华的音频、视频,为自己账号的小黄车带货。



图源:网络

小雷感觉,咱们年轻人还好说,有一定程度的辨别能力。要是一些中老年群体看到这些“名人”,说不定真会信......毕竟当下,AI合成技术已经被用得烂大街了。很多网店都用AI,合成名人的音频/视频,给自己的店导流。我去网上了解过,想定制这种内容成本非常低,只要几十块钱。

但我没想到是,网上的小骗子们这么猖狂,光合成明星的内容还不够,手都身上咱们院士身上了。就在前几天,小雷发现,网上出现了一段张伯礼院士为某美白护肤品宣传的视频。先给大家科普一下,张伯礼院士是中国工程院院士、国医大师。

大家从下面这张图可以看到,左边正在讲话的是张伯礼院士,而他正在为其他嘉宾介绍“国货品牌,欧正恩”。



图源:网络

啊?工程院院士会亲自给一个小牌子带货吗?小雷觉得可能性非常小。因为在我的认知里,院士们的身份代表着官方,私下给它们站台的话影响范围会很广泛。果不其然,张院士公开表示:“这些内容全是假的。我从来没用过这个护肤品,也没做过这方面的宣传,更没研究过。”

事情已经很明确了吧,这就是一个AI制作的视频。视频盗用了张院士的形象和声音,达到“官方盖章”的效果。

最近出了张院士被“恶搞”,小雷还看到一位娱乐圈明星被“AI化”的事儿。有一个微博网友发文向刘晓庆求证:“庆奶,我看到视频号‘晓庆人生’发布了大量疑似由AI生成的视频,这是假冒账号吧?

该说不说,“晓庆人生”发布的视频点赞量还挺高的,最高的一条点赞量有7.8万呢。



图源:视频号截图

对此,刘晓庆转发回应:

天哪,我点进去看了一下,画面是我,声音很像我,但不是我!这是怎么做到的?大家以后不会搞不清楚哪个才是真的我了吧?我在各个平台都叫刘晓庆!

庆奶你有所不知啊,这类账号用的都是相似的套路。先塑造一个虚假的形象,然后用一些暧昧或令人怜悯的话术,吸引中老年用户的关注,诱导他们购买橱窗中的产品。用明星的声音来合成,就肯定是看上了他们的“明星效应”。

但你要是问小雷,能分辨出哪些是AI合成的吗?其实也很容易。

因为这些AI数字人的账号都高度相似。布景、人物形象、甚至坐姿和神态都如出一辙。所涉及的领域就很广泛了,情感交流、中医养生等等都有。小雷认为,最容易分辨的部分是变现手段。AI数字人会很生硬地插入诱导消费的话术,来哄骗大家下单。



图源:视频号

哎,其实原本AI生成技术是个好东西,因为它能给大家带来很多便利。无论是在工作还是生活上,都能提高效率。但有些坏人却动起了歪脑筋,拿它来编造各种虚假信息,把好好的技术给滥用了。AI技术给各行各业带来了更高的工作效率,但同时也让造假变得更容易了。有人可能会问,能不能用AI来识别出那些AI造假的东西呢?

现在已经有不少AI具备这种识别能力了。不过问题在于,要是每次我们在网上看到这种视频,都得先用AI识别一下是不是假的,那过程也太麻烦了!如果是我这种懒人,我真的会选择不买......

小雷最后想再说一句,要是看到那种生硬的话术,记得尽快取关,别信!

ad1 webp
ad2 webp
ad1 webp
ad2 webp