央视报道称,一张照片就能生成一段带货视频,如今已经做到了完全可以以假乱真的地步。
近段时间,网络上一些商家利用AI技术仿冒带货,让消费者们难辨真伪。
记者体验了一下,用一张照片生成一段带货视频。短短几分钟的时间,记者手里的矿泉水就变成了红酒,身上穿的T恤衫就变成了西服,还实现了纯正的英文带货推销。
奇安信安全专家接受采访时表示,原来的制作成本非常高,需要专业的机器和人学习几个月的时间,才能达到一些看起来也不太真实的画面。
现在通过AI大模型的帮助,它已经完全可以做到画面非常非常逼真。
其实它最厉害的地方是口型同步,包括头发、面部表情、光线都保持了原来的一致性,这是一个非常厉害的地方,已经完全可以以假乱真了。
不过,令人担忧的海思,技术上的迭代升级,让AI仿冒内容的防范难度更大。
目前,我国生成式人工智能产品用户规模达2.3亿人,各种纷杂的人工智能生成信息让人眼花缭乱,有时难辨真假,这也给行业监管和平台治理提出了新的挑战。