最近，有网友发来一段视频询问，“张文宏是不是带货了？”视频中在卖一种蛋白棒， 家里的老人信以为真已经下单，还转发了很多群。
记者核实发现，这个账号名为 “般画234”，在视频中，“张文宏”反复介绍一种产品， 口型是他的，声音也是他的，但稍微懂点AI的小伙伴们，一眼就能分辨， 这是AI合成的视频！但是老年人哪里懂甄别啊？
记者发现，这段视频已在该账号内不可见，但商品橱窗内，还保留着蛋白棒售卖的页面，并显示 已售出1266件。
这和此前“假靳东”骗得无数阿姨砸钱一事，有异曲同工之处。
今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动的说道。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。
随即，民警向老人进行耐心劝导，但老人对假“靳东”仍然深信不疑，于是民警一边继续开展劝解工作，一边通知老人孙子前来共同劝解。
最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟过来，表示不会再相信网络上的“靳东”，对民警连连道谢，并放弃了开卡贷款的念头。
那么我们如何辨屏幕里的是真人，还是AI合成人呢？
此外， 可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时，脸部表情、手部动作都很自然；如果是“数字人”，很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面，但“挥手”“比数字”意味更多的动作，目前技术还没办法实时生成完美效果，从而出现破绽。
值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展， “动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。