智通财经APP获悉，在人工智能(AI)技术快速发展的同时，通过这种新技术生成的深度伪造(deepfakes)信息在大型社交平台上的传播及其可能带来的风险引发了许多人的担忧。AI深度伪造最常见方式是AI换脸技术，以及语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。
这种AI深度伪造信息通常在社交媒体上传播，并被用于诈骗。例如，此前，一则由AI深度伪造生成的假泰勒·斯威夫特(Taylor Swift)带货广告在社交媒体Facebook上传播。在这则广告中，由AI深度伪造生成的假泰勒·斯威夫特坐在钢琴前，向大家推销法国高端炊具品牌Le Creuset，并表示作为她的“新年大放送”，会向20位粉丝免费赠送一套炊具。当受害者被引导至虚假网站后，会被要求支付9.96美元的运费，但号称免费赠送的厨具不会真的送出去。
美国商业改善局去年曾警告，通过深度伪造进行的诈骗正在增加。该机构表示：“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱(通常比你想象的还要多)。”
AI深度伪造还可能生成与政治人物有关的虚假音视频内容，通过在Facebook、X(前身为Twitter)和TikTok等社交媒体上广泛传播并扰乱大选。尽管OpenAI首席执行官Sam Altman在本周的一次会议上表示，该公司“非常专注于”阻止ChatGPT等工具被政治滥用，但社交媒体在这些深度伪造信息的传播方面发挥的重要作用仍值得密切关注。
对于Facebook、X和TikTok等社交媒体来说，如何应对深度伪造信息是一个重要课题。Facebook此前已选择增加广告和页面的透明度，这有助于让研究人员、记者或者任何人扮演监督者，以确保广告不会被滥用于传播错误信息、压制投票或者其他粗略的行为。这一举动值得X和TikTok学习。此外，这些社交媒体还需要更新其对深度伪造信息的政策，并在监管利用政治人物的深度伪造广告方面做得更好。