“AI马斯克”泛滥：轻松骗走82岁老人69万美元退休金

据报道，AI生成的埃隆·马斯克的形象，已经出现在数千条虚假广告中，并导致了数十亿美元的欺诈损失。德勤预计，AI驱动的“深度伪造”（deepfake）预计每年将造成数十亿美元的欺诈损失。

去年年底，82岁的退休老人Steve Beauchamp观看了一段视频。视频中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，看起来极为真实。于是，Beauchamp联系了这家公司，开设了一个248美元的账户。

经过数周的一系列交易，Beauchamp耗尽了他的退休账户，最终投资了69多万美元（约合495万元）。但令这位老人没有想到的是，这些钱最终却消失了，输送给了那些处于AI驱动的新犯罪前沿的数字骗子。

原因是：骗子对马斯克的一篇真实采访进行编辑，利用AI工具，使用复制品代替了他的声音。如今，AI技术已经足够先进，可以改变微小的嘴部动作，以匹配他们为数字欺诈而编写的新剧本。对于一个普通的观众来说，这种操纵可能是难以察觉的。

Beauchamp对此表示：“画面上的人物，的确是他（马斯克）。现在，我真的不知道是不是AI让他说出了那番话。但就画面而言，那就是他。”

近几个月来，数千个AI驱动的视频（即“深度伪造”）充斥着互联网，这些视频以“虚假的马斯克言论”欺骗了数十名潜在投资者。据德勤估计，这种由AI驱动的“深度伪造”预计每年将造成数十亿美元的欺诈损失。

这些视频的制作成本只有几美元，可以在几分钟内完成。它们在社交媒体上得到推广，包括在Facebook的付费广告中，从而扩大了其影响力。

监控和检测“深度伪造”的Sensity公司的联合创始人Francesco Cavalli表示：“这可能是有史以来最大的由‘深度伪造’驱动的骗局。”这些视频往往栩栩如生，捕捉到了马斯克标志性的相对僵硬的节奏和南非口音。

Sensity分析了2000多个“深度伪造”，称马斯克是这些视频中最常见的发言人。Sensity发现，自去年年底以来，马斯克参与了近1/4的“深度伪造”骗局。而在那些专注于数字加密货币的虚假视频中，马斯克的参与率更是高达近90%。

此外，著名投资者沃伦·巴菲特和亚马逊创始人杰夫·贝索斯，也经常出现在这种“深度伪造”广告中。

对此，马斯克尚未发表评论。

（责任编辑：王治强 HF013）