马斯克，掌管 AI 诈骗的神

网易科技

3周前

8 月 15 日消息，据美媒报道，近年来，人工智能深度伪造技术（Deepfake）在网络诈骗中广泛应用，尤其是利用伪造的埃隆・马斯克（Elon Musk）视频进行诈骗的案例尤为突出。

由 AI 生成的假马斯克，成了最大的网络骗子。

原文链接：https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

来源：网易科技（ID：tech_163）

原标题：由 AI 生成的假马斯克，成了最大的网络骗子

8 月 15 日消息，据美媒报道，近年来，人工智能深度伪造技术（Deepfake）在网络诈骗中广泛应用，尤其是利用伪造的埃隆・马斯克（Elon Musk）视频进行诈骗的案例尤为突出。这些视频通过模拟马斯克的声音和动作，误导投资者。这类深度伪造视频成本低廉、传播迅速，使得诈骗者能够轻易扩大其欺诈活动的影响范围，导致许多受害者因为虚假的投资机会而损失巨额资金。随着深度伪造技术的风险日益凸显，其每年可能导致的欺诈损失预计将达数十亿美元。

以下为翻译全文：

现年 82 岁的退休老人史蒂夫・比彻姆（Steve Beauchamp）本希望为家人增加一些收入，他把希望寄托在了埃隆・马斯克（Elon Musk）身上。去年底，比彻姆偶然看到一段视频，视频中马斯克似乎在推荐一个承诺能迅速获利的激进投资方案。受此启发，比彻姆迅速联系了该视频背后的公司，并以 248 美元开设了一个投资账户。然而，在接下来几周里，他逐步增加投资，最终从退休金账户中动用了超过 69 万美元。

但不久后，这些钱就消失了，落入了一群利用人工智能进行新型数字诈骗的骗子之手。这些诈骗者巧妙地篡改了一段马斯克的真实采访，利用 AI 技术替换了他的声音，并微调了他的口型，以匹配他们为这个数字人编写的新剧本。对于一般观众来说，这种操作几乎是察觉不出的。

比彻姆回忆起那段视频，感慨地说：「视频中的他，形象鲜明，一眼就能认出是马斯克。至于是否是 AI 让他说出那些话，我现在也无法确定。但就视频画面而言，如果有人要我从人群中识别他，我肯定能指出来。」

马斯克成深度造假常客

近几个月来，互联网上充斥着数以千计的这种由 AI 驱动的视频，这些被称为「深度造假」（Deepfake）的视频中，伪造的马斯克形象误导了众多潜在投资者。据德勤估计，这类由 AI 支持的深度造假每年可能导致数十亿美元的欺诈损失。

这些视频制作成本极低，几分钟内即可完成，并通过社交媒体进行推广，包括在 Facebook 上的付费广告，大大扩展了它们的影响范围。监测和检测深度造假视频的公司 Sensity 联合创始人兼威胁情报主管弗朗西斯科・卡沃利（Francesco Cavalli）对此发出警告：「这可能是有史以来最大规模的深度造假骗局。」

这些视频常常惟妙惟肖，精准捕捉了马斯克标志性的不连贯语调和南非口音。诈骗者通常从一段真实的视频入手，比如《华尔街日报》采访，造假视频中保留了记者的声音，这增加了视频的真实性。

利用先进的对口型技术，诈骗者调整了马斯克的嘴部动作，使其与他们伪造的台词完美匹配。他们还使用了声音克隆工具添加 AI 声音，这些工具能从样本片段中复制任何声音。最终的广告中，可能还包括伪造的图形，模仿新闻机构的样式，这对一般网络用户来说可能颇具说服力。

根据 Sensity 的分析，马斯克是这些视频中最常见的发言人。在近 2000 个分析样本中，特别是从去年底开始，他出现在了近四分之一的深度造假诈骗中。在那些以加密货币为主题的视频中，这一比例甚至高达近 90%。深度造假广告还常常使用沃伦・巴菲特（Warren Buffett）这样的著名投资者和亚马逊创始人杰夫・贝索斯（Jeff Bezos）等商界大佬。

尽管很难准确统计出有多少深度造假在网络上流传，但通过搜索 Facebook 广告库中常用的与诈骗相关的语言，发现了数十万条广告，其中许多包括了深度造假视频。虽然 Facebook 已删除了许多违反政策的内容，并禁用了相关账户，但仍有其他视频留在了网络上，而且似乎每天都有更多视频出现。

YouTube 也充斥着这些伪造的内容，这些视频常常带有「直播」标签。事实上，这些都是预先录制的深度造假视频。在 YouTube 上搜索关键词如「埃隆比特币会议（Elon Bitcoin conference）」，可以看到数十个伪装成直播的视频，视频中的深度造假马斯克正在兜售加密货币诈骗，误导性极强。

在美国前总统唐纳德・特朗普（Donald J. Trump）在比特币会议上发言后，YouTube 上迅速出现了数十个标注为「直播」标签的视频，展示了一段预先录制的深度伪造马斯克视频，声称会加倍返还发送到他账户的任何加密货币。这些视频虽然吸引了大量观众，其中一些视频的观看次数达到了数十万。但 YouTube 表示，诈骗者可能使用网络水军人为夸大观看次数。

据非营利消费者权益组织 Better Business Bureau 的报告，一名得克萨斯州居民在 2023 年 2 月通过 YouTube 上一段所谓的「直播」视频，看到了伪装成马斯克的诈骗信息，因此损失了价值 36,000 美元的比特币。该居民表示：「我转了比特币，但什么都没收到。」

FB 与 YouTube 成重灾区

YouTube 在一份声明中表示，仅在今年 1 月至 3 月期间，平台就移除了超过 1570 万个频道和超过 820 万个视频，这些内容大多因违反其反垃圾邮件政策而被删除。

鉴于虚假广告泛滥，澳大利亚亿万富翁安德鲁・福雷斯特（Andrew Forrest）对 Facebook 的母公司 Meta 提起了民事诉讼，指责其在广告业务中的疏忽，声称这些广告业务误导了无辜用户进行错误投资。据悉，福雷斯特本人的视频也被用于制作深度造假广告。

Meta 公司回应称，正在训练自动检测系统以识别平台上的欺诈活动，但也坦言这是一场复杂的猫鼠游戏，因为资金充足的诈骗团伙不断改变策略以逃避检测。YouTube 则重申其禁止欺诈和视频篡改的政策，并在今年 3 月要求所有创作者在使用 AI 创造逼真内容时必须进行明确披露。

网络上充斥着大量相关的诈骗报告，其中不少人损失了他们的毕生积蓄。香港证券及期货事务监察委员会在 5 月份发出了关于涉及马斯克的诈骗活动的警告。今年早些时候，美国联邦贸易委员会和联邦调查局也警告美国民众，AI 驱动的网络犯罪和深度伪造诈骗正日益增多。

FBI 在一份电邮声明中强调：「犯罪分子正在利用 AI 作为力量的放大器，使网络攻击和其他犯罪活动更加有效且难以被侦测。」

数字诈骗与互联网的发展同步增长。但随着去年复杂的 AI 工具向公众开放，以马斯克为特征的新一波深度伪造浪潮应运而生，这些工具让普通人能够克隆名人声音或精确操控视频，吸引了色情行业、表情包制作者和越来越多的诈骗团伙的注意。

网络安全研究实验室 CTM Insights 的创始人卢・斯坦伯格（Lou Steinberg）指出：「现在的情况正在发生变化，因为有组织的犯罪团伙已经发现，通过这种方式可以赚钱。」他预计，我们将看到越来越多的这种假冒企图，目的就是骗钱。」

尽管 AI 生成的视频并不完美，例如马斯克的声音在一些视频中可能听起来机械化，而且他的口型并不总是与台词不匹配。但专家警告称，这些视频对于一些诈骗目标来说已经足够令人信服，并且随着时间的推移技术正在不断改进。

根据 Sensity 的卡沃利的说法，这些视频的制作成本非常低，大约只需 10 美元，而且大多数诈骗者使用一系列免费或便宜的工具在不到 10 分钟内拼凑出假视频。他们主要位于印度、俄罗斯和东欧。

「它有效，」卡沃利说。「因此，他们将继续扩大这一活动，跨越国界，用多种语言翻译，并不断向更多目标传播诈骗。」

老年人成为完美目标

这类骗局常以高回报的人工智能投资软件为幌子，初期诱使受害者投入小额资金——如 250 美元。随后，通过夸大投资的增值效果，逐渐诱导他们增加投资金额。

特斯拉股东大会的一条视频也被伪造，视频中马斯克解释了一个由 AI 驱动的自动交易产品，声称能够每天翻倍投资回报。

研究加密货币社区的专家指出，马斯克拥有一群独特的全球粉丝群体，这些粉丝多为保守派、反体制人士和加密货币爱好者，他们经常寻找赚取财富的非传统途径，这使得他们成为这些骗局的理想目标。

「肯定有一群人相信财富的秘密被隐藏了起来，」研究加密货币社区的研究者莫莉・怀特（Molly White）说。她指出，部分人群总幻想掌握财富秘密，认为一旦找到便能一夜暴富。

诈骗者尤爱针对年长互联网用户，他们虽对加密货币、人工智能或马斯克有所了解，但不熟悉安全投资方式的年长互联网用户。

「老年人一直是诈骗者眼中的一块肥肉，这一现象甚至早于社交媒体的兴起，」加州大学戴维斯分校的科学技术研究教授芬恩・布伦顿（Finn Brunton）说，他是加密市场的专家。

比彻姆是一名鳏夫，曾在加拿大安大略省的一家公司担任销售代表，直到 75 岁退休。2023 年加入 Facebook 后不久，他就遇到了广告诈骗。尽管他记得曾在 CNN 的直播中看到过马斯克，但 CNN 的一位女发言人表示，马斯克已多年未在该台接受过采访。

去年 12 月，比彻姆向一家名为 Magna-FX 的公司汇款 27,216 美元，据他和该公司的电子邮件交流显示，Magna-FX 使他相信他的投资价值在增加。期间，一名销售代理甚至使用软件远程控制了比彻姆的电脑，擅自转移资金。

当比彻姆尝试提取资金时，他被告知需要支付 3,500 美元的管理费和另外 3,500 美元的佣金。他付了这些钱，但后来又被告知需要支付 20,000 美元才能释放约 20 万美元的资金部分。尽管他已经用尽了退休储蓄，刷爆了信用卡，动用了信用额度并向妹妹借款投资和支付费用，诈骗者还是要求他支付更多费用。此时，比彻姆已意识到问题的严重性，于是联系了警方。

Magna-FX 的大部分痕迹已经从网络上消失，包括公司网站、电话号码以及比彻姆曾与之交流的代理使用的电子邮件地址。一家名称和服务相似的公司对评论请求未作回应。

比彻姆在提交给 Better Business Bureau 的报告中表示：「此刻，我愿接受所有指责与嘲讽，作为对自己轻信的惩罚。」

他表示，目前正依靠一个未向诈骗者透露的较小退休账户及养老金来维持生计，而他原本计划使用这些积蓄环游世界。比彻姆已经向当地警方报案，但案件进展缓慢。

「由于到处都是欺诈案件，我的案件被放在了队列中，」他说，「我没有抱太大希望。」

*头图来源：视觉中国

极客一问

社交媒体平台

在面对深度伪造内容泛滥时，

应承担哪些责任？