AI 诈骗怎么识别?深度伪造视频、AI 换声的 6 个破绽

GOHONG01 编辑部 发布

AI 诈骗怎么识别?深度伪造视频、AI 换声的 6 个破绽

亲人的声音、上司的脸都可能是 AI 做的。整理 FBI 与 MIT 研究项目列出的深度伪造破绽,以及接到可疑来电时的核实步骤。

要点摘要

  • 深度伪造(Deepfake)是用 AI 生成或篡改的图像与声音,能让人看起来、听起来像某个真实人物在说话。
  • 美国联邦调查局(FBI)2024 年 12 月警告,诈骗者会用 AI 模仿亲人的声音,假装遇到急难,要求立即汇款或支付赎金。
  • 深度伪造视频常见的破绽在脸部细节、眨眼与口型、光影与动作;AI 换声则要注意语气和用词像不像本人。
  • 美国麻省理工学院媒体实验室指出,AI 篡改的影像没有单一的识别破绽,高质量的深度伪造并不容易分辨。
  • FBI 建议挂断电话后自己查号码回拨确认,并和家人约定一组只有彼此知道的暗号。

AI 诈骗越来越逼真:电话那头是孩子哭着求救的声音,视频通话里是熟悉的上司或亲友的脸,却可能都是 AI 做出来的深度伪造视频或 AI 换声。只靠“看起来像、听起来像”,已经不足以判断对方是不是本人。

下面先说明 AI 诈骗常见的手法,再整理深度伪造视频和 AI 换声的 6 个破绽,以及接到可疑来电时该怎么核实、平时怎么降低被冒用的风险。

AI 诈骗是什么?深度伪造和 AI 换声怎么骗人?

AI 诈骗是用生成式 AI 制作假视频、假声音、假照片或假文字来获取信任,常见手法是冒充亲友、名人、上司或执法人员要求汇款。

深度伪造是把一个人的脸或声音用 AI 合成到视频或录音里,让他“说出”从没说过的话;AI 换声(声音克隆)则是让 AI 模仿特定人的声音。美国联邦调查局(FBI)网络犯罪投诉中心(IC3)在 2024 年 12 月 3 日发布的公告中,列出了诈骗者的几种用法:

  • 假冒亲人求救:用 AI 生成亲人声音的短语音,假装遇到危急情况,要求立即经济援助或支付赎金。
  • 实时视频冒充:在实时视频通话中假扮公司高管、执法人员或其他有权威的人。
  • 证明“我是真人”:在私信中发送 AI 视频或照片,让受害人相信网上认识的对象真的存在。
  • 假证件与假名人:用 AI 生成假驾照、假的执法或银行人员证件,或制作名人推销假冒商品的图片、虚假的投资宣传视频。

台湾也有实际案例。台湾内政部警政署刑事警察局 2026 年公布破获一个网恋诈骗集团,集团为了取信受害人使用 AI 变声软件,警方查扣的赃证物包括含 AI 深度伪造程序的电脑与平板 67 台。

法律上,台湾《刑法》第 339 条之 4 在 2023 年 5 月 31 日修正,把“以电脑合成或其他科技方法制作关于他人不实影像、声音或电磁记录”实施诈骗列为加重诈欺,处 1 年以上 7 年以下有期徒刑,可并处新台币 100 万元以下罚金。另依 2026 年 1 月修正的台湾《诈欺犯罪危害防制条例》,犯加重诈欺使人交付的财物达新台币 100 万元,处 3 年以上 10 年以下有期徒刑,金额越高刑罚越重。

女性在家用笔记本电脑视频通话,画面中的人脸边缘出现不自然的模糊,示意深度伪造视频的破绽

深度伪造视频、AI 换声有哪 6 个破绽?

视频看脸部细节、眨眼与口型、光影与动作;声音听语气和用词;情境则注意对方是否急着要钱,或要求用特殊方式付款、提供资料。

以下前 3 个破绽来自 FBI 公告和麻省理工学院媒体实验室 Detect Fakes 研究项目的整理,后 3 个是 FBI 描述的诈骗特征:

1. 脸部细节不自然

麻省理工学院媒体实验室指出,高端的深度伪造几乎都是脸部替换,可以注意脸颊和额头的皮肤是否太光滑或皱纹太多、痣看起来真不真实、胡子是否自然。FBI 也提醒留意牙齿或眼睛不真实、脸部模糊或不规则。

2. 眨眼和口型对不上

观察对方眨眼次数是太少还是太多,嘴唇动作看起来自不自然。有些深度伪造是靠“对口型”合成的,FBI 也把声音和画面是否吻合列为检查项目。

3. 光影、配饰和动作有点怪

阴影是不是出现在合理的位置?人移动时,眼镜反光的角度有没有跟着改变?FBI 也列出眼镜、首饰等配饰不真实、手脚扭曲、水印、画面延迟和动作不自然等线索。

年长男性在家中接到自称家人求救的电话,神情焦急,示意 AI 换声诈骗的情境

4. 语气和用词不像本人

AI 换声可以模仿音色,但说话习惯不一定学得像。FBI 建议仔细听语气和用词,分辨是亲人真的打来,还是 AI 克隆的声音。例如平时叫你“老爸”的孩子突然改口叫“爸爸”,就值得多问一句。

5. 情况紧急,要你马上给钱

FBI 描述的典型手法,是用亲人声音假装遇到危急情况,要求立即经济援助或支付赎金。对方越是催促、不给你时间思考,越要停下来确认。

6. 要你付钱给陌生账户或交出敏感信息

FBI 提醒,不要把钱、礼品卡、加密货币或其他资产交给不认识、或只在网上和电话里认识的人,也不要向他们透露敏感信息。视频里的人脸再熟悉,只要要求转账到新账户或索取验证码,就要先核实。

破绽观察重点
脸部细节皮肤太光滑或太多皱纹、牙齿眼睛不真实、脸部模糊
眨眼与口型眨眼太少或太多、嘴唇动作和声音对不上
光影与动作阴影位置不合理、眼镜反光不变、画面延迟
语气与用词口气、称呼、口头禅和本人不同
情况紧急说遇到急难,要你马上汇款或付赎金
付款与资料要求转账到陌生账户、买礼品卡、给验证码

接到可疑视频通话或电话怎么办?

先不要按对方的要求做任何事,挂断后用你原本就知道的号码回拨本人或机构确认;仍有疑虑,在台湾可拨打 165 反诈骗咨询专线核实。

  1. 先挂断:结束通话或视频,不在情绪紧张时做决定。
  2. 自己查号码回拨:FBI 建议挂断后自己查询银行或机构的联系方式再直接拨打。家人朋友也一样,用通讯录里原本存的号码回拨,不用对方提供的号码。
  3. 问暗号:如果家里有约定暗号,请对方说出来。
  4. 不给资料、不汇款:核实完成前,不提供身份证号、账号密码、验证码,也不汇款。
  5. 打 165 核实:在台湾可拨打内政部警政署 165 反诈骗咨询专线;如果已经汇款,要尽快联系银行并报警。
民众挂断可疑来电后,改用手机通讯录里原本存的号码回拨确认

怎么降低被 AI 冒用的风险?

  • 约定家庭暗号:FBI 建议和家人约定一组秘密的词或句子,用来确认身份。暗号不要公开在社交媒体上,也不要用容易查到的生日、地址。
  • 少公开自己的影像和声音:FBI 建议尽量减少网上公开的个人影像和声音,把社交账号设为不公开,关注者限定认识的人,降低被拿去制作假身份的机会。
  • 重要账号多一道锁:诈骗者常想骗走验证码来盗用账号,开启 2FA 两步验证,或改用不需要输入验证码的通行密钥 Passkey,能减少账号被骗走的机会。
  • 提防新闻事件后的冒充:银行或企业出事后,常有人冒充客服说要协助退款,处理方式可以参考永丰银行盗转事件的自保整理。
  • 和长辈聊一聊:把“声音和脸都可能是假的”这件事告诉家中长辈,并一起决定遇到求救电话时要先打给谁确认。
一家人在餐桌旁轻松讨论,约定只有彼此知道的家庭暗号

肉眼识别深度伪造靠得住吗?

不完全靠得住。麻省理工学院媒体实验室指出,AI 篡改的影像没有单一破绽,高质量深度伪造不容易分辨;看到破绽要警惕,没看到也不代表是真的。

上面的 6 个破绽适合当作“警报”,一旦发现就该停下来;但 AI 技术一直在进步,画面干净、声音自然的假视频也可能出现。真正可靠的是换一条你自己掌握的渠道确认,例如回拨原本存的号码、问暗号,或直接见面。

收到要钱的消息,先停、再查、最后才做决定。多花一分钟核实,比事后追回款项容易得多。

常见问题

视频通话时看得到对方的脸,就代表是本人吗?

不一定。FBI 指出,诈骗者会用 AI 视频在实时视频通话中假扮公司高管、执法人员等,也会用视频“证明”网友是真人。看得到脸,仍要用你自己查到的号码另外确认。

家庭暗号要怎么设置?

FBI 建议和家人约定秘密的词或句子来确认身份。可以选一个只有家人懂、不会出现在社交媒体上的词,接到自称家人求救的电话时,请对方先说出暗号。

在台湾用 AI 深度伪造诈骗会怎么罚?

依《刑法》第 339 条之 4,用电脑合成等方法伪造他人影像、声音诈骗,处 1 年以上 7 年以下有期徒刑;骗得达 100 万元,依《诈欺犯罪危害防制条例》处 3 至 10 年有期徒刑。

怀疑遇到 AI 诈骗可以打给谁?

在台湾可以拨打内政部警政署 165 反诈骗咨询专线核实或报案。如果已经汇款或泄露了账号密码,请尽快联系银行官方客服,并到警察机关报案。

资料来源:美国联邦调查局网络犯罪投诉中心(FBI IC3)-Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud(2024)、麻省理工学院媒体实验室-Detect Fakes 研究项目、台湾刑事警察局-破获网恋深度伪造诈骗集团新闻资料(2026)、台湾法规资料库-刑法第 339 条之 4、台湾法规资料库-诈欺犯罪危害防制条例第 43 条(2026 年 1 月 21 日修正)

觉得有用就分享给朋友: LINE Facebook X

延伸阅读