一家总部设在英国的跨国公司香港分公司,日前惨陷“AI深伪”(deepfake)诈骗,遭诓走高达2亿港元(约1.2亿令吉,成了香港首宗AI“多人变脸”骗案例,也是迄今损失金额最大的“变脸”案例!
香港《文汇报》报道,诈骗集团事先从网上搜集该公司英国总部高层面部和声音数据,透过深伪技术把诈骗分子换上多名公司高层面貌和声音,再按剧本预制“高层发言”短片,继而以香港分公司职员熟识的总部总财务长名义,发出钓鱼信息,邀请香港分公司职员参加视讯会议听取“机密交易”汇款指令。
由于与会总公司高层均遭集体变脸所以“熟口熟面”,香港职员也不疑有他,遂按“最高指示”,在一周内分批把总计2亿港元资金转帐至5个香港本地银行户口,直至日前向总部查询时始知受骗。

香港警方透露,诈骗集团在设置AI“变脸”骗局前,可能用“钓鱼”软件或其他网上途径,掌握到公司内部人员架构及运作模式等资料,然后设计好行骗剧本,让受害人以为是一次日常的财务操作。警方深入调查后发现这次AI“变脸”诈骗案有几个特点:
1、为了让受害人更加相信,骗徒利用“深伪技术”假冒多人多角色脸谱;
2、骗徒用真人换上英国高层面部和声音后,实际上他们在视讯上的发言,都是根据按事前写好的讲稿拍摄预制片段,因此,会议上不能与香港职员对话互动,所以不给香港职员提问机会;
3、为免露出破绽,视讯会议短短数分钟就结束;
四、所谓总部高层现身直接下指令,只是要给香港分公司职员营造一个“最高指示”的场景,让职员信以为这是总公司真实决策。
香港网络安全及科技罪案调查科网络安全组署理高级警司陈纯青说,科技发展一日千里,对任何社交平台或通讯软体所收到信息,都要有查证的意识及行动。
“大家要谨记,在AI“深伪技术”下,已经是“眼见不一定为实,有图有片亦不一定是真相”。”
(新闻整理自《香港明报》《南洋商报》)