据国内多家媒体报道,中国香港近期发生了一起规模庞大的AI“深伪”诈骗案,涉案金额达2亿港元(约1.84亿人民币),引起了广泛关注。
这是香港历史上损失最惨重的“变脸”案例,同时也是首次涉及AI“多人变脸”的诈骗案。
据介绍,报案人为一间跨国公司香港分行员工,他表示上个月收到该公司英国总部首席财务官的信息,声称要进行机密交易,分别邀请该公司数名财务人员进行多人的视频会议。
由于对方各人在会议内均显示了与现实相同的容貌,所以并没有察觉到任何问题。
该员工前后转账15次,合共2亿港元到5个本地银行户口,其后向总部查询方知受骗。
根据目前掌握的信息,诈骗者通过公司的YouTube视频和从其他公开渠道获取的媒体资料,成功地仿造了英国公司高层管理人员的形象和声音,再利用Deepfake(深度伪造)技术制作伪冒视频,造成多人参与视频会议的效果。
事实上,这位员工参加的会议只有他自己一个人是真人,其他全部都是假的。
由于是预制视频,所以这场假会议主要是以上司的角度向员工下达命令,该员工并没有机会参与对话,只是被要求做过一次简单的自我介绍,之后便用接口结束会议,后续的命令则通过软件沟通下达。
香港警方还在进一步调查案件,目前没有逮捕任何嫌疑人。