星岛申诉王 | 直击网上兜售AI犯罪技术 实测黑心IT公司换脸穿崩位
2023-07-18 08:00 
「人工智能」(AI) 已经成为科技新趋势，但不幸的是同时遭到骗徒利用，作为网络诈骗工具。香港警方今年已经接获相关案件，事主都是因为被AI技术暪骗或遭勒索。《星岛申诉王》发现，有人在网上公然兜售AI换脸技术，还表示可用作不法用途。
科技公司提供AI犯罪技术
记者在社交网站联络一间马来西亚IT公司，对方宣称可以提供精品级AI换脸技术，除了适用于拍摄视频和直播外，亦适用于「网恋钓鱼」及「黑色产业」等网络犯罪。
【黑心IT服务收费大公开】：
这间公司在Telegram开设群组，里面有700多人。记者假扮顾客查询，了解费用和服务，发现这间公司是收取俗称「U币」的虚拟货币「泰达币」(USDT)作报酬。实时AI换脸软件，年费索价3,000美元(折合约港币2.3万)。对方宣称付款后即可享有优质换脸服务，连成龙及迪丽热巴等名人明星的脸容，也能模仿。如果要创制指定人脸，则要做模，每个模要多加约4,300港币。
该黑心IT公司代表阿Luck，还邀请记者试用他们的直播换脸服务，让我们看看效果。记者遂邀请香港创科发展协会主席陈迪源参与测试，了解对方技术水平。
直播一开始，阿Luck已经换上一幅大叔脸孔，加上变声器与陈迪源通话，目的除了展示效果外，还要避免真实容貌或声线曝光。他转了几个角度后，开始换另一幅男子的脸孔，但陈迪源向阿Luck直言立体感变差，就像相片P过头(过度修图)的那种感觉。
【点击睇专家实测过程】：
陈询问能否模仿声线，阿Luck即化身「加钱哥」，扬言只要肯加钱和提供声线，便可以模仿得到，惟直言模仿粤语的话，相似度仅约6成。由于陈不断提出一些测试AI系统的难度要求，例如用双手遮脸等，AI影像立即变得模糊，手指变成透明，而男人勉强模仿女人脸孔，额头位置和脸容两边也显得不自然。阿Luck被测试得有点恼羞成怒，向专家陈迪源说「反正我演示的时候，真实效果你能接受就接受，不能接受，AI就是这样子！」
测试完毕后，陈迪源对这间黑心IT公司的技术评价一般。「开始的时候我是有些期望，怎么说也是拿出来卖给别人，应该有些斤両才敢这样做，我还在想要怎样才找到对方破绽，但结果你刚才也看到了，很多东西不攻自破。例如画面有些情况边界模糊，声音只是用上变声器、并非复制别人声音。这个水平，我会形容是业馀级的「天花板」，但以专业级来说，是很入门的工具。」
惟陈迪源强调，IT业界在AI换脸以至复制声音的技术，进步得非常快，他最担心复制广东话的技术，日后将会成为行骗工具。「暂时模拟声音的技术，在英语或普通话方面会成熟一点，粤语方面没那么成熟。不过科技一日千里，或许半年或一年后广东话语音的复制技术会开始普及，到时要更加小心。」
为针对各类诈骗案件，警方早前委任4名年轻警务人员为「防骗刑警」，化身防骗KOL提高公众防骗意识。对于AI技术遭利用犯案，警方亦公开防骗贴士。「防骗刑警」之一的网络安全及科技罪案调查科高级督察陈智颖称，要破解AI换脸除了留意影片内人物的眼神，以及口型有否不自然之处外，亦可要求对方在镜头前面用手指慢慢横过脸部，骗徒的电脑程式可能因为无法适应这突如其来的改变，因此出现穿崩。
商业罪案调查科高级督察张文瀚则提醒，当与他人通电话或进行视像通话时，纵然觉得对方的声音与自己亲友十分相似，亦不能排除被骗的机会，要尝试从对话内容、一些只有亲友间才知道的资讯，从而核实对方身份的真假。
______________________________________________________
《星岛申诉王》为民请命抱不平、追踪城中热话，亦会搜罗坊间温情小故事。你申诉，我跟进，WhatsApp搵91999933，《星岛申诉王》随时候命！
《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ
最新回应