新型诈骗｜AI语音以假乱真 扮家属求救呃赎金
2023-06-13 07:00 
电话里头传来的声音听来跟真的没两样！住在美国亚利桑那州的德斯特凡诺（Jennifer DeStefano）听到「女儿」啜泣求救，之后一名男子接过电话，要求100万美元赎金。所幸她冷静认对，没有受骗。
德斯特凡诺说，她一般都不接不知明电话，但当时15岁的女儿去了滑雪，她怕有意外就接听了那通可疑电话。「救我，妈，救我。」她听到女儿啜泣的声音。然后一名男子接过电话，要胁100万美元赎金，不过她说没钱，对方便「大减价」只要5万美元。
德斯特凡诺让对方保持通话。所幸她接电话时，身处于另一个女儿的舞蹈室，其他家长纷纷帮忙，报警和找她丈夫。在短短4分钟内，她确认女儿安全无事，之后她便挂断电话。
但她挂电话后，仍一直觉得电话里的就是她女儿。「完全是她的声音。抑掦顿挫，那就是她哭的方式。我没有一秒怀疑那不是她。就是这个怪异的部分让我陷入困境。」
电话传来的女孩的声音，原来是由人工智能（AI）合成，绑架当然也是假的。新型诈骗震撼美国当局，歹徒使用网路上垂手可得、几可乱真的AI语音复制工具，假冒家庭成员来诈骗亲人。
美国资讯安全公司McAfee Labs上月发布的民调显示，在美国等9个国家针对7000人的民调中，1／4表示自己遇过AI语音诈骗，或听过别人有类似经验。70%受访者表示，没有信心能「分辨真假语音」。
有专家指出，AI最大的危险是模糊了真实和虚幻的界线，让网路罪犯能有廉价又有效的技术来散播假讯息。
加州大学柏克莱分校资讯学院教授法里德（Hany Farid）告诉法新社：「因为现在制作高仿真的语音非常容易…网路上几乎无人能幸免。这些诈骗正广为流行。」
今年初AI新创公司ElevenLabs坦承自家语音合成工具可被用于「恶意用途」，先前就有用户发布透过「深伪技术」（Deepfake）合成的语音，假冒英国女星爱玛屈臣（Emma Watson）读希特拉自传《我的奋斗》（Mein Kampf）。
---
《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ
最新回应