STEAM｜眼见未为真！拆解Deepfake｜星岛教室

2024-05-16 12:19

近年，新闻经常出现有关Deepfake深伪技术的报道：一名台湾资深音乐人的女儿因罕见疾病离世，他以人工智能（AI）Deepfake深伪技术，模仿、复制出女儿的声音，让他和太太重温亲情。另外，跨国公司香港分部的职员因为相信了换脸的「总裁」和「同事」，被骗走了足足2亿港元。

甚么是Deepfake？

Deepfake深伪技术于2017年开始进入大众目光中。原文Deepfake源自英文「deep learning」（深度学习）与「fake」（伪造）组合，指应用人工智能深度学习的技术，合成某个（不一定存在的）人的图像或影片、甚至是声音。最常见的应用，就是将影片中的人脸替换为另一张脸（常是名人），让指定的脸在影片中做出自己从未说过或做过的事情。

首先，需要收集目标人物的大量图像和影片，产生一个虚拟的3D人脸模型。接着，使用这个模型将目标人物的脸部特徵影射到另一个人的影片中，并根据目标人物的动作，产生相应的表情和动作。

想想过去的电影如《魔戒》中的咕噜、或是2008年布莱德．彼特主演的《班杰明的奇幻旅程》，将影片或照片中人物「换脸」「变老」的修图或CG技术，在Deepfake出世前就已经存在了。Deepfake受到关注的核心关键在于，应用AI深度学习的算法，加上越来越强大的电脑与手机运算能力，让「影片换脸」变得越来越唾手可得，并且天衣无缝。

过往电影的影音产业，要仿造人脸需要应用许多复杂、耗时、昂贵的电脑模拟，有了Deepfake相关的技术，使许多抱憾出现了弥补的空间。最有名的应用是荷里活电影《玩命关头7》，在拍摄期间，主角保罗．沃克（Paul William Walker IV）意外身亡，剩下的戏份由弟弟担纲演出，剧组再以Deepfake技术让哥哥弟弟连戏，整部电影才可上映。

深度造假内容散播

虽然深度造假技术有可能彻底改变各个产业，但其恶意行为带来了重大的道德、社会和政治挑战。深度造假技术最逼切的社会影响之一是假讯息的传播。深度造假技术能够创造令人信服的假新闻故事、政治宣传和阴谋论，可以操纵公众舆论并在社会中制造混乱。随着技术变得越来越容易使用，打击错误讯息的挑战变得越来越艰巨。

除此之外，由于能够在未经个人同意的情况下创建高度逼真的影片和图像，深度伪造技术引发了有关侵犯隐私权的严重问题。由于深度造假内容的扩散，个人可能会发现自己面临身份被盗或被错误地卷入犯罪活动的风险。此外，将深度造假技术用于恶意目的，可能会对个人的声誉和福祉造成严重后果。

今年1月，网上流传以AI伪造的影片，片中看到「AI特首」推介一项高回报的投资计划，推销如何用2000港元投资，每周便可取得60000元回报，而且收益是免税。另一条短片，李家超更提及马斯克（Elon Musk）参与计划，接着有「AI马斯克」现身，协助推广假投资计划。

政府立即发布新闻稿，呼吁市民必须提高警惕，切勿误信网上以AI伪造的电视节目片段。政府严正澄清，影片全属伪造，指特首李家超从未作出相关投资计划的言论，并强烈谴责不法之徒假冒行政长官向市民诈骗。政府和科技公司必须共同努力制订策略，侦测和打击深度造假内容的传播。

智破深伪方法

那么，现今世界是否一如《红楼梦》般「假作真时真亦假，无为有处有还无」，如此虚幻，玄之又玄？我看未必。以下是几个识别深度伪造的方法：

观察眼睛：深度伪造产生的影像通常在眼睛上会有一些不自然的表现，例如瞳孔大小不一致、眨眼频率异常或是眼球运动看起来不自然。这些细微差异有时候难以察觉，但却是鉴别真伪的关键。
注意声音：深度伪造除了影像，还会涉及声音的仿造。如果觉得对话听起来不自然，或者有不寻常的回音，这可能是深度伪造的迹象。声音的细节往往比视觉更难以完美复制，因此这也是一个重要的判断依据。
检查画面细节：深度伪造的影像可能会在画面细节上出现问题，如画面模糊、边缘不清晰或光线效果不自然等。这些问题通常出现在脸部与颈部的接合处或是头发的边缘。
使用专业工具：随着技术的不断进步，目前已有许多专业工具，例如Deepware AI等，可帮助检测深度伪造的影像或声音。这些工具利用先进的算法，分析影像或声音的真实性，是识别深度伪造的有力帮手。

总而言之，识别深度伪造需要我们细心观察，关注细节，并适时利用专业工具进行辅助判断。随着技术不断发展，这些方法亦会不断更新和改进，公众需要保持警觉，以免被深度伪造的内容所欺骗。

小思考，大智慧

我们可使用哪些应用程式，制作用于教育目的的深度伪造内容？

参考答案

市面上的选择琳琅满目，例如Synthesia。它是利用AI技术制作视频的平台，利用深度伪造技术，毋须摄影机或演员即可创作专业的视频。它使用AI为虚拟角色添加动画效果并与配音同步。作为学生，你可以利用Synthesia进行以下应用：

影片报告：只需提供报告内容，Synthesia便可将其转换为动画视频，使报告更生动有趣。
教学视频：若想制作教学视频来帮助同学学习，Synthesia可助创建虚拟角色来演示知识和技能。
故事演绎：若喜欢写故事或创作，Synthesia可将文字内容转换为动画视频，让故事更生动。
演示简报：做简报时，可以使用Synthesia创建动画效果和为角色配音，使简报更具吸引力。

使用Synthesia时，可选择不同风格的虚拟角色，根据需要和喜好进行个性化设定，例如自定配音的声调、音高和速度，以符合想要呈现的风格。在编辑过程中，可调整角色的手势、面部表情和身体动作，增加视频的生动性和个性化。完成编辑后，可预览最终效果，确保符合期望。然后，可进行视频渲染并下载，以不同格式和分辨率在社交媒体、网站上分享，或应用于演讲、教学、展示等场合。

Synthesia的技术利用深度伪造算法和机器学习，让虚拟角色的动作和表情更加逼真。然而，作为使用者，应负责任地使用这项技术，并牢记相关的道德考量。

本栏逢周四刊登，由教育评议会邀请资深中小学老师、校长及大学讲师撰稿，旨在为学生提供多元化的STEAM学习材料，引发学生探求知识的兴趣，将学习融入生活，培养学生的世界观、敏锐的触觉、积极学习的态度。

文：东华三院王余家洁纪念小学校长刘秀萍、老师陈颍钊及老师阮骏