AI世界的真真假假｜星岛教室
2023-06-15 12:40 
自从ChatGPT及Midjourney等AI软件出现，令使用AI的门槛大大降低，要写文章吗？只须输入要点，AI便会帮你从网上的大数据中，生成出一篇符合你要求的文章；要画图吗？只要选出要求和风格，AI会快速地把不同原图整合起来，为你绘出图片，质素还很高呢！
难分真与假
AI软件确实好用，但也会出现资料错误的情况，因为软件从网上搜集相关的资料，再生成（generate）文章，但网上甚么都有，AI软件未进化到能办别真伪，最后只好照单全收，所以下一阶段的AI软件会列出它的资料来源，让用家自己查核。除了不经意合成错误资料，AI亦会制作出令人信以为真的「假资料」。
我们常说「有图有真相」，但在AI世界中却不管用。2017年华盛顿大学研究团队用AI软件，学习了美国前总统奥巴马17小时的演讲片段，让机器修改了他的声音和嘴形，然后演化出一段奥巴马的假演说片段，旁人看来完全以为是真的，该公司选中奥巴马，是因为网上有大量他的演讲片段，好让机器学习（Machine Learning）和推算，试想想如果人人都可用AI制造出不同国家领导人的假演说，可能会引致世界大乱呢！
2021年12月31日的江苏衞视跨年演唱会上，AI透过动作捕捉、虚拟现实、机器学习等技术，在荧光幕上合成了一个栩栩如生的已故歌手邓丽君，AI更从她的旧有歌声中，为她合成了一首新歌，让她与现今歌手周深合唱了一曲《大鱼》。当然身在现场的周深，眼前是甚么都没有，但想想AI能令你在荧光幕上看到已故歌手与真人对话和合唱新歌，确是令人毛骨悚然。
最近有科学家群起要求管制AI的发展，是担心像电影情节般，机械人反过来统治人类吗？当然不是，因要机械人有自己的思想行为，需要进行大量的非监督学习（unsupervised learning），过程相对复杂，暂时这科技仍缓步前行。那是担心学生常用AI的生成软件，将来不懂得写文章和画画吗？也不是，几十年前计算机平价出现，大家都怕学生只靠计算机，变成不懂计数，后来计算机可加入程式计算，大家配合学习，成为了很好的辅助学习工具。那么人们为甚么提出要监管AI软件？其中一个原因是AI生成的文章，真假难辨，可能会引起混乱和道德上的问题。
道德考量
F1「车神」米高舒密加自2013年遇上滑雪意外后，一直要卧牀治疗，10年过后，他的身体状况仍然是外界的焦点。德国一本八卦杂志《Die Aktuelle》最近以舒密加作封面，标上「首次访问」及「世界轰动」的字眼，当大家都以为舒密加真的接受访问时，他的家人状告该杂志，原来舒密加从没接受任何访问，那只是杂志社用AI软件生成的访问。其实要作一篇假访问，自己一个人关上房门，也可弄出一篇文章来，杂志社利用AI软件，从网上收集过往车神接受访问的片段及文章，拟订一些新的问题，让电脑推算他的答案，过程快捷方便，但……这是伪造的、犯法的、侵犯私隐和伤害别人，所以在道德上，AI不知哪些可以做，哪些不可以做，立例是规管使用软件的人。另一方面，作为享用者，我们在茫茫无际的电脑世界，当接触到不同资讯时应怎样做？那便要慎重地「事实核查」。
事实核查（Fact Checking）
同学们接收了一些有趣奇怪的资讯，会赶快转出去来争取别人的点赞，但有否想过那些资讯是错的吗？假的资讯会否引起混乱，造成伤害？
《战国策．秦策二》有一个关于「曾参杀人」的故事。话说曾参的家在费地，费地有个跟曾参同名同姓的人杀了人，有人向他的母亲说：「曾参杀人了！」曾母听后说：「我儿子绝对不会杀人的。」没多久，又有一个人跑来说：「不得了，曾参真的在外面杀了人。」他的母亲听后仍然不去理会这句话。又过了一会儿，第三个报信的人跑来对曾母说：「曾参的确杀了人。」曾母心里骤然紧张起来，觉得那是事实，急忙扔掉手上的工作，端起梯子，越墙逃走了。这故事教导我们不要胡乱相信流言，亦叫我们知道以讹传讹的恐怖。
事实核查包括查考资料来源、比对其他资料、向当事人考证和仔细思量，很多事情当你冷静下来思考，便会发觉资料不可信，这种存疑思考的精神，正是创科学习的精髓。当然事实核查还包括不会胡乱转发，那三个未经事实核查便跑去吓曾参母亲的人，对流言要负上很大的责任。
马云曾说机械人只有晶片，但人类却有心脏，所以AI机械人不会取代人类，但我们在使用AI软件时，要学习辨别真伪，确保守法和顾及他人，因我们是人类，有我们的思想，也有我们的价值观。
小思考，大智慧
1. 去年9月，一名男子使用「Midjourney」人工智能创作绘图，在美国科罗拉多州博览会的艺术比赛中获奖；今年4月，一幅以AI绘图的图像，在Sony世界摄影大奖中获奖。你觉得公平吗？
2. 你认为使用AI应用程序需要订立哪些规则？
3. 进行事实核查时，我们除了要查考资料来源、比对其他资料、向当事人考证和仔细思量外，网上有没有一些可靠的资源可以帮助我们进行事实核查？
参考答案
1. 这两件事件令大众产生不少讨论，有人认为利用AI创作艺术是不公平及作弊的行为，批评AI创作有违创作本义，更说这是人类艺术的末日；不过也有人认为，在19世纪相机面世时，也有人担心彩色摄影会取代画家；又例如音乐合成器的出现也有人担心音乐家会被取代。不过，现在画家或音乐人仍然存在。未来如何解决AI与传统艺术竞争的问题，仍须进一步讨论及思考。
2. AI应用程序为人类带来很多好处，但开发时也应该要合法、尊重个人私隐、公平、不歧视、符合普世道德价值等。中国网信办在4月发布有关生成式人工智能（generative AI）服务管理的规定草案，要求AI服务商必须经过政府的安全评估。世界七大工业国集团（G7）在2023年5月亦列出5大AI监管原则，包括法治、正当程序、民主、尊重人权及利用创新机会；美国在2022年亦公布了《人工智能权利法案蓝图》，阐述部署人工智能系统需要考虑的准则，证明世界各国都重视使用AI的操守。
3. 以往新闻媒体从业员会查核事实真伪，才发放给读者及观众，大大降低了假新闻对我们的影响，不过随着技术发展，还有社交媒体的普及，成为「假新闻」的温牀。由2019年，香港出现了香港大学新闻与媒体研究中心的Annie Lab、浸会大学传理学院的浸大事实查核（HKBU Fact Check），以及由一批新闻工作者和学者组成的事实查核实验室（Factcheck Lab）。这三个组织都获得国际事实查核网络（International Fact-checking Network, IFCN）的认证，都可协助我们进行事实查核。当然，同学提升自身的资讯素养更为重要。
文：中华基督教会协和小学（长沙湾）校长、教育评议会主席蔡世鸿、中华基督教会协和小学（长沙湾）副校长郑俊杰
本栏逢周四刊登，由教育评议会邀请资深中小学老师、校长及大学讲师撰稿，旨在为学生提供多元化的STEAM学习材料，引发学生探求知识的兴趣，将学习融入生活，培养学生的世界观、敏锐的触觉、积极学习的态度。
延伸阅读：
《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ
最新回应