AI世界的真真假假|星岛教室

2023-06-15 12:40

自从ChatGPT及Midjourney等AI软件出现,令使用AI的门槛大大降低,要写文章吗?只须输入要点,AI便会帮你从网上的大数据中,生成出一篇符合你要求的文章;要画图吗?只要选出要求和风格,AI会快速地把不同原图整合起来,为你绘出图片,质素还很高呢!


难分真与假

AI软件确实好用,但也会出现资料错误的情况,因为软件从网上搜集相关的资料,再生成(generate)文章,但网上甚么都有,AI软件未进化到能办别真伪,最后只好照单全收,所以下一阶段的AI软件会列出它的资料来源,让用家自己查核。除了不经意合成错误资料,AI亦会制作出令人信以为真的「假资料」。

我们常说「有图有真相」,但在AI世界中却不管用。2017年华盛顿大学研究团队用AI软件,学习了美国前总统奥巴马17小时的演讲片段,让机器修改了他的声音和嘴形,然后演化出一段奥巴马的假演说片段,旁人看来完全以为是真的,该公司选中奥巴马,是因为网上有大量他的演讲片段,好让机器学习(Machine Learning)和推算,试想想如果人人都可用AI制造出不同国家领导人的假演说,可能会引致世界大乱呢!

2021年12月31日的江苏衞视跨年演唱会上,AI透过动作捕捉、虚拟现实、机器学习等技术,在荧光幕上合成了一个栩栩如生的已故歌手邓丽君,AI更从她的旧有歌声中,为她合成了一首新歌,让她与现今歌手周深合唱了一曲《大鱼》。当然身在现场的周深,眼前是甚么都没有,但想想AI能令你在荧光幕上看到已故歌手与真人对话和合唱新歌,确是令人毛骨悚然。

最近有科学家群起要求管制AI的发展,是担心像电影情节般,机械人反过来统治人类吗?当然不是,因要机械人有自己的思想行为,需要进行大量的非监督学习(unsupervised learning),过程相对复杂,暂时这科技仍缓步前行。那是担心学生常用AI的生成软件,将来不懂得写文章和画画吗?也不是,几十年前计算机平价出现,大家都怕学生只靠计算机,变成不懂计数,后来计算机可加入程式计算,大家配合学习,成为了很好的辅助学习工具。那么人们为甚么提出要监管AI软件?其中一个原因是AI生成的文章,真假难辨,可能会引起混乱和道德上的问题。


道德考量

F1「车神」米高舒密加自2013年遇上滑雪意外后,一直要卧牀治疗,10年过后,他的身体状况仍然是外界的焦点。德国一本八卦杂志《Die Aktuelle》最近以舒密加作封面,标上「首次访问」及「世界轰动」的字眼,当大家都以为舒密加真的接受访问时,他的家人状告该杂志,原来舒密加从没接受任何访问,那只是杂志社用AI软件生成的访问。其实要作一篇假访问,自己一个人关上房门,也可弄出一篇文章来,杂志社利用AI软件,从网上收集过往车神接受访问的片段及文章,拟订一些新的问题,让电脑推算他的答案,过程快捷方便,但……这是伪造的、犯法的、侵犯私隐和伤害别人,所以在道德上,AI不知哪些可以做,哪些不可以做,立例是规管使用软件的人。另一方面,作为享用者,我们在茫茫无际的电脑世界,当接触到不同资讯时应怎样做?那便要慎重地「事实核查」。


事实核查(Fact Checking)

同学们接收了一些有趣奇怪的资讯,会赶快转出去来争取别人的点赞,但有否想过那些资讯是错的吗?假的资讯会否引起混乱,造成伤害?

《战国策.秦策二》有一个关于「曾参杀人」的故事。话说曾参的家在费地,费地有个跟曾参同名同姓的人杀了人,有人向他的母亲说:「曾参杀人了!」曾母听后说:「我儿子绝对不会杀人的。」没多久,又有一个人跑来说:「不得了,曾参真的在外面杀了人。」他的母亲听后仍然不去理会这句话。又过了一会儿,第三个报信的人跑来对曾母说:「曾参的确杀了人。」曾母心里骤然紧张起来,觉得那是事实,急忙扔掉手上的工作,端起梯子,越墙逃走了。这故事教导我们不要胡乱相信流言,亦叫我们知道以讹传讹的恐怖。

事实核查包括查考资料来源、比对其他资料、向当事人考证和仔细思量,很多事情当你冷静下来思考,便会发觉资料不可信,这种存疑思考的精神,正是创科学习的精髓。当然事实核查还包括不会胡乱转发,那三个未经事实核查便跑去吓曾参母亲的人,对流言要负上很大的责任。

马云曾说机械人只有晶片,但人类却有心脏,所以AI机械人不会取代人类,但我们在使用AI软件时,要学习辨别真伪,确保守法和顾及他人,因我们是人类,有我们的思想,也有我们的价值观。


小思考,大智慧

1. 去年9月,一名男子使用「Midjourney」人工智能创作绘图,在美国科罗拉多州博览会的艺术比赛中获奖;今年4月,一幅以AI绘图的图像,在Sony世界摄影大奖中获奖。你觉得公平吗?

2. 你认为使用AI应用程序需要订立哪些规则?

3. 进行事实核查时,我们除了要查考资料来源、比对其他资料、向当事人考证和仔细思量外,网上有没有一些可靠的资源可以帮助我们进行事实核查?


参考答案

1. 这两件事件令大众产生不少讨论,有人认为利用AI创作艺术是不公平及作弊的行为,批评AI创作有违创作本义,更说这是人类艺术的末日;不过也有人认为,在19世纪相机面世时,也有人担心彩色摄影会取代画家;又例如音乐合成器的出现也有人担心音乐家会被取代。不过,现在画家或音乐人仍然存在。未来如何解决AI与传统艺术竞争的问题,仍须进一步讨论及思考。

2. AI应用程序为人类带来很多好处,但开发时也应该要合法、尊重个人私隐、公平、不歧视、符合普世道德价值等。中国网信办在4月发布有关生成式人工智能(generative AI)服务管理的规定草案,要求AI服务商必须经过政府的安全评估。世界七大工业国集团(G7)在2023年5月亦列出5大AI监管原则,包括法治、正当程序、民主、尊重人权及利用创新机会;美国在2022年亦公布了《人工智能权利法案蓝图》,阐述部署人工智能系统需要考虑的准则,证明世界各国都重视使用AI的操守。

3. 以往新闻媒体从业员会查核事实真伪,才发放给读者及观众,大大降低了假新闻对我们的影响,不过随着技术发展,还有社交媒体的普及,成为「假新闻」的温牀。由2019年,香港出现了香港大学新闻与媒体研究中心的Annie Lab、浸会大学传理学院的浸大事实查核(HKBU Fact Check),以及由一批新闻工作者和学者组成的事实查核实验室(Factcheck Lab)。这三个组织都获得国际事实查核网络(International Fact-checking Network, IFCN)的认证,都可协助我们进行事实查核。当然,同学提升自身的资讯素养更为重要。


文:中华基督教会协和小学(长沙湾)校长、教育评议会主席蔡世鸿、中华基督教会协和小学(长沙湾)副校长郑俊杰

本栏逢周四刊登,由教育评议会邀请资深中小学老师、校长及大学讲师撰稿,旨在为学生提供多元化的STEAM学习材料,引发学生探求知识的兴趣,将学习融入生活,培养学生的世界观、敏锐的触觉、积极学习的态度。


延伸阅读:

语音识别的奥秘|星岛教室

Hello Motor!探索STEAM道路|星岛教室

磁浮陀螺 — 乐与学|星岛教室

加密,究竟有几秘密?|星岛教室

〈天问〉|星岛教室


《星岛头条》APP经已推出最新版本,请立即更新,浏览更精彩内容:https://bit.ly/3yLrgYZ

關鍵字

最新回应

關鍵字

相關新聞

You are currently at: 187235123.xyz
Skip This Ads
close ad
close ad