警方科罪专家小组 研AI打击深伪骗术

警务处与12位来自不同界别的专家及领袖成立的科技罪案警政顾问小组（「小组」）于去年底举行了第4次会议，专题探讨如何打击网上有害资讯和恶意深伪（deepfake）资讯。小组认为，公众教育是辨识有害资讯的关键之一，香港的网络安全法例和合规标准也有完善的空间，建议本地与内地更积极展开「官产学研用」（政府、生产、学习、科研、运用）的合作，进一步利用人工智能侦测通过深伪技术进行诈骗等新型罪案。
社交媒体和网上讨论区已成为不少人获取资讯的主要来源，但网上有海量资讯，要及时监察并找出诈骗等有害资讯，不少社交平台和机构也依靠人工智能及大语言模型为基础的工具识别，再以专人辅助判断，然而透过机器学习和人工智能 （AI） 技术生成极像真图像、声音和影片的深伪技术急速发展，现时一般家用电脑、手机也可凭一张相片或一段声带制作几可乱真的深伪视频或音频。
AI辨别难度增 有图有片无真相

因此，更多不法分子以此进行诈骗、发布失实资讯、制造社会舆论等，警方去年8月便拘捕6人，涉嫌利用深伪技术制造虚假身份证明文件以向银行申请贷款。虽然深伪内容难以利用肉眼和耳朵识别，不过近年业界积极研究以人工智能侦测深伪影像，在特定测试场景已达至超过7成准确率，但深伪技术不断优化，令「以AI侦测AI」的难度日增。

小组认为，公众教育是辨识有害资讯的关键之一，无论影像、声音、文字是否由人工智能产生，公众也要辨清资讯来源，因为有图、有片、有声不代表有真相，公众应养成事实求证的习惯，不随便转发未确定真伪的资讯。
制订法例守则 标记AI内容

目前市场难找到针对本地场景去侦测网上有害或深伪资讯的现成方案，然而本地和内地的学术界别已在这些方面掌握先进技术。小组建议，本地与内地应更积极展开「官产学研用」（政府、生产、学习、科研、运用）的合作，并善用内地技术及人才优势，加快把先进技术落地和广泛应用，预早准备未来人工智能等新技术带来的挑战，以及进一步利用人工智能打击各类新型罪案。

要有效打击利用人工智能进行违法活动，制订法例和业界守则不可或缺。去年底，欧洲议会、欧洲理事会和欧盟委员会就《人工智能法案》达成协议，全球首部人工智能监管法规实施在望，法案订明必须清楚标签人工智能生成的内容，供应商亦须把有关内容标记为机器可阅读格式，以便被自动侦测；内地今年初也推出《生成式人工智能服务管理暂行办法》，规范内地生成式人工智能产业发展方向。

小组建议本港尽快制订法例及守则，规范企业研究人员发展和应用人工智能，包括提升使用生成式内容的透明度，例如标明深伪影像及聊天机械人、引用内容的出处等，以防止有关技术被不当使用或用作不法活动。
培训引入网安人才保障企业

小组也就近期本港多间企业和公营机构发生网络安全事故，探讨维护本港网络安全应从何做起，认为无论科技如何发展，网络安全是重中之重的基础。

小组成员同意香港的网络安全法例和合规标准有完善空间，以改变大部分企业和机构缺乏诱因做好自身网络安全措施的情况。面对不断演变的网络攻击手法，以及企业和机构进行数码转型，它们面对网络威胁的冲击日增，但因香港与全球先进地区均渴求网络安全人才，尤其是懂得落实执行企业网络安全框架的资深从业员，因此投入更多资源培训及引入相关人才是刻不容缓。

以新加坡为例子，当地法例强制规定企业的资讯及通讯科技（ICT）系统必须定期找合资格的网络安全服务商进行渗透测试。同时，为鼓励企业提升网络安全，当地政府为企业提供网络安全谘询和培训资源，此举可让企业为维护网络安全作好开支预算，也巩固当地网络安全行业的发展。

长远而言，小组认为政府必须立法规管企业采取适当措施维护网络安全，按照其网络安全风险级别提供相应程度的保护，并对因网络安全事故泄露个人资料、未有妥善维护网络安全或隐瞒安全事故等个案予以刑责或罚款。然而，有关法例出台前，小组建议政府推出先导计划，为各规模的企业订立不同等级的网络安全框架，并向达到框架要求的企业提供认可，以提升其形象和声誉，同时推动培养本地网络安全人才。

小组强调，唯有完善的网络安全政策，方能保护公众的数码资产安全，并帮助企业在网络威胁日增的环境下可持续发展。