打击科技罪案│ ChatGPT引起社会关注 警方顾问小组建议规范人工智能应用 并提出5大方向
2023-05-09 08:20 
人功智能软件ChatGPT近期引起社会的关注，开发人员输入海量数据，并可用人类自然对话方式进行互动，「科技罪案警政顾问小组」认为，人工智能技术将融入生活的各个领域，但其开发和使用须予适度监管，以确保不被滥用，或被犯罪分子利用作不法用途，并提出5大规范方向。
厘清法律责任
第一项是厘清法律责任，叶云龙表示，因人工智能协助使用者分析问题及执行指令，但假如过程中出现偏差，导致错误或损害，举例无人驾驶汽车发生交通意外，责任应由人工智能系统供应商、汽车生产商或驾驶者等承担？顾问小组建议订立法例，指明人工智能开发商和使用者的法律责任，以保障公众安全。
保护个人私稳
第二个方向是保护个人私稳，叶云龙指出，人工智能系统演算法可能对用户的安全带来隐忧，例如不法分子可以预计用户行踪、恶意结识用户进行诈骗等。现时《个人资料（私隐）条例》并没有覆盖个人资料以外的个人私隐资讯。顾问小组建议为资讯系统（包括物联网装置）收集、保留、保护、修正、删除个人私隐资讯订立监管框架，防止人工智能侵犯个人私隐。
确保公平资料来源
第三是确保公平资料来源，叶云龙表示，以ChatGPT为例，主要以训练英语场景为主，资料库可能偏向取材自英语为母语地区的内容，上述情况或会导致人工智能回应西方国家以外地区的问题时出现因文化差距，产生对种族、宗教或性别的歧视或偏差，顾问小组建议为人工智能开发商制订指引，加强人工智能系统演算法的透明度和解释性。
符合伦理标准
第四是符合伦理标准，叶云龙称，不法分子可利用人工智能系统降低犯罪成本，如撰写假新闻影响选举公平性、深度伪造语音和图像进行诈骗、撰写恶意程式进行网络攻击等。顾问小组建议政府应尽快就有关方面展开研究，例如要求人工智能系统产生的文字、声音、图像、影像易于被识别为由人工智能产生，以免公众产生混淆，堕入骗案。
保障知识产权
第五是保障知识产权，顾问小组建议为业界订立公平使用原则和版权收费机制，在适当的位置列名资料出处。多国已就人工智能实行规管，例如意大利率先宣布禁止使用ChatGPT、欧盟草拟多时的《人工智能法案》亦正进行审议，订立风险等级规管人工智能产品与服务的应用、国家互联网信息办公室日前也发布了《生成式人工智能服务管理办法（徵求意见稿）》，引导业界健康发展有关技术。
记者：郑华坤
---
《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ
最新回应