警方科罪專家小組 研AI打擊深偽騙術

警務處與12位來自不同界別的專家及領袖成立的科技罪案警政顧問小組（「小組」）於去年底舉行了第4次會議，專題探討如何打擊網上有害資訊和惡意深偽（deepfake）資訊。小組認為，公眾教育是辨識有害資訊的關鍵之一，香港的網絡安全法例和合規標準也有完善的空間，建議本地與內地更積極展開「官產學研用」（政府、生產、學習、科研、運用）的合作，進一步利用人工智能偵測通過深偽技術進行詐騙等新型罪案。
社交媒體和網上討論區已成為不少人獲取資訊的主要來源，但網上有海量資訊，要及時監察並找出詐騙等有害資訊，不少社交平台和機構也依靠人工智能及大語言模型為基礎的工具識別，再以專人輔助判斷，然而透過機器學習和人工智能 （AI） 技術生成極像真圖像、聲音和影片的深偽技術急速發展，現時一般家用電腦、手機也可憑一張相片或一段聲帶製作幾可亂真的深偽視頻或音頻。
AI辨別難度增 有圖有片無真相

因此，更多不法分子以此進行詐騙、發布失實資訊、製造社會輿論等，警方去年8月便拘捕6人，涉嫌利用深偽技術製造虛假身份證明文件以向銀行申請貸款。雖然深偽內容難以利用肉眼和耳朵識別，不過近年業界積極研究以人工智能偵測深偽影像，在特定測試場景已達至超過7成準確率，但深偽技術不斷優化，令「以AI偵測AI」的難度日增。

小組認為，公眾教育是辨識有害資訊的關鍵之一，無論影像、聲音、文字是否由人工智能產生，公眾也要辨清資訊來源，因為有圖、有片、有聲不代表有真相，公眾應養成事實求證的習慣，不隨便轉發未確定真偽的資訊。
制訂法例守則 標記AI內容

目前市場難找到針對本地場景去偵測網上有害或深偽資訊的現成方案，然而本地和內地的學術界別已在這些方面掌握先進技術。小組建議，本地與內地應更積極展開「官產學研用」（政府、生產、學習、科研、運用）的合作，並善用內地技術及人才優勢，加快把先進技術落地和廣泛應用，預早準備未來人工智能等新技術帶來的挑戰，以及進一步利用人工智能打擊各類新型罪案。

要有效打擊利用人工智能進行違法活動，制訂法例和業界守則不可或缺。去年底，歐洲議會、歐洲理事會和歐盟委員會就《人工智能法案》達成協議，全球首部人工智能監管法規實施在望，法案訂明必須清楚標籤人工智能生成的內容，供應商亦須把有關內容標記為機器可閱讀格式，以便被自動偵測；內地今年初也推出《生成式人工智能服務管理暫行辦法》，規範內地生成式人工智能產業發展方向。

小組建議本港盡快制訂法例及守則，規範企業研究人員發展和應用人工智能，包括提升使用生成式內容的透明度，例如標明深偽影像及聊天機械人、引用內容的出處等，以防止有關技術被不當使用或用作不法活動。
培訓引入網安人才保障企業

小組也就近期本港多間企業和公營機構發生網絡安全事故，探討維護本港網絡安全應從何做起，認為無論科技如何發展，網絡安全是重中之重的基礎。

小組成員同意香港的網絡安全法例和合規標準有完善空間，以改變大部分企業和機構缺乏誘因做好自身網絡安全措施的情況。面對不斷演變的網絡攻擊手法，以及企業和機構進行數碼轉型，它們面對網絡威脅的衝擊日增，但因香港與全球先進地區均渴求網絡安全人才，尤其是懂得落實執行企業網絡安全框架的資深從業員，因此投入更多資源培訓及引入相關人才是刻不容緩。

以新加坡為例子，當地法例強制規定企業的資訊及通訊科技（ICT）系統必須定期找合資格的網絡安全服務商進行滲透測試。同時，為鼓勵企業提升網絡安全，當地政府為企業提供網絡安全諮詢和培訓資源，此舉可讓企業為維護網絡安全作好開支預算，也鞏固當地網絡安全行業的發展。

長遠而言，小組認為政府必須立法規管企業採取適當措施維護網絡安全，按照其網絡安全風險級別提供相應程度的保護，並對因網絡安全事故洩露個人資料、未有妥善維護網絡安全或隱瞞安全事故等個案予以刑責或罰款。然而，有關法例出台前，小組建議政府推出先導計劃，為各規模的企業訂立不同等級的網絡安全框架，並向達到框架要求的企業提供認可，以提升其形象和聲譽，同時推動培養本地網絡安全人才。

小組強調，唯有完善的網絡安全政策，方能保護公眾的數碼資產安全，並幫助企業在網絡威脅日增的環境下可持續發展。