IG用AI系统识别欺凌内容　遇关键字即警告

2019-12-17 14:51

为打击网络欺凌，社交平台Instagram（IＧ）宣布，利用人工智能（AI）系统侦测用户帖文有否包含语言爆力及冒犯的内容，提醒用户修改。有关功能陆续开放予不同地区用户，预计明年扩展至全球用户。不过，系统过度敏感，只要出现「肥」、「死」、「丑」等关键字，都会出现提示字句。

IG为加强反欺凌，运用AI工具检查并过滤用户帖文内容，如发现含有令人不悦或带有攻击性的内容，会出示提示未句，警告用户内容与其他被举报的文字相似，给予用户修改的机会。

类似的功能早在今年7月已开始，当时是针对用户的冒犯性的留言进行提示，现时只是将功能范围扩大至帖文内容。收到警告的用户，可选择修改留言或忽略警告。

开玩笑还是冒犯系统未能分辨

不过，IG的AI系统被网民批评过度敏感，只要侦测到相关字眼就会出现警告，未能分析整句文字的真正意思，笑指IG的人工智能系统不太聪明。

虽然香港仍未开放帖文辨识功能，但《星岛网》记者湾测试留言辨识功能时，发现即使在美食图片留下「肥死了」、「笑死人」、「丑死鬼」等开玩笑式留言，都会出现提示字句。

近年，IG陆续推出多项打击网络欺凌的功能，去年增设「限制」（Restrict）功能，允许用户选封锁个别帐户及禁止个别帐户留言。