IG用AI系統識別欺凌內容 遇關鍵字即警告

2019-12-17 14:51

Instagram利用人工智能(AI)系統偵測用戶帖文內容,打擊網絡欺凌。。
Instagram利用人工智能(AI)系統偵測用戶帖文內容,打擊網絡欺凌。。

為打擊網絡欺凌,社交平台Instagram(IG)宣布,利用人工智能(AI)系統偵測用戶帖文有否包含語言爆力及冒犯的內容,提醒用戶修改。有關功能陸續開放予不同地區用戶,預計明年擴展至全球用戶。不過,系統過度敏感,只要出現「肥」、「死」、「醜」等關鍵字,都會出現提示字句。

IG為加強反欺凌,運用AI工具檢查並過濾用戶帖文內容,如發現含有令人不悅或帶有攻擊性的內容,會出示提示未句,警告用戶內容與其他被舉報的文字相似,給予用戶修改的機會。

類似的功能早在今年7月已開始,當時是針對用戶的冒犯性的留言進行提示,現時只是將功能範圍擴大至帖文內容。收到警告的用戶,可選擇修改留言或忽略警告。

開玩笑還是冒犯   系統未能分辨  

不過,IG的AI系統被網民批評過度敏感,只要偵測到相關字眼就會出現警告,未能分析整句文字的真正意思,笑指IG的人工智能系統不太聰明。

雖然香港仍未開放帖文辨識功能,但《星島網》記者灣測試留言辨識功能時,發現即使在美食圖片留下「肥死了」、「笑死人」、「醜死鬼」等開玩笑式留言,都會出現提示字句。

近年,IG陸續推出多項打擊網絡欺凌的功能,去年增設「限制」(Restrict)功能,允許用戶選封鎖個別帳戶及禁止個別帳戶留言。

若留言「肥死人」亦會出現提示字句。
若留言「肥死人」亦會出現提示字句。

關鍵字

最新回應

關鍵字

相關新聞

You are currently at: 187235123.xyz
Skip This Ads
close ad
close ad