桑拿街論壇 - Powered by Discuz! Board

標題: IG用AI系統識別冒犯內容遇關鍵字即警告遭批過度敏感 [打印本頁]

作者: zoomam 時間: 2019-12-19 02:17 標題: IG用AI系統識別冒犯內容遇關鍵字即警告遭批過度敏感

系統未能分析整句文字的真正意思
為打擊網絡欺凌，社交平台Instagram（IＧ）宣布，利用人工智能（AI）系統偵測用戶貼文有否包含語言爆力及冒犯的內容，提醒用戶修改。有關功能陸續開放予不同地區用戶，預計明年擴展至全球用戶。不過，系統過度敏感，只要出現「肥」、「死」、「醜」等關鍵字，都會出現提示字句。

若留言「肥死人」亦會出現提示字句。

IG為加強反欺凌，運用AI工具檢查並過濾用戶帖文內容，如發現含有令人不悅或帶有攻擊性的內容，會出示提示未句，警告用戶內容與其他被舉報的文字相似，給予用戶修改的機會。
類似的功能早在今年7月已開始，當時是針對用戶的冒犯性的留言進行提示，現時只是將功能範圍擴大至帖文內容。收到警告的用戶，可選擇修改留言或忽略警告。

Instagram利用人工智能（AI）系統偵測用戶帖文內容，打擊網絡欺凌。

不過，IG的AI系統被網民批評過度敏感，只要偵測到相關字眼就會出現警告，未能分析整句文字的真正意思，笑指IG的人工智能系統不太聰明。
雖然香港仍未開放帖文辨識功能，但當測試留言辨識功能時，發現即使在美食圖片留下「肥死了」、「笑死人」、「醜死鬼」等開玩笑式留言，都會出現提示字句。
近年，IG陸續推出多項打擊網絡欺凌的功能，去年增設「限制」（Restrict）功能，允許用戶選封鎖個別帳戶及禁止個別帳戶留言。

歡迎光臨桑拿街論壇 (http://sauna-88.com/forum/)