不可否认,互联网上充斥着仇恨和侮辱性的内容。特别是,有些人把社交媒体视为一个滥用的平台。Instagram推出了一个新功能,如果你的头衔被滥用,它会警告你。最棒的是,它甚至会在发布字幕前警告你。
Instagram宣布,它已经开始引入一种新工具,该工具将通知用户字幕是否具有冒犯性。这是为了帮助用户重新考虑他们发布的内容,或者在某些情况下,以不被滥用的方式重建标题。
这个功能是由在幕后工作的人工智能支持的。它可以标记“可能冒犯”的词语,并自动为用户提供“编辑字幕”的选项。此外,用户还可以选择“无论如何都要分享”来“了解更多”或覆盖字幕。
作为我们领导打击在线欺凌的长期承诺的一部分,我们开发并测试了可以识别Instagram上不同形式欺凌的人工智能。今年早些时候,我们推出了一项功能,可以在人们发表评论之前将其视为冒犯。结果令人鼓舞,我们发现这些类型的微调可以鼓励人们在有机会时重新考虑他们的话。
从现在开始,每当用户为一个帖子输入标题,AI都会检测到并提示他们编辑标题。首先,新功能有望对用户进行网络欺凌教育,降低用户被屏蔽的风险。在屏蔽辱骂字幕方面,极有可能减轻Instagram的负担。