YouTube AI误将国际象棋“黑白”判定为种族歧视

拥有超过100万的订阅者,全球最大的与国际象棋有关的YouTube频道,在2020年6月突然以“发布有害危险的内容”为由被关闭。卡内基梅隆大学的计算机科学家通过调查发现,这一不可思议的频道关闭很有可能是由于“AI将国际象棋的黑白两字误认为是种族歧视”而导致的。

Agadmator是国际象棋选手。经营着一个YouTube频道,提供国际象棋比赛解说,并拥有超过100万的订阅者。2020年6月28日,国际象棋选手中村光(Hikaru Nakamura)是该频道的第五位大师,在发布了赢得冠军头衔的比赛解说视频后,YouTube突然关闭了该视频。

帐户和频道在24小时后恢复。Agadmator推测“这部视频只讲了国际象棋,但提及“白色”和“黑色”国际象棋可能被禁止了。另外,Agadmator先生说,账号恢复后,直到现在也没有解释为什么关闭频道的原因。

对此,卡内基梅隆大学的语言技术研究所的研究人员——KhudaBukhsh领导的某研究小组, 从五个与国际象棋相关的流行YouTube频道中提取了680,000条评论,并使用两种经过自动训练的AI进行了分类排序。

事实证明,当研究小组从被判定为仇恨言论的评论中随机抽取1000条评论并手动检查内容时,其中82%并没有表达恶意。此外,错误判断的评论还包括国际象棋世界中常用的术语,例如“白色”,“黑色”,“攻击”和“威胁”。

据KhudaBukhsh介绍,这种由AI造成的错误判断还有很多。例如,AI图像识别“懒惰的狗”和“活跃的狗”时,区分活跃的狗的照片多是广阔的草原为背景,因此只要有足够多的与绿色为背景的狗活动照片——则被判定的为“活跃”的案例很多。

Khuda Bukhsh说:“由于用于YouTube的AI系统学习的数据集包含很少的国际象棋案例,因此可能会发生错误分类。如果您检测种族主义语言,依赖AI,则可能会发生这些事故。”

相关文章

Leave a Comment