文章標(biāo)題：Drag Queen vs. David Duke: Whose Tweets Are More 'Toxic'?
概括：
社交平臺如Facebook, Twitter, 和YouTube都加大投入研發(fā)自動(dòng)過濾有害內(nèi)容的AI，用于清理諸如歧視性言論、種族歧視言論等等。這類型的AI現(xiàn)階段主要依賴于對自然語言的分析。作者所帶領(lǐng)的研究團(tuán)隊(duì)InternetLab對其中一款由谷歌母公司投資的Jigsaw研發(fā)的AI科技——Perspecitve進(jìn)行測試，驗(yàn)證其是否能識別有害內(nèi)容（the toxicity of text-based content）。
團(tuán)隊(duì)選取了兩個(gè)群體的推特posts作為實(shí)驗(yàn)的樣本，這兩個(gè)群體分別是變裝皇后（drag queens）和極右政治人物（far-right political figures）。實(shí)驗(yàn)結(jié)果讓人吃驚：變黃皇后群體的內(nèi)容被標(biāo)示為“有害言論”的比例高于“極政治人物”，原因在于前者的推特用詞中經(jīng)常出現(xiàn)gay、lesbian、queer、bitch和transvertite。這些詞語被識別為“極具危害”，帶相關(guān)詞語的發(fā)言也就被視為有毒言論。作者指出，這個(gè)算法本身就已經(jīng)是具有偏見的。另外，作者團(tuán)隊(duì) 認(rèn)為現(xiàn)階段AI識別有害言論的缺陷在于，這類型技術(shù)只會(huì)識別字面意思，而不會(huì)解讀文字的隱含之意。例如，在drag queens群體，“bitch”一詞是有特殊含義的，并不如字面那樣是指責(zé)別人；相比較而言，極右政治人士的推特言論會(huì)出現(xiàn)用中性詞語來發(fā)表種族歧視的言論，AI技術(shù)卻不會(huì)把其標(biāo)為有害。
基于實(shí)驗(yàn)結(jié)果，作者擔(dān)心的是：如果偏見仍然內(nèi)置于Perspectives及其他相似的言論過濾AI技術(shù)，那么少數(shù)群體的言論就會(huì)因?yàn)楸灰暈橛泻?，而在網(wǎng)絡(luò)上被消掉，這就壓制少數(shù)群體的言論。
