麻省理工學(xué)院研究發(fā)現(xiàn)，亞馬遜面部識(shí)別軟件Rekognition在性別識(shí)別中未能成功識(shí)別女性和膚色較深的女性，但卻成功識(shí)別了膚色較白的男性。亞馬遜員工和投資者已經(jīng)敦促亞馬遜停止向警方銷售此軟件。

亞馬遜面部識(shí)別軟件Rekognition向來飽受爭議，而如今這款軟件面臨著新的批判。麻省理工學(xué)院媒體實(shí)驗(yàn)室進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)，Rekognition可能存在性別歧視和種族偏見。

該軟件在識(shí)別女性和膚色較深女性時(shí)，性別識(shí)別能力尤為下降。在要對一些女性面孔進(jìn)行識(shí)別時(shí)，該軟件將其中19%的女性面孔錯(cuò)誤標(biāo)記為男性。而在識(shí)別膚色較深的女性面孔時(shí)，Rekognition的識(shí)別能力則更差——錯(cuò)將其中31%的女性面孔標(biāo)記為男性。相比之下，Rekognition對膚色較白的男性成功進(jìn)行了識(shí)別。

麻省理工學(xué)院發(fā)現(xiàn)，IBM和微軟開發(fā)的類似軟件的識(shí)別能力要比Rekognition更出色。具體而言，微軟開發(fā)的軟件僅把1.5%膚色較深的女性面孔識(shí)別為男性。

去年2月，麻省理工學(xué)院研究員喬伊• 伯拉姆維尼進(jìn)行了一項(xiàng)類似的研究。他發(fā)現(xiàn)，由IBM，微軟創(chuàng)建的面部分析軟件在種族和性別偏見方面都存在問題。該項(xiàng)研究引起了這些公司的強(qiáng)烈反對。隨后，微軟和IBM承諾重組其面部識(shí)別軟件，提高識(shí)別準(zhǔn)確度。與此同時(shí)，亞馬遜在研究結(jié)果發(fā)表后沒有做出任何改變。在美國科技網(wǎng)站Verge發(fā)表的一份聲明中，亞馬遜稱麻省理工的研究人員沒有使用其最新版本的Rekognition。

馬特•伍德是亞馬遜網(wǎng)絡(luò)服務(wù)深度學(xué)習(xí)和人工智能總經(jīng)理。他在一份聲明中表示，“根據(jù)通過使用面部分析而得到的結(jié)果，對任何用途(包括執(zhí)法)的面部識(shí)別準(zhǔn)確性得出結(jié)論，這都是不可能的。”

專家以及進(jìn)行上述報(bào)告的研究員警告稱，面部識(shí)別軟件如果仍然存在性別歧視和種族偏見的問題，可能導(dǎo)致種族貌相和其他不公正的后果。喬伊• 伯拉姆維尼和德博拉•拉吉認(rèn)為，除了修復(fù)軟件中的偏差以確保識(shí)別結(jié)果公正之外，還有更多的工作要完成。

據(jù)信，美國聯(lián)邦調(diào)查局即將對亞馬遜的Rekognition進(jìn)行測試，而亞馬遜已將其軟件出售給奧蘭多市和俄勒岡州華盛頓縣的執(zhí)法機(jī)構(gòu)，警方似乎正在利用該軟件檢查身份不明的嫌犯的照片，并對縣監(jiān)獄的照片數(shù)據(jù)庫進(jìn)行檢查。據(jù)信，亞馬遜還向美國移民海關(guān)執(zhí)法提供了這項(xiàng)技術(shù)。(實(shí)習(xí)編譯：王驛風(fēng) 審稿：李宗澤)

關(guān)鍵詞：