人工智能與大數(shù)據(jù)能否糾正人類(lèi)種族歧視？

• 2018年7月19日 ZhangHongYuan來(lái)源：新浪科技 871 54
• 繁體

• 

  2018-2023年中國(guó)人工智能技術(shù)應(yīng)用行業(yè)深度分析及投資風(fēng)險(xiǎn)預(yù)測(cè)報(bào)告

  與早期人工智能相比，新一代人工智能正在全新信息環(huán)境、海量數(shù)據(jù)基礎(chǔ)和持續(xù)演進(jìn)、不斷豐富的戰(zhàn)略目標(biāo)的引領(lǐng)下，依托于云計(jì)算、大數(shù)據(jù)兩大基礎(chǔ)平臺(tái)和機(jī)器學(xué)習(xí)、模式識(shí)別和人機(jī)交互三大通用技術(shù)，...

我們對(duì)大數(shù)據(jù)的使用是會(huì)糾正我們的偏見(jiàn)，還是會(huì)讓情況更加糟糕?

美國(guó)科學(xué)雜志nautil.us《鸚鵡螺》作者Aaron M. Bornstein近日發(fā)表了討論人工智能與大數(shù)據(jù)能否糾正人類(lèi)種族歧視的深度報(bào)道。盡管人工智能設(shè)計(jì)者和數(shù)據(jù)工程師可能沒(méi)有類(lèi)似種族歧視的偏見(jiàn)，但大數(shù)據(jù)從業(yè)者都明白，用于提供定制服務(wù)的大型數(shù)據(jù)集不可避免地包含豐富詳細(xì)的信息，包括具有受保護(hù)屬性的膚色、性別、性取向和政治取向等。算法在這些數(shù)據(jù)的基礎(chǔ)上做出的決定可以隱蔽地打開(kāi)這些屬性，既令人難以察覺(jué)，又是不道德的。

以下為文章全文：

我們對(duì)大數(shù)據(jù)的使用是會(huì)糾正我們的偏見(jiàn)，還是會(huì)讓情況更加糟糕?

“我們不知道顧客是什么樣的，”亞馬遜公司負(fù)責(zé)全球通訊公關(guān)的副總裁克雷格·伯曼(Craig Berman)在接受彭博新聞社采訪時(shí)說(shuō)道。伯曼是在回應(yīng)有人對(duì)亞馬遜的當(dāng)日送達(dá)服務(wù)歧視有色人種的指控。從字面上看，伯曼的辯護(hù)是誠(chéng)實(shí)的：亞馬遜在選擇當(dāng)日送達(dá)的區(qū)域時(shí)是根據(jù)成本和收益因素，例如家庭收入和送達(dá)的可及性。但是，這些因素是通過(guò)郵政編碼匯總起來(lái)的，因此會(huì)受到其他塑造了——并將繼續(xù)塑造——文化地理學(xué)的因素的影響。查看當(dāng)日送達(dá)的服務(wù)地圖，很難讓人不注意到其與膚色的對(duì)應(yīng)關(guān)系。

這樣的地圖讓人想起了羅伯特·摩斯(Robert Moses)，這位城市規(guī)劃大師在數(shù)十年時(shí)間里塑造了現(xiàn)代紐約城及周邊郊區(qū)大部分的基礎(chǔ)設(shè)施。然而，他備受爭(zhēng)議的一點(diǎn)是不希望窮人，尤其是窮苦的有色人群，使用他在長(zhǎng)島上建造的新公園和海灘。盡管摩斯曾努力促成了禁止公共汽車(chē)在高速公路上行駛的法律，但他知道，這條法律遲早有一天會(huì)被廢除。因此，他建造了更加持久的東西：幾十個(gè)高度很低，公共汽車(chē)無(wú)法通行的天橋，將歧視真正地具體化。這一決定，以及其他幾十個(gè)類(lèi)似的決定都影響深遠(yuǎn)而持久。幾十年后，關(guān)于公共汽車(chē)的法律已經(jīng)廢除，但沿著高速公路排列的城鎮(zhèn)依然像從前一樣隔離著。“法律總是可以修改的，”摩斯說(shuō)，“但一座橋建好以后，就很難拆掉了。”

今天，在受到原有結(jié)構(gòu)影響的數(shù)據(jù)基礎(chǔ)上，這樣的隔離又重現(xiàn)了。盡管新基礎(chǔ)設(shè)施的設(shè)計(jì)者可能沒(méi)有類(lèi)似的不良意圖，但他們也不能自稱(chēng)對(duì)這些設(shè)施的影響毫不知情。大數(shù)據(jù)從業(yè)者都明白，亞馬遜和其他公司用于提供定制服務(wù)的大型數(shù)據(jù)集不可避免地包含豐富詳細(xì)的信息，包括具有受保護(hù)屬性的膚色、性別、性取向和政治取向等。算法在這些數(shù)據(jù)的基礎(chǔ)上做出的決定可以隱蔽地打開(kāi)這些屬性，既令人難以察覺(jué)，又是不道德的。

凱特·克勞福德在微軟研究院從事算法偏見(jiàn)的研究，并且是“AI Now”計(jì)劃的合作創(chuàng)立者。這項(xiàng)研究關(guān)注的是如今在使用人工智能系統(tǒng)時(shí)所面臨的危險(xiǎn)。她提出了一個(gè)算法公平性的基本問(wèn)題，即算法可以在多大程度上理解它們所使用數(shù)據(jù)的社會(huì)和歷史背景?！澳憧梢宰屢粋€(gè)人類(lèi)操作者去嘗試考慮數(shù)據(jù)本身代表人類(lèi)歷史的方式，”克勞福德說(shuō)，“但如何訓(xùn)練機(jī)器來(lái)做到這一點(diǎn)呢?”不能以這種方式理解背景的機(jī)器最多只能傳遞制度化的歧視，即所謂的“偏見(jiàn)入，偏見(jiàn)出”(bias in， bias out)。

糾正這些隱性歧視的努力不足，可能會(huì)讓事情變得更糟。克勞福德的同事、康奈爾大學(xué)的索倫·巴洛卡斯觀察到，終端用戶會(huì)“不加批判地接受供應(yīng)商的聲明”，即算法中已經(jīng)消除了偏見(jiàn)。在那些普遍存在偏見(jiàn)的應(yīng)用場(chǎng)合，比如司法系統(tǒng)中，情況尤其如此。對(duì)于這些地方，號(hào)稱(chēng)更客觀的機(jī)器具有非常大的吸引力。剝離算法中的偏見(jiàn)還要求認(rèn)可某個(gè)關(guān)于公平的主觀定義，同時(shí)不理會(huì)其他定義，但被選擇的定義往往是最容易量化的，而不是最公平的。

然而，雖然有著種種缺陷，但找出并對(duì)抗數(shù)據(jù)和算法中的偏見(jiàn)也會(huì)帶來(lái)一些機(jī)會(huì)——能以新的方式使偏見(jiàn)的輪廓呈現(xiàn)在我們面前。

COMPAS的預(yù)測(cè)偏見(jiàn)

COMPAS是美國(guó)各地法院使用的一款軟件，可以根據(jù)被告人對(duì)137個(gè)調(diào)查問(wèn)題的回答，評(píng)估他們重新犯罪的可能性。評(píng)估結(jié)果將被用于指導(dǎo)保釋決定。

COMPAS的調(diào)查問(wèn)卷并不涉及膚色、遺產(chǎn)甚至郵政編碼，但確實(shí)提出了諸如被告人是否居住在一個(gè)“犯罪很多”的街區(qū)，以及他們是否難以找到“超過(guò)最低工資”的工作等問(wèn)題。這些問(wèn)題更適合向社會(huì)提出，而非針對(duì)個(gè)人。請(qǐng)注意問(wèn)題中的偏見(jiàn)：答案與種族等受保護(hù)的屬性有關(guān)，意味著算法可以學(xué)習(xí)有效地“發(fā)現(xiàn)”數(shù)據(jù)中的這些屬性。然而，推出COMPAS的Northpointe公司宣稱(chēng)，他們已經(jīng)對(duì)該軟件進(jìn)行了校準(zhǔn)，使其對(duì)再次被捕的預(yù)測(cè)準(zhǔn)確性與膚色無(wú)關(guān)。

2015年，ProPublica的記者開(kāi)始利用佛羅里達(dá)州布勞沃德縣一位COMPAS用戶的公開(kāi)記錄來(lái)驗(yàn)證這一說(shuō)法。他們發(fā)現(xiàn)，當(dāng)COMPAS預(yù)測(cè)被告再次被捕的風(fēng)險(xiǎn)很高，并且之后確實(shí)再次被捕時(shí)，其預(yù)測(cè)確實(shí)在最直接意義上是無(wú)關(guān)膚色的。但是，當(dāng)COMPAS預(yù)測(cè)不準(zhǔn)確時(shí)(要么預(yù)測(cè)的再次被捕沒(méi)有發(fā)生，要么沒(méi)有做出實(shí)際再次被捕的預(yù)測(cè))，它通常會(huì)低估白人再犯的可能性，并高估黑人再犯的可能性。換句話說(shuō)，它在一組統(tǒng)計(jì)數(shù)據(jù)中隱藏的偏見(jiàn)，在另一組統(tǒng)計(jì)數(shù)據(jù)中呈現(xiàn)了出來(lái)。

ProPublica在一篇文章中報(bào)道了這一發(fā)現(xiàn)，文章副標(biāo)題是“全國(guó)各地都使用軟件來(lái)預(yù)測(cè)未來(lái)的罪犯，而它對(duì)黑人存有偏見(jiàn)”。Northpointe公司對(duì)他們的評(píng)價(jià)提出了異議，并對(duì)文中的論點(diǎn)進(jìn)行了再次統(tǒng)計(jì)分析，以作為回應(yīng)。Northpointe公司將爭(zhēng)論從錯(cuò)誤率的差異轉(zhuǎn)移到另一個(gè)事實(shí)，即風(fēng)險(xiǎn)分?jǐn)?shù)反映了一個(gè)真實(shí)而普遍的情況：未來(lái)再次被捕的非裔美國(guó)人被告確實(shí)更多。該公司指出，這意味著非裔美國(guó)人作為一個(gè)人群具有較高的風(fēng)險(xiǎn)得分并不奇怪。

Northpointe公司的中心論點(diǎn)有一個(gè)本質(zhì)性的謬誤：因?yàn)樵谟?xùn)練數(shù)據(jù)集中，被警察歸類(lèi)為非裔美國(guó)人的人會(huì)更頻繁地再次被捕，所以他們宣稱(chēng)COMPAS有理由預(yù)測(cè)其他被警察歸為非裔美國(guó)人的人——即使在不同城市、州和時(shí)間段——更有可能再次被捕。在數(shù)據(jù)中進(jìn)行分類(lèi)的結(jié)果又作用于分類(lèi)本身，這讓人不禁想起W·E·B·杜波依斯(W.E.B。 Dubois)在1923年所下的定義，“黑人就是在佐治亞州必須乘坐吉姆·克勞公交車(chē)的人”[吉姆·克勞(Jim Crow)原是19世紀(jì)初一個(gè)劇目中黑人角色的名字，后來(lái)成為“黑鬼”的貶義詞，之后美國(guó)南方針對(duì)黑人的種族隔離法案被稱(chēng)為吉姆·克勞法，而吉姆·克勞的公交車(chē)指1960年代之前美國(guó)南方各州在公交車(chē)上實(shí)行的種族隔離]。

雖然這段插曲展示了算法決策帶來(lái)的許多危險(xiǎn)，但也引發(fā)了一系列學(xué)術(shù)研究，得到了一個(gè)令人驚訝的結(jié)論：為一個(gè)被告指定風(fēng)險(xiǎn)評(píng)分的做法需要在“公平”一詞的兩種不相容的定義之間進(jìn)行權(quán)衡。而且，這種權(quán)衡是普遍的?！叭魏螆?zhí)行這一過(guò)程的系統(tǒng)都將面臨這種挑戰(zhàn)，”康奈爾大學(xué)的計(jì)算機(jī)科學(xué)教授喬恩·克萊因伯格說(shuō)，“無(wú)論它是一個(gè)算法系統(tǒng)，還是人類(lèi)決策者。”

克萊因伯格及其同事發(fā)表了一篇論文，證明Northpointe公司和ProPublica對(duì)公平的兩種定義在數(shù)學(xué)上是不相容的。用術(shù)語(yǔ)來(lái)說(shuō)，他們展示了預(yù)測(cè)性平價(jià)(無(wú)論黑人和白人被告是否有相同的風(fēng)險(xiǎn)評(píng)分總體準(zhǔn)確率)和錯(cuò)誤率平衡(無(wú)論兩個(gè)人群是否以相同方式獲得錯(cuò)誤的風(fēng)險(xiǎn)評(píng)分)之間是相互排斥的。當(dāng)任何兩個(gè)人群之間的測(cè)量結(jié)果——在COMPAS中是再次被捕的概率——具有不同的基礎(chǔ)比率時(shí)，如果應(yīng)用相同的標(biāo)準(zhǔn)，就必然會(huì)對(duì)較高基礎(chǔ)比率的人群產(chǎn)生偏見(jiàn)誤差。“‘校準(zhǔn)’正是導(dǎo)致這一問(wèn)題的原因，”克萊因伯格說(shuō)道。任何使用風(fēng)險(xiǎn)評(píng)分的系統(tǒng)——機(jī)器算法或人類(lèi)機(jī)構(gòu)——都是如此，無(wú)論是使用哪些因素來(lái)生成。

延伸閱讀

推薦閱讀

猜您喜歡