關(guān)鍵要點

•  數(shù)據(jù)公民受到由數(shù)據(jù)科學(xué)家創(chuàng)建的模型、方法和算法的影響，但他們能夠?qū)�這些工具施加影響的方式卻非常有限。

•  數(shù)據(jù)科學(xué)倫理可以利用現(xiàn)有領(lǐng)域的概念框架來指導(dǎo)如何處理道德問題，比如公民學(xué)。

•  數(shù)據(jù)科學(xué)家也是數(shù)據(jù)公民。他們也會受到數(shù)據(jù)科學(xué)工具的影響，但同時也在構(gòu)建這些工具。通常情況下，這些角色發(fā)生沖突的地方，正是人們了解發(fā)展道德體系重要性的突破口。

•  確保數(shù)據(jù)公民權(quán)利的一種模式可能是為數(shù)據(jù)科學(xué)尋求與律師和立法者同等水平的道德實踐透明度。

•  與之前的其他道德運動一樣，尋求更好的環(huán)境保護(hù)或更公平的工作條件、大規(guī)模實現(xiàn)新的權(quán)利和責(zé)任需要進(jìn)行大量的游說和宣傳。

我不是數(shù)據(jù)科學(xué)家，但我仍然關(guān)心數(shù)據(jù)科學(xué)道德。我關(guān)心它的原因與我關(guān)心公民學(xué)的原因相同：我不是律師或立法者，但法律正影響著我的生活，讓我想知道該如何有效地成為一個公民。數(shù)據(jù)公民正受到由數(shù)據(jù)科學(xué)家創(chuàng)建的模型、方法和算法的影響，但他們能夠?qū)�這些工具施加影響的方式卻非常有限。數(shù)據(jù)公民必須向數(shù)據(jù)科學(xué)家提出嚴(yán)正聲明，以確保他們的數(shù)據(jù)得到合乎道德的利用。數(shù)據(jù)科學(xué)倫理學(xué)是一個新領(lǐng)域，我們似乎需要重新發(fā)明所有的工具和方法，以便從頭開始開發(fā)這個領(lǐng)域。事實是，我們可以利用現(xiàn)有領(lǐng)域的概念框架——比如公民學(xué)——來創(chuàng)建構(gòu)建數(shù)據(jù)倫理所需的一些新工具、方法、流程和程序。

“法律”和“數(shù)據(jù)科學(xué)”都是具有不確定邊界和層次結(jié)構(gòu)的概念。我已經(jīng)意識到了這一點，但在本文中，我會假設(shè)它們屬于同一概念，而不是由不同部分拼湊在一起的東西。

 

 

在公民生活中，公民有影響立法者和律師決策的權(quán)利。盡管這些系統(tǒng)并不完美，反映了不平等的社會權(quán)力結(jié)構(gòu)，但公民的這些權(quán)利確實是存在的。在公民生活中，我們可以為我們認(rèn)為最能代表我們的政黨和個人(他們代表了我們對如何制定和實施法律的看法)投票。我們可以請愿和游說，表達(dá)我們的意見。如果這些都不奏效了，我們可以進(jìn)行抗議游行，還可以通過調(diào)查和訴訟來尋求補(bǔ)救。

然而，在數(shù)據(jù)公民的世界中，這些權(quán)利沒有明確的定義。即使想要發(fā)現(xiàn)偏見也可能極具挑戰(zhàn)性，因為很多數(shù)據(jù)科學(xué)成果都是專有知識。對于那些沒有資源進(jìn)行大規(guī)模研究的人來說，這些情況可能沒有那么明顯，比如招聘算法會在無意中導(dǎo)致惡性貧乏循環(huán)，或者犯罪風(fēng)險評估軟件在評估風(fēng)險方面表現(xiàn)很差，但在區(qū)分人類種族方面卻很擅長，或者翻譯軟件會在翻譯中暗示性別傾向，但原文可能并不包含任何性別傾向。

當(dāng)然，這些都是被公開發(fā)現(xiàn)和研究過的例子，還有很多其他例子沒有引起注意或沒有受到質(zhì)疑。在“Weapons of Math Destruction”一書中，作者Cathy O’Neil描述了一個年輕人，他因為無法通過性格測試而一直被雇主拒絕。O’Neil指出，這些測試認(rèn)為候選人不合適，但它們從未得到關(guān)于被拒絕候選人是否可以勝任其他崗位的反饋，也就是說，并沒有確鑿的證據(jù)表明這類測試是否有效。所幸的是，這位年輕人的父親是一名律師，他對在招聘中使用這類性格測試提出了質(zhì)疑。通過這樣一個不公平的案例，這位律師就能夠為所有人爭取更平等的待遇。要認(rèn)識到這種反復(fù)出現(xiàn)的障礙(未能通過性格測試)可能是歧視的證據(jù)，需要具備專業(yè)的知識，但這不是每個人都具備的。

O’Neil在她的書出版后不久參加了InfoQ的播客節(jié)目，她明確指出，量刑算法“等同于一種法律”，它們可被視為一種“數(shù)字算法法律”。與法律的其他部分不同，因為人們根本無法了解這些算法的工作原理。即使人們明確知道這些“法律細(xì)則”，但他們卻不知道該如何追索這些算法對他們進(jìn)行的“審判”或?qū)λ麄冏龀龅念A(yù)測。O’Neil認(rèn)為，作為數(shù)據(jù)公民，我們都應(yīng)該得到“……與法律相同的保護(hù)，基本上這是符合憲法精神的。我們應(yīng)該有權(quán)利知道規(guī)則是什么，對于這些強(qiáng)大的算法來說也是一樣的“。對于在判決、招聘及其他方面應(yīng)用由偏見的算法，O’Neil指出，”機(jī)器學(xué)習(xí)算法不會問’為什么’……它只會尋找模式并重復(fù)它們……如果我們有一個不完美的系統(tǒng)，并且把它自動化，我們就會重復(fù)過去的錯誤“。數(shù)字系統(tǒng)并不會讓一切更加公平，但數(shù)據(jù)公民(通常是數(shù)據(jù)科學(xué)家)通常認(rèn)為系統(tǒng)化的結(jié)果會更客觀。但事實不是這樣的，O’Neil說。

這個三角模型中的角色存在重疊：立法者也是公民，數(shù)據(jù)科學(xué)家也可能被糟糕的算法錯誤分類。通常情況下，在這些角色發(fā)生沖突的地方，正是人們對發(fā)展數(shù)據(jù)科學(xué)道德實以及發(fā)展數(shù)據(jù)科學(xué)道德所需手段做出充分理解的突破口。在播客中，O’Neil指出，“數(shù)據(jù)科學(xué)家在工作期間必須做出道德決定，即使他們不承認(rèn)這一點(他們通常不會承認(rèn))”。幫助數(shù)據(jù)科學(xué)家認(rèn)識到他們的責(zé)任對于協(xié)商數(shù)據(jù)公民與數(shù)據(jù)科學(xué)之間的關(guān)系來說至關(guān)重要，或許我們可以以數(shù)據(jù)科學(xué)家本身也會受到自動化決策影響為例，因為他們其實也是數(shù)據(jù)公民。

那么，作為數(shù)據(jù)公民，我們?nèi)绾巫層绊懳覀兊?ldquo;數(shù)據(jù)科學(xué)”更有效更公平呢?第一步可能是要為數(shù)據(jù)科學(xué)爭取與律師和立法者同等水平的透明度。GDPR在某種程度上將數(shù)據(jù)公民的權(quán)利編入法典，并懲罰違反這些權(quán)利的組織。而對于數(shù)據(jù)科學(xué)，有四個關(guān)鍵的條款。它們是：

首先，數(shù)據(jù)訪問權(quán)利，數(shù)據(jù)主體有權(quán)了解如何以及基于什么樣的目的處理他們的個人數(shù)據(jù)，并有權(quán)獲得數(shù)據(jù)的副本。

第二，被遺忘的權(quán)利，個人可以要求刪除他們的數(shù)據(jù)，不再與第三方共享。

第三，數(shù)據(jù)可移植性，個人可能會要求將其數(shù)據(jù)傳輸?shù)搅硪粋�處理器上。

最后，隱私設(shè)計不再只是一個行業(yè)上的設(shè)計概念，而是法律提出的要求。

這些權(quán)利將影響數(shù)據(jù)科學(xué)家設(shè)計模型的方式。數(shù)據(jù)可能發(fā)生變更，因為人們會要求刪除其數(shù)據(jù)或者使用最少量的數(shù)據(jù)來構(gòu)建模型，所以在開發(fā)數(shù)據(jù)科學(xué)工具時需要考慮這些新的因素。

除了GDPR之外，數(shù)據(jù)科學(xué)界也對編撰道德法則進(jìn)行過很多嘗試。開放數(shù)據(jù)研究所的數(shù)據(jù)倫理畫布就是一個例子，Gov.uk的數(shù)據(jù)科學(xué)倫理框架是另一個例子，公共科學(xué)圖書館的“可靠大數(shù)據(jù)研究的十個簡單規(guī)則”是第三個例子。Cathy O’Neil的ORCAA咨詢服務(wù)現(xiàn)在也提供算法審計，微軟和Facebook等大型技術(shù)公司也正致力于開發(fā)審計工具包。埃森哲是最早推出公平原型工具的公司之一，該工具旨在識別和修復(fù)存在于算法中的偏見。然而，要讓工具真正發(fā)揮作用，“你的公司還需要有一種道德文化”，埃森哲道德AI主管Rumman Chowdhury說。否則公司會很容易就忽視該工具提出的建議，并繼續(xù)施行有偏見的做法。

大多數(shù)數(shù)據(jù)公民都不是數(shù)據(jù)科學(xué)家，當(dāng)數(shù)據(jù)科學(xué)家決定使用特定代碼庫或調(diào)整某個變量的權(quán)重時，我們也并非能夠?qū)Υ俗鞒龅赖聦徟械娜恕Ｔ陂_發(fā)模型時，我們不會選擇要包含哪些信息以及要忽略哪些信息。但我們能做的就是讓自己熟悉錯誤的例子，并找出原因，以及那些進(jìn)展順利的例子。我們可以基于這些例子批判性地審視我們與數(shù)據(jù)的交互方式，特別是當(dāng)數(shù)據(jù)被用于制定有關(guān)我們的決策時。但是有些人扮演著兩種角色：數(shù)據(jù)科學(xué)家知道由其他人在他們的領(lǐng)域所做出的道德決策將如何影響他們自己、他們的家人、他們的朋友，以及使用他們服務(wù)的數(shù)據(jù)公民。作為這些系統(tǒng)的創(chuàng)建者，數(shù)據(jù)科學(xué)家有責(zé)任和手段用好這些數(shù)據(jù)。

與之前的其他道德運動一樣，尋求更好的環(huán)境保護(hù)或更公平的工作條件、大規(guī)模實現(xiàn)新的權(quán)利和責(zé)任需要進(jìn)行大量的游說和宣傳。所幸的是，像doteveryone和Coed:Ethics這樣的團(tuán)體正在努力向政府和公司施加壓力，以便創(chuàng)建一個擁有更公平算法的世界。

Caitlin McDonald將在7月份于倫敦舉行的Coed:Ethics大會上討論算法對公民的影響，這是第一次從開發(fā)人員的角度討論技術(shù)倫理的會議。

關(guān)于作者

Caitlin E McDonald博士是一位屢獲殊榮的學(xué)者，也是一位數(shù)字社區(qū)和數(shù)據(jù)科學(xué)方面的作家。她擁有定性和定量研究方法的經(jīng)驗，專注于人類想象力與數(shù)字系統(tǒng)的交叉研究。Caitlin于2011年獲得了�？巳�特大學(xué)博士學(xué)位，專注于研究文化和藝術(shù)社區(qū)如何適應(yīng)日益全球化的世界。

標(biāo)簽： 大數(shù)據(jù) 大數(shù)據(jù)研究 代碼

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。