2018年12月18日，歐盟人工智能高級別專家組(AI HLEG)正式向社會發(fā)布了一份人工智能道德準則草案(DRAFT ETHICS GUIDELINES FOR TRUSTWORTHY AI，以下簡稱草案)，該草案被視為是歐洲制造“可信賴人工智能”的討論起點。

草案共37頁，第一章通過闡述人工智能應(yīng)該遵守的基本權(quán)利、原則和價值觀，試圖確保人工智能的道德目的。根據(jù)第一章所闡述的原則，第二章給出了實現(xiàn)“可信賴人工智能”的準則和詳細要求，既涉及道德目的，也涉及技術(shù)穩(wěn)健性，既有技術(shù)層面的要求，也有非技術(shù)層面的要求。第三章則為“可信賴人工智能”提供了一張具體但非窮盡的評估列表。

草案指出，其提出的準則并非旨在取代任何形式的政策和規(guī)章，同時，這些準則應(yīng)該被視為活文件，需要定期更新以適應(yīng)技術(shù)發(fā)展的需求。

目前，草案處于征集意見階段，征集時間將于2019年1月18日截止。據(jù)悉，該草案將于2019年3月提交到歐盟委員會。

這份草案首先為“可信賴人工智能”提出了一個官方解釋。草案認為，“可信賴人工智能”有兩個必要的組成部分：首先，它應(yīng)該尊重基本權(quán)利、規(guī)章制度、核心原則及價值觀，以確保“道德目的”，其次，它應(yīng)該在技術(shù)上強健且可靠，因為即使有良好的意圖，缺乏對技術(shù)的掌握也會造成無意的傷害。

圍繞這兩大要素，草案給出了“可信賴人工智能”的框架。草案強調(diào)，其目的不是給出另一套人工智能的價值和原則列表，而在于為人工智能系統(tǒng)提供具體實施和操作層面的指導(dǎo)。

草案的一大亮點在于其特辟一個章節(jié)討論人工智能所引發(fā)的爭議性問題。這些問題引起了歐盟人工智能高級別專家組的激烈討論且尚未在組內(nèi)達成一致意見。

位于列表第一的爭議性問題是“未經(jīng)知情同意的識別”。有跡象表明利用人臉識別對公民進行監(jiān)控的情況開始在歐洲出現(xiàn)。不久前，英國警方宣布，他們正在倫敦對圣誕節(jié)的購物者們進行人臉識別的測試。人工智能中的人臉識別等技術(shù)使得公共或私人組織能夠有效的識別個人。草案認為，“為了維護歐洲公民的自主權(quán)，人工智能的這一使用需要得到適當?shù)目刂?rdquo;。具體而言，區(qū)分個體識別與個體跟蹤、目標監(jiān)視與大規(guī)模監(jiān)視對于實現(xiàn)“可信賴人工智能”至關(guān)重要。

另一個專家組熱議的話題是“隱蔽的人工智能系統(tǒng)”。發(fā)展人工智能的其中一種目標是建立像人一樣的系統(tǒng)，但越來越像人的人工智能系統(tǒng)卻會給人類帶來了困擾。草案認為，一個人必須總是知道他是在與人類還是機器進行交流，這一點也應(yīng)是AI開發(fā)和管理人員的職責。專家組提出，人們“應(yīng)當牢記，人與機器之間的混淆會產(chǎn)生多種后果，比如依戀、影響或降低作為人的價值。因此，人形機器人和機器人的發(fā)展應(yīng)經(jīng)過仔細的道德評估。”

“致命自主武器系統(tǒng)”也是專家組重要關(guān)切之一。草案稱，目前有數(shù)量未知的國家正在研發(fā)自主武器系統(tǒng)。這些武器系統(tǒng)中有能夠選擇性瞄準的導(dǎo)彈，還有具認知能力、可在無人為干預(yù)的情況下決定作戰(zhàn)對象、時間和地點的學習機器等。專家組認為這會引起不可控的軍備競賽。

對于以上這些爭議話題，草案給出了一個關(guān)鍵性指導(dǎo)準則。首先是AI的開發(fā)、部署和使用應(yīng)以人為中心，須反應(yīng)公民的福利、無害、人類自主、爭議和可解釋性等社會價值觀和道德原則。其次是評估AI對人類及其共同利益的可能影響，尤其需要注意兒童、殘障人士和少數(shù)群體等弱勢群體的情況。第三是人們需要承認并意識到人工智能在為個人和社會帶來實質(zhì)性好處的同時也可能產(chǎn)生負面影響，人們需要“對嚴重關(guān)切的領(lǐng)域保持警惕”。

報告如下

 

標簽：

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。