在現(xiàn)代人工智能領域，所有的話題似乎都離不開三位與加拿大大學有聯(lián)系的研究人員。

第一位是在多倫多大學任教的70歲英國人Geoffrey Hinton，他開創(chuàng)了被稱為“深度學習”的分支學科，如今已經(jīng)成為了人工智能的同義詞。第二位是57歲的法國人Yann LeCun，他在上世紀80年代在Hinton的實驗室工作，現(xiàn)在在紐約大學任教。第三位是54歲的Yoshua Bengio，出生在巴黎，在蒙特利爾長大，現(xiàn)在在蒙特利爾大學任教。這三個人是密友也是合作者，以至于人工智能領域的人都稱他們?yōu)?ldquo;加拿大黑手黨”。

不過，在2013年，Hinton加入了谷歌，F(xiàn)acebook也聘請了LeCun。兩人都保持著自己的學術地位并繼續(xù)教學，而Bengio在蒙特利爾大學建立了世界上最好的人工智能項目之一，他被認為是最后一個學術純粹主義者。

Bengio不是一個天生的實業(yè)家。他舉止非常謙遜，有一點駝背，看起來在電腦屏幕前呆了很長時間。雖然他為幾家公司提供咨詢服務，并且一直被邀請加入其中，但Bengio堅持要追求有激情的項目，而不是那些最有可能盈利的項目。

“你應該注意到了他的志向有多遠大，他的價值觀有多好，”他的朋友Alexandre Le Bouthillier說，他是一家名為Imagia的人工智能初創(chuàng)公司的聯(lián)合創(chuàng)始人。“科技領域的一些人忘記了人性的一面，但Yoshua沒有。他真的希望這個科學突破能夠幫助社會。”

 

 

然而，Bengio堅持的觀點已經(jīng)變成了一種孤獨的努力。亞馬遜、Facebook、谷歌和微軟等大型科技公司都在投資或收購新型初創(chuàng)企業(yè)，并且吸收大學里的頂尖人才，保證他們在人工智能領域的領導地位。華盛頓大學的人工智能教授Pedro Domingos說，他每年都會詢問學術聯(lián)系人，問他們是否有學生想申請博士后。他說，他最后一次問Bengio的時候，“他說，我甚至在畢業(yè)前就已經(jīng)留不住他們了。”Bengio受夠了這種狀況，想要阻止人才流失。

2015年9月一個溫暖的午后，Bengio和他的四個關系最好的同事在Le Bouthillier蒙特利爾的家中會面。這次會議本來是Bengio多年前成立的技術轉讓公司的戰(zhàn)略會議，但是Bengio對他的領域的未來感到深深的焦慮，他也認為是時候提出一些他一直在思考的問題了：是否有可能創(chuàng)建一個能夠幫助創(chuàng)業(yè)公司和大學的企業(yè)，而不是傷害它們——并且可能對整個社會有益?如果可以的話，那么這個企業(yè)能否在這個以科技為主導的世界里具有競爭力呢?

Bengio特別想聽聽他的朋友Jean-Fran?ois Gagné的觀點，他是一位精力充沛的連續(xù)創(chuàng)業(yè)者，比Bengio小15歲。Gagné早些時候把自己聯(lián)合創(chuàng)始的公司賣給了一家名為JDA Software的公司;在那里工作了三年之后，Gagné離開了這家公司，成為了加拿大風險投資公司Real Ventures的常駐企業(yè)家。在三個小時的會議結束，太陽開始下山的時候，他告訴Bengio和其他在場的人：“好吧，我要制定一個商業(yè)計劃。

那年冬天，Gagné和他的同事Nicolas Chapados蒙特利爾大學的小辦公室拜訪了Bengio。

他提議共同創(chuàng)立一家初創(chuàng)公司，為創(chuàng)業(yè)公司和其他資源不足的組織以及無力建立自己的AI部門的公司提供人工智能技術。這家初創(chuàng)公司的關鍵賣點將是，它擁有全球最具天賦的勞動力：它將支持Bengio實驗室和其他頂尖大學的研究人員每月為該公司工作幾個小時，同時保持他們的學術地位。這樣一來，企業(yè)就能以很低的價格獲得頂尖人才，大學也能留住他們的研究人員，而他們主要的客戶將有機會與更厲害的對手競爭。每個人都會受益，除了科技巨頭。

1

當Bengio和Gagné開始他們的討論時，最大的科技公司還沒有卷入備受矚目的AI倫理問題中——關于人工智能在軍事和預測性警務方面的有爭議的銷售，以及種族和其他偏見在產(chǎn)品中的體現(xiàn)——這些問題很快就會給他們帶來負面的影響。但即便如此，內(nèi)部人士也清楚地知道，大型科技公司正在部署人工智能，來擴充他們的實力和財富。

理解這一點需要知道人工智能與其他軟件有所不同。首先，世界上的人工智能專家相對較少，這意味著他們可以將薪水控制在六位數(shù);這使得建立一支由人工智能專家組成的龐大團隊，對除最富有的公司以外的所有人來說都過于昂貴。其次，人工智能通常比傳統(tǒng)軟件需要更高的計算能力，這可能是非常昂貴的，而且好的數(shù)據(jù)是很難獲得的，除非你碰巧是一個技術牛人，幾乎可以無限制地訪問這兩者。

Bengio說：“最近以來，人工智能的運作方式有些問題……這使得專業(yè)知識、財富和權利集中在了少數(shù)公司手里。”更好的資源會吸引更好的研究人員，這將帶來更好的創(chuàng)新，帶來更多的收入，從而可以繼續(xù)購買更多的資源。他補充道：“它似乎能夠自我壯大。”

Bengio最早與人工智能的接觸，預示著大型科技公司的崛起。20世紀70年代，他在蒙特利爾長大，特別喜歡科幻小說，像Philip K. Dick的《Do Androids Dream of Electric Sheep?》。在大學里，Bengio主修計算機工程;他在麥吉爾大學讀研究生時，偶然讀到了Geoff Hinton的一篇論文。他非常震驚，這讓他想起了他小時候深愛的科幻故事。“噢，天吶!這就是我想做的事情，”他后來回憶道。

 

 

多年以后，Bengio與Hinton和LeCun一起成為了深度學習領域的重要人物，這一領域涉及被稱為神經(jīng)網(wǎng)絡的計算機模型。但他們的研究充滿了錯誤的開始和被挫敗的野心。從理論上講，深度學習是有吸引力的，但在實踐中卻沒有人能使它發(fā)揮得很好。“多年來，在機器學習會議上，神經(jīng)網(wǎng)絡都不受歡迎，而Bengio堅持在他的神經(jīng)網(wǎng)絡上不停地工作，”科羅拉多大學的教授Mozer回憶道，“我當時想，可憐的Bengio，他太不入流了。”

在20世紀后期，研究人員開始意識到為什么深度學習效果不佳。訓練高水平的神經(jīng)網(wǎng)絡需要比之前更強的計算能力。此外，神經(jīng)網(wǎng)絡需要良好的數(shù)據(jù)才能學習，而在消費互聯(lián)網(wǎng)興起之前，它們還沒有足夠的數(shù)據(jù)可以用來學習。

到20世紀末，一切都發(fā)生了變化，很快，大型科技公司開始應用Bengio和他的同事們的技術來實現(xiàn)商業(yè)上的里程碑：語言翻譯、語音識別、人臉識別。當時，Bengio的兄弟Samy也在谷歌工作，他也是人工智能研究人員。Bengio很想跟隨他的兄弟和同事一起去硅谷，但在2016年10月，他、Gagné、Chapados和Real Ventures共同推出了自己的創(chuàng)業(yè)公司：Element AI。投資該公司的DCVC公司的管理合伙人Matt Ocko說：“在過去的五年里，Bengio在任何人工智能平臺上都沒有實質(zhì)性的所有權，除了Element AI。”“他以自己的名譽支持這家公司。”

為了贏得客戶，Element AI依賴于其研究人員的明星效應，其投資方的聲譽，以及承諾比大型科技公司更能提供個性化的服務。但該公司的高管們也站在另一個角度：在這個時代，谷歌競爭向軍方出售人工智能，F(xiàn)acebook曾傳出影響選舉的丑聞，亞馬遜正在吞噬全球經(jīng)濟，而Element AI將自己定位為一個不那么貪婪的、更合乎道德的人工智能公司。

2

從谷歌的員工對其向五角大樓提供人工智能的決定提出反抗，就能看出科技公司在軍事上使用人工智能技術的立場已經(jīng)成為了一種道德的試金石。Bengio和他的聯(lián)合創(chuàng)始人在早期就發(fā)誓永遠不會為了進攻的軍事目的而建造人工智能。

但今年早些時候，韓國研究型大學韓國科學技術院宣布，它將與韓國大型企業(yè)集團韓華(Hanwha)的防務部門合作，建立軍事系統(tǒng)。盡管Element AI與韓華有聯(lián)系，但Bengio還是簽署了一封公開信，抵制韓國研究所，直到它承諾“不會開發(fā)不由人類控制的自主武器”。Gagné還謹慎地寫信給韓華，強調(diào)Element不會與研發(fā)自主武器的公司合作。Gagné和科學家們很快得到了保證：韓國科學技術院和韓華不會這樣做。

自主武器既不是人工智能面臨的唯一道德挑戰(zhàn)，也不是最嚴重的挑戰(zhàn)。紐約大學教授Kate Crawford主要研究人工智能的社會影響。她寫道，對于人工智能會成為未來的威脅的所有“苦惱”，分散了人們對現(xiàn)有問題的注意力，因為“性別歧視、種族主義和其他形式的歧視正在被植入機器學習的算法中”。由于人工智能模型是根據(jù)工程師提供的數(shù)據(jù)進行訓練的，因此數(shù)據(jù)中的任何偏差都會對一個給定的模型帶來不好的影響。

Tay是由微軟在Twitter上發(fā)布的AI聊天機器人，目的是了解人類的對話方式，它很快就開始發(fā)表種族主義言論，比如“希特勒是對的”。微軟表示道歉，并將Tay撤銷，并表示正在努力解決數(shù)據(jù)中的歧視問題。谷歌的一個人工智能功能是根據(jù)自拍照來幫助用戶找到他們對應的藝術角色，而這一功能根據(jù)刻板印象把非裔美國人匹配成奴隸，把亞裔美國人匹配為斜眼睛的藝伎。這可能是由于人工智能在訓練時過度依賴于西方藝術作品。

像這樣的問題是由于全球范圍內(nèi)的偏見，但這并不能給人工智能領域帶來幫助。因為相比于白人和亞裔男性占主導地位的更廣泛的計算機科學界，人工智能領域的多樣性則更加不足。

 

 

Element AI 的員工中有33%為女性，領導崗位中有35%為女性，技術崗位中則有23%，這比許多大型科技公司的比例要高。Element AI的員工來自多于25個國家，但公司沒有按種族劃分員工，在我訪問期間，看到的主要是白人和亞裔，尤其是高層。

Bengio表示，他對目前的情況感到“羞愧”，并試圖解決這個問題，并擴大了招聘范圍，并且為來自弱勢群體的學生提供了資助。與此同時，Element新聘請了一位人事副總裁Anne Mezei，她將多樣性和包容性作為首要任務。為了解決其產(chǎn)品可能存在的倫理道德問題，Element正在聘請倫理學家作為研究員，與開發(fā)人員一起工作。

然而，道德挑戰(zhàn)依然存在。在早期的研究中，Element AI基于自己的數(shù)據(jù)開發(fā)了一些產(chǎn)品，例如，問答工具部分基于內(nèi)部共享文件進行訓練。運營主管Martel告訴我，由于Element AI管理人員不能確定如何道德地使用人工智能來進行面部識別，他們計劃通過安裝攝像頭來對自己的員工進行實驗，這些攝像頭將在員工的許可下，捕捉他們的面部表情。管理人員將對員工的感受進行調(diào)查，從而提高他們對道德維度的理解。 “我們想通過自己來解決這個問題，”Martel說。

Bengio相信科學家的工作就是繼續(xù)探索人工智能的發(fā)現(xiàn)。他說，政府應該更積極地監(jiān)管這一領域，同時使分配財富的方式更平等，投資于教育和社會保障網(wǎng)絡，以減輕人工智能帶來的不可避免的負面影響。華盛頓大學教授Domingos說：“我認為Bengio相信人工智能是可以合乎道德的，他的公司可以成為合乎道德的人工智能公司。”“但坦率地說，Bengio有點天真。很多技術人員都有點天真，他們有這種烏托邦式的觀點。”

Bengio不贊同這個描述。“作為科學家，我相信我們有責任與公民社會和政府接觸，”他說，“以我們所信仰的方式影響思想和心靈。”

3

 

 

盡管如此，Bengio可能比其他任何一個學者都有影響力，他培養(yǎng)了下一代研究人員。(他的一個兒子也成為了人工智能研究員;另一個成為了音樂家。)盡管他是Element的聯(lián)合創(chuàng)始人之一，但Bengio承認他并沒有在辦公室里花很多時間;他一直專注于人工智能研究的前沿領域，而這些領域遠不是商業(yè)應用。

盡管科技公司一直專注于讓人工智能更好地完成它所做的工作——識別模式并從中得出結論——但Bengio想要跳過這些基礎，并開始建造更受人類智能啟發(fā)的機器。他猶豫著，不愿描述那可能是什么樣子。但我們可以想象，在未來，機器不僅可以在倉庫中移動產(chǎn)品，還可以在現(xiàn)實世界中導航。他們不只是對命令做出反應，而是理解和同情人類。他們不僅會識別圖像，還會創(chuàng)造藝術。為了實現(xiàn)這一目標，Bengio一直在研究人類大腦是如何運作的。

雖然Bengio相信像人類一樣的人工智能是可能的，但他對埃隆·馬斯克等人所強調(diào)的關于機器會超越人類的道德?lián)鷳n感到不耐煩。Bengio更感興趣的是人類建造和使用人工智能的道德選擇，“最大的危險之一是人們會以不負責任的方式或者惡意的方式對待人工智能——我指的是為了他們的個人利益，”他曾經(jīng)在一次采訪中說。其他科學家也有Bengio這樣的感受，然而，隨著人工智能研究的繼續(xù)，它仍然由世界上最強大的政府、公司和投資者提供資金支持。Bengio的大學實驗室很大程度上是由大型科技公司資助的。

在一次關于大型科技公司的討論中，Bengio告訴我，“我們希望Element AI能像這些巨頭一樣大。”當我質(zhì)疑他是否會繼續(xù)保持他所譴責的那種財富和權力的集中時，他回答說：“這個想法不僅僅是創(chuàng)建一家公司，成為世界上最富有的人。這是為了改變世界，改變商業(yè)的運作方式，讓它不那么集中，讓它更民主。”

標簽： 谷歌 互聯(lián)網(wǎng) 網(wǎng)絡

版權申明：本站文章部分自網(wǎng)絡，如有侵權，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉載文章言論不代表本站觀點！
本站所提供的圖片等素材，版權歸原作者所有，如需使用，請與原作者聯(lián)系。