在現(xiàn)代人工智能領(lǐng)域，所有的話題似乎都離不開(kāi)三位與加拿大大學(xué)有聯(lián)系的研究人員。

第一位是在多倫多大學(xué)任教的70歲英國(guó)人Geoffrey Hinton，他開(kāi)創(chuàng)了被稱(chēng)為“深度學(xué)習(xí)”的分支學(xué)科，如今已經(jīng)成為了人工智能的同義詞。第二位是57歲的法國(guó)人Yann LeCun，他在上世紀(jì)80年代在Hinton的實(shí)驗(yàn)室工作，現(xiàn)在在紐約大學(xué)任教。第三位是54歲的Yoshua Bengio，出生在巴黎，在蒙特利爾長(zhǎng)大，現(xiàn)在在蒙特利爾大學(xué)任教。這三個(gè)人是密友也是合作者，以至于人工智能領(lǐng)域的人都稱(chēng)他們?yōu)?ldquo;加拿大黑手黨”。

不過(guò)，在2013年，Hinton加入了谷歌，F(xiàn)acebook也聘請(qǐng)了LeCun。兩人都保持著自己的學(xué)術(shù)地位并繼續(xù)教學(xué)，而B(niǎo)engio在蒙特利爾大學(xué)建立了世界上最好的人工智能項(xiàng)目之一，他被認(rèn)為是最后一個(gè)學(xué)術(shù)純粹主義者。

Bengio不是一個(gè)天生的實(shí)業(yè)家。他舉止非常謙遜，有一點(diǎn)駝背，看起來(lái)在電腦屏幕前呆了很長(zhǎng)時(shí)間。雖然他為幾家公司提供咨詢服務(wù)，并且一直被邀請(qǐng)加入其中，但Bengio堅(jiān)持要追求有激情的項(xiàng)目，而不是那些最有可能盈利的項(xiàng)目。

“你應(yīng)該注意到了他的志向有多遠(yuǎn)大，他的價(jià)值觀有多好，”他的朋友Alexandre Le Bouthillier說(shuō)，他是一家名為Imagia的人工智能初創(chuàng)公司的聯(lián)合創(chuàng)始人。“科技領(lǐng)域的一些人忘記了人性的一面，但Yoshua沒(méi)有。他真的希望這個(gè)科學(xué)突破能夠幫助社會(huì)。”

 

 

然而，Bengio堅(jiān)持的觀點(diǎn)已經(jīng)變成了一種孤獨(dú)的努力。亞馬遜、Facebook、谷歌和微軟等大型科技公司都在投資或收購(gòu)新型初創(chuàng)企業(yè)，并且吸收大學(xué)里的頂尖人才，保證他們?cè)谌斯ぶ悄茴I(lǐng)域的領(lǐng)導(dǎo)地位。華盛頓大學(xué)的人工智能教授Pedro Domingos說(shuō)，他每年都會(huì)詢問(wèn)學(xué)術(shù)聯(lián)系人，問(wèn)他們是否有學(xué)生想申請(qǐng)博士后。他說(shuō)，他最后一次問(wèn)Bengio的時(shí)候，“他說(shuō)，我甚至在畢業(yè)前就已經(jīng)留不住他們了。”Bengio受夠了這種狀況，想要阻止人才流失。

2015年9月一個(gè)溫暖的午后，Bengio和他的四個(gè)關(guān)系最好的同事在Le Bouthillier蒙特利爾的家中會(huì)面。這次會(huì)議本來(lái)是Bengio多年前成立的技術(shù)轉(zhuǎn)讓公司的戰(zhàn)略會(huì)議，但是Bengio對(duì)他的領(lǐng)域的未來(lái)感到深深的焦慮，他也認(rèn)為是時(shí)候提出一些他一直在思考的問(wèn)題了：是否有可能創(chuàng)建一個(gè)能夠幫助創(chuàng)業(yè)公司和大學(xué)的企業(yè)，而不是傷害它們——并且可能對(duì)整個(gè)社會(huì)有益?如果可以的話，那么這個(gè)企業(yè)能否在這個(gè)以科技為主導(dǎo)的世界里具有競(jìng)爭(zhēng)力呢?

Bengio特別想聽(tīng)聽(tīng)他的朋友Jean-Fran?ois Gagné的觀點(diǎn)，他是一位精力充沛的連續(xù)創(chuàng)業(yè)者，比Bengio小15歲。Gagné早些時(shí)候把自己聯(lián)合創(chuàng)始的公司賣(mài)給了一家名為JDA Software的公司;在那里工作了三年之后，Gagné離開(kāi)了這家公司，成為了加拿大風(fēng)險(xiǎn)投資公司Real Ventures的常駐企業(yè)家。在三個(gè)小時(shí)的會(huì)議結(jié)束，太陽(yáng)開(kāi)始下山的時(shí)候，他告訴Bengio和其他在場(chǎng)的人：“好吧，我要制定一個(gè)商業(yè)計(jì)劃。

那年冬天，Gagné和他的同事Nicolas Chapados蒙特利爾大學(xué)的小辦公室拜訪了Bengio。

他提議共同創(chuàng)立一家初創(chuàng)公司，為創(chuàng)業(yè)公司和其他資源不足的組織以及無(wú)力建立自己的AI部門(mén)的公司提供人工智能技術(shù)。這家初創(chuàng)公司的關(guān)鍵賣(mài)點(diǎn)將是，它擁有全球最具天賦的勞動(dòng)力：它將支持Bengio實(shí)驗(yàn)室和其他頂尖大學(xué)的研究人員每月為該公司工作幾個(gè)小時(shí)，同時(shí)保持他們的學(xué)術(shù)地位。這樣一來(lái)，企業(yè)就能以很低的價(jià)格獲得頂尖人才，大學(xué)也能留住他們的研究人員，而他們主要的客戶將有機(jī)會(huì)與更厲害的對(duì)手競(jìng)爭(zhēng)。每個(gè)人都會(huì)受益，除了科技巨頭。

1

當(dāng)Bengio和Gagné開(kāi)始他們的討論時(shí)，最大的科技公司還沒(méi)有卷入備受矚目的AI倫理問(wèn)題中——關(guān)于人工智能在軍事和預(yù)測(cè)性警務(wù)方面的有爭(zhēng)議的銷(xiāo)售，以及種族和其他偏見(jiàn)在產(chǎn)品中的體現(xiàn)——這些問(wèn)題很快就會(huì)給他們帶來(lái)負(fù)面的影響。但即便如此，內(nèi)部人士也清楚地知道，大型科技公司正在部署人工智能，來(lái)擴(kuò)充他們的實(shí)力和財(cái)富。

理解這一點(diǎn)需要知道人工智能與其他軟件有所不同。首先，世界上的人工智能專(zhuān)家相對(duì)較少，這意味著他們可以將薪水控制在六位數(shù);這使得建立一支由人工智能專(zhuān)家組成的龐大團(tuán)隊(duì)，對(duì)除最富有的公司以外的所有人來(lái)說(shuō)都過(guò)于昂貴。其次，人工智能通常比傳統(tǒng)軟件需要更高的計(jì)算能力，這可能是非常昂貴的，而且好的數(shù)據(jù)是很難獲得的，除非你碰巧是一個(gè)技術(shù)牛人，幾乎可以無(wú)限制地訪問(wèn)這兩者。

Bengio說(shuō)：“最近以來(lái)，人工智能的運(yùn)作方式有些問(wèn)題……這使得專(zhuān)業(yè)知識(shí)、財(cái)富和權(quán)利集中在了少數(shù)公司手里。”更好的資源會(huì)吸引更好的研究人員，這將帶來(lái)更好的創(chuàng)新，帶來(lái)更多的收入，從而可以繼續(xù)購(gòu)買(mǎi)更多的資源。他補(bǔ)充道：“它似乎能夠自我壯大。”

Bengio最早與人工智能的接觸，預(yù)示著大型科技公司的崛起。20世紀(jì)70年代，他在蒙特利爾長(zhǎng)大，特別喜歡科幻小說(shuō)，像Philip K. Dick的《Do Androids Dream of Electric Sheep?》。在大學(xué)里，Bengio主修計(jì)算機(jī)工程;他在麥吉爾大學(xué)讀研究生時(shí)，偶然讀到了Geoff Hinton的一篇論文。他非常震驚，這讓他想起了他小時(shí)候深?lèi)?ài)的科幻故事。“噢，天吶!這就是我想做的事情，”他后來(lái)回憶道。

 

 

多年以后，Bengio與Hinton和LeCun一起成為了深度學(xué)習(xí)領(lǐng)域的重要人物，這一領(lǐng)域涉及被稱(chēng)為神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)模型。但他們的研究充滿了錯(cuò)誤的開(kāi)始和被挫敗的野心。從理論上講，深度學(xué)習(xí)是有吸引力的，但在實(shí)踐中卻沒(méi)有人能使它發(fā)揮得很好。“多年來(lái)，在機(jī)器學(xué)習(xí)會(huì)議上，神經(jīng)網(wǎng)絡(luò)都不受歡迎，而B(niǎo)engio堅(jiān)持在他的神經(jīng)網(wǎng)絡(luò)上不停地工作，”科羅拉多大學(xué)的教授Mozer回憶道，“我當(dāng)時(shí)想，可憐的Bengio，他太不入流了。”

在20世紀(jì)后期，研究人員開(kāi)始意識(shí)到為什么深度學(xué)習(xí)效果不佳。訓(xùn)練高水平的神經(jīng)網(wǎng)絡(luò)需要比之前更強(qiáng)的計(jì)算能力。此外，神經(jīng)網(wǎng)絡(luò)需要良好的數(shù)據(jù)才能學(xué)習(xí)，而在消費(fèi)互聯(lián)網(wǎng)興起之前，它們還沒(méi)有足夠的數(shù)據(jù)可以用來(lái)學(xué)習(xí)。

到20世紀(jì)末，一切都發(fā)生了變化，很快，大型科技公司開(kāi)始應(yīng)用Bengio和他的同事們的技術(shù)來(lái)實(shí)現(xiàn)商業(yè)上的里程碑：語(yǔ)言翻譯、語(yǔ)音識(shí)別、人臉識(shí)別。當(dāng)時(shí)，Bengio的兄弟Samy也在谷歌工作，他也是人工智能研究人員。Bengio很想跟隨他的兄弟和同事一起去硅谷，但在2016年10月，他、Gagné、Chapados和Real Ventures共同推出了自己的創(chuàng)業(yè)公司：Element AI。投資該公司的DCVC公司的管理合伙人Matt Ocko說(shuō)：“在過(guò)去的五年里，Bengio在任何人工智能平臺(tái)上都沒(méi)有實(shí)質(zhì)性的所有權(quán)，除了Element AI。”“他以自己的名譽(yù)支持這家公司。”

為了贏得客戶，Element AI依賴于其研究人員的明星效應(yīng)，其投資方的聲譽(yù)，以及承諾比大型科技公司更能提供個(gè)性化的服務(wù)。但該公司的高管們也站在另一個(gè)角度：在這個(gè)時(shí)代，谷歌競(jìng)爭(zhēng)向軍方出售人工智能，F(xiàn)acebook曾傳出影響選舉的丑聞，亞馬遜正在吞噬全球經(jīng)濟(jì)，而Element AI將自己定位為一個(gè)不那么貪婪的、更合乎道德的人工智能公司。

2

從谷歌的員工對(duì)其向五角大樓提供人工智能的決定提出反抗，就能看出科技公司在軍事上使用人工智能技術(shù)的立場(chǎng)已經(jīng)成為了一種道德的試金石。Bengio和他的聯(lián)合創(chuàng)始人在早期就發(fā)誓永遠(yuǎn)不會(huì)為了進(jìn)攻的軍事目的而建造人工智能。

但今年早些時(shí)候，韓國(guó)研究型大學(xué)韓國(guó)科學(xué)技術(shù)院宣布，它將與韓國(guó)大型企業(yè)集團(tuán)韓華(Hanwha)的防務(wù)部門(mén)合作，建立軍事系統(tǒng)。盡管Element AI與韓華有聯(lián)系，但Bengio還是簽署了一封公開(kāi)信，抵制韓國(guó)研究所，直到它承諾“不會(huì)開(kāi)發(fā)不由人類(lèi)控制的自主武器”。Gagné還謹(jǐn)慎地寫(xiě)信給韓華，強(qiáng)調(diào)Element不會(huì)與研發(fā)自主武器的公司合作。Gagné和科學(xué)家們很快得到了保證：韓國(guó)科學(xué)技術(shù)院和韓華不會(huì)這樣做。

自主武器既不是人工智能面臨的唯一道德挑戰(zhàn)，也不是最嚴(yán)重的挑戰(zhàn)。紐約大學(xué)教授Kate Crawford主要研究人工智能的社會(huì)影響。她寫(xiě)道，對(duì)于人工智能會(huì)成為未來(lái)的威脅的所有“苦惱”，分散了人們對(duì)現(xiàn)有問(wèn)題的注意力，因?yàn)?ldquo;性別歧視、種族主義和其他形式的歧視正在被植入機(jī)器學(xué)習(xí)的算法中”。由于人工智能模型是根據(jù)工程師提供的數(shù)據(jù)進(jìn)行訓(xùn)練的，因此數(shù)據(jù)中的任何偏差都會(huì)對(duì)一個(gè)給定的模型帶來(lái)不好的影響。

Tay是由微軟在Twitter上發(fā)布的AI聊天機(jī)器人，目的是了解人類(lèi)的對(duì)話方式，它很快就開(kāi)始發(fā)表種族主義言論，比如“希特勒是對(duì)的”。微軟表示道歉，并將Tay撤銷(xiāo)，并表示正在努力解決數(shù)據(jù)中的歧視問(wèn)題。谷歌的一個(gè)人工智能功能是根據(jù)自拍照來(lái)幫助用戶找到他們對(duì)應(yīng)的藝術(shù)角色，而這一功能根據(jù)刻板印象把非裔美國(guó)人匹配成奴隸，把亞裔美國(guó)人匹配為斜眼睛的藝伎。這可能是由于人工智能在訓(xùn)練時(shí)過(guò)度依賴于西方藝術(shù)作品。

像這樣的問(wèn)題是由于全球范圍內(nèi)的偏見(jiàn)，但這并不能給人工智能領(lǐng)域帶來(lái)幫助。因?yàn)橄啾扔诎兹撕蛠喴崮行哉贾鲗?dǎo)地位的更廣泛的計(jì)算機(jī)科學(xué)界，人工智能領(lǐng)域的多樣性則更加不足。

 

 

Element AI 的員工中有33%為女性，領(lǐng)導(dǎo)崗位中有35%為女性，技術(shù)崗位中則有23%，這比許多大型科技公司的比例要高。Element AI的員工來(lái)自多于25個(gè)國(guó)家，但公司沒(méi)有按種族劃分員工，在我訪問(wèn)期間，看到的主要是白人和亞裔，尤其是高層。

Bengio表示，他對(duì)目前的情況感到“羞愧”，并試圖解決這個(gè)問(wèn)題，并擴(kuò)大了招聘范圍，并且為來(lái)自弱勢(shì)群體的學(xué)生提供了資助。與此同時(shí)，Element新聘請(qǐng)了一位人事副總裁Anne Mezei，她將多樣性和包容性作為首要任務(wù)。為了解決其產(chǎn)品可能存在的倫理道德問(wèn)題，Element正在聘請(qǐng)倫理學(xué)家作為研究員，與開(kāi)發(fā)人員一起工作。

然而，道德挑戰(zhàn)依然存在。在早期的研究中，Element AI基于自己的數(shù)據(jù)開(kāi)發(fā)了一些產(chǎn)品，例如，問(wèn)答工具部分基于內(nèi)部共享文件進(jìn)行訓(xùn)練。運(yùn)營(yíng)主管Martel告訴我，由于Element AI管理人員不能確定如何道德地使用人工智能來(lái)進(jìn)行面部識(shí)別，他們計(jì)劃通過(guò)安裝攝像頭來(lái)對(duì)自己的員工進(jìn)行實(shí)驗(yàn)，這些攝像頭將在員工的許可下，捕捉他們的面部表情。管理人員將對(duì)員工的感受進(jìn)行調(diào)查，從而提高他們對(duì)道德維度的理解。 “我們想通過(guò)自己來(lái)解決這個(gè)問(wèn)題，”Martel說(shuō)。

Bengio相信科學(xué)家的工作就是繼續(xù)探索人工智能的發(fā)現(xiàn)。他說(shuō)，政府應(yīng)該更積極地監(jiān)管這一領(lǐng)域，同時(shí)使分配財(cái)富的方式更平等，投資于教育和社會(huì)保障網(wǎng)絡(luò)，以減輕人工智能帶來(lái)的不可避免的負(fù)面影響。華盛頓大學(xué)教授Domingos說(shuō)：“我認(rèn)為Bengio相信人工智能是可以合乎道德的，他的公司可以成為合乎道德的人工智能公司。”“但坦率地說(shuō)，Bengio有點(diǎn)天真。很多技術(shù)人員都有點(diǎn)天真，他們有這種烏托邦式的觀點(diǎn)。”

Bengio不贊同這個(gè)描述。“作為科學(xué)家，我相信我們有責(zé)任與公民社會(huì)和政府接觸，”他說(shuō)，“以我們所信仰的方式影響思想和心靈。”

3

 

 

盡管如此，Bengio可能比其他任何一個(gè)學(xué)者都有影響力，他培養(yǎng)了下一代研究人員。(他的一個(gè)兒子也成為了人工智能研究員;另一個(gè)成為了音樂(lè)家。)盡管他是Element的聯(lián)合創(chuàng)始人之一，但Bengio承認(rèn)他并沒(méi)有在辦公室里花很多時(shí)間;他一直專(zhuān)注于人工智能研究的前沿領(lǐng)域，而這些領(lǐng)域遠(yuǎn)不是商業(yè)應(yīng)用。

盡管科技公司一直專(zhuān)注于讓人工智能更好地完成它所做的工作——識(shí)別模式并從中得出結(jié)論——但Bengio想要跳過(guò)這些基礎(chǔ)，并開(kāi)始建造更受人類(lèi)智能啟發(fā)的機(jī)器。他猶豫著，不愿描述那可能是什么樣子。但我們可以想象，在未來(lái)，機(jī)器不僅可以在倉(cāng)庫(kù)中移動(dòng)產(chǎn)品，還可以在現(xiàn)實(shí)世界中導(dǎo)航。他們不只是對(duì)命令做出反應(yīng)，而是理解和同情人類(lèi)。他們不僅會(huì)識(shí)別圖像，還會(huì)創(chuàng)造藝術(shù)。為了實(shí)現(xiàn)這一目標(biāo)，Bengio一直在研究人類(lèi)大腦是如何運(yùn)作的。

雖然Bengio相信像人類(lèi)一樣的人工智能是可能的，但他對(duì)埃隆·馬斯克等人所強(qiáng)調(diào)的關(guān)于機(jī)器會(huì)超越人類(lèi)的道德?lián)鷳n感到不耐煩。Bengio更感興趣的是人類(lèi)建造和使用人工智能的道德選擇，“最大的危險(xiǎn)之一是人們會(huì)以不負(fù)責(zé)任的方式或者惡意的方式對(duì)待人工智能——我指的是為了他們的個(gè)人利益，”他曾經(jīng)在一次采訪中說(shuō)。其他科學(xué)家也有Bengio這樣的感受，然而，隨著人工智能研究的繼續(xù)，它仍然由世界上最強(qiáng)大的政府、公司和投資者提供資金支持。Bengio的大學(xué)實(shí)驗(yàn)室很大程度上是由大型科技公司資助的。

在一次關(guān)于大型科技公司的討論中，Bengio告訴我，“我們希望Element AI能像這些巨頭一樣大。”當(dāng)我質(zhì)疑他是否會(huì)繼續(xù)保持他所譴責(zé)的那種財(cái)富和權(quán)力的集中時(shí)，他回答說(shuō)：“這個(gè)想法不僅僅是創(chuàng)建一家公司，成為世界上最富有的人。這是為了改變世界，改變商業(yè)的運(yùn)作方式，讓它不那么集中，讓它更民主。”

標(biāo)簽： 谷歌 互聯(lián)網(wǎng) 網(wǎng)絡(luò)

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。