編者按：為了防止有朝一日人工智能的發(fā)展會顛覆人類，包括 Elon Musk、Reid Hoffman 等諸位美國創(chuàng)新型科技行業(yè)的風云人物共同出資超過 10 億美元，于 12月12日 宣布成立一家非營利的獨立研究機構——OpenAI。該組織想要實現(xiàn)人工智能最先進的形態(tài)，并將研究結果向公眾公開。Medium 專欄作家 Steven Levy 為此采訪了 OpenAI 的領導者，看他們?nèi)绾蚊枋鲞@個計劃和它的未來愿景。
本文轉載自微信訂閱號“新智元”，編譯作者為王婉婷和王嘉俊。特此感謝。您可關注“新智元”（Al_era）了解更多人工智能最前沿資訊。
為了追求人工智能最先進的形態(tài)并將研究結果向公眾公開，他們資助了一個新成立的組織，OpenAI。
像是 AI 領域的競爭還不夠激烈一樣——要知道 Google、Facebook、Microsoft 之類的巨頭，甚至還有 Toyota 這樣的汽車公司，都在急匆匆地招募研究人員——現(xiàn)在又有了一個新的組織渴求研究者，但又有一些不同之處。
它是一個非營利性的合資組織，叫做 “OpenAI”。今天它被宣布成立，宣稱將會向公眾公開它所有的研究成果，并且授予它所有的專利買斷式授權（royalty-free，譯者注：用來宣告一項具有版權、專利或著作權的產(chǎn)品能（永久或特定時段）被使用而不需要支付權利金或執(zhí)照費（License fee），來自維基百科）。這一切都是為了確保有朝一日計算機超越人類智力的可怕前景，將不會變得像一些人恐懼的反烏托邦（dystopia）那樣讓人絕望。OpenAI 的資金來自于一群科技行業(yè)的權威，包括 Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及 Amazon 云服務。他們承諾，將在未來很長一段時間內(nèi)向這個組織投入總共超過 10 億美元的資金。這個組織的聯(lián)合董事長分別是 Elon Musk 和 Sam Altman（Y Combinator 的 CEO）。
眾所周知，Musk 是 AI 的批判者，他加入這樣一個組織并不讓人意外。但 Y Combinator 是什么？沒錯，這就是那家 10年 前從一個夏季計劃中脫胎而出的科技孵化器，當時以給 “拉面工資”、然后反饋美食建議的形式資助了 6 家初創(chuàng)企業(yè)，通過這種方式讓它們能夠快速擴張自己的業(yè)務。從那時起，YC 已經(jīng)幫助創(chuàng)立了接近 1000 家公司，包括 Dropbox、Airbnb、以及 Stripe，并在最近設立了一個研究部門。過去的 2年 間，YC 一直由 Altman 領導著。他的公司 Loopt 曾經(jīng)是 2005年YC 初創(chuàng)時孵化的公司之一，在 2012年 他以 4340 萬美元的價格出售了這家公司。雖然 YC 和 Altman 都是 OpenAI 的創(chuàng)始人，并且 Altman 還擔任了聯(lián)合董事長的職務，但是 OpenAI 的確是一個與這些公司無關的、獨立的合資組織。
本質上，OpenAI 是一個研究實驗室，旨在削減兩類組織的力量：包括因為擁有營利的超級智能系統(tǒng)（super-intelligence systems）而可能獲得過多力量的大型組織，以及可能使用 AI 來獲取力量甚至用來壓迫本國公民的政府機構。這可能聽上去非常唐吉坷德，但這個團隊已經(jīng)募集到了一批精英，包括 Stripe 前 CTO Greg Brockman（他將擔任 OpenAI 的 CTO）以及世界一流的研究者 Ilya Sutskever。Ilya Sutskever 曾經(jīng)為 Google 工作過，是在多倫多接受神經(jīng)網(wǎng)絡先驅 Geoff Hinton 指導的年輕科學家團隊的一員。他將擔任 OpenAI 的研究主管。其他的人馬還有一群頂尖的天賦很高的年輕人，他們的簡歷中囊括了主要的學術團體、Facebook AI 以及 Google 在 2014年 收購的 AI 公司 DeepMind。OpenAI 還有一個星光熠熠的顧問委員會，頂尖的計算機科學家 Alan Kay 也名列其中。
OpenAI 的領導者們對我描述了這個計劃和它的未來愿景。整個采訪是分成兩部分進行的，首先是與 Altman 的對話，然后是與 Altman、Musk、以及 Brockman 一起討論的部分。我將整個訪談融合在一起，編輯成了簡要清晰的格式。
這一切是怎么來的？
Sam Altman：我們大約是在一個半月以前啟動 YC 研究部門的，但我一直以來都在思考 AI 的問題，Elon 也是。如果你想想對于世界的未來而言哪些東西最重要，我覺得一個善良的 AI（good AI）可能是這張列表上首當其沖的幾項之一。所以我們創(chuàng)立了 OpenAI。這個組織正在嘗試研發(fā)出一種對人類友好的 AI（human positive AI）。而且因為它是一個非營利性組織，全世界都能享用它的研究成果。
Elon Musk：就像你知道的那樣，我對 AI 有所顧慮已經(jīng)有一段時間了。我和 Sam，和 Reid [Hoffman]，和 Peter Thiel，還有其他人，談了許多次。我們在思考，“有沒有某種方法可以確保——或者提升——AI 以有益的方式發(fā)展的概率？” 作為幾次談話的結果，我們得出了創(chuàng)立一個 501c3 組織的結論（譯者注：501 (c) 是美國國內(nèi)稅收法（Internal Revenue Code, IRC）中的一項條款（美國國內(nèi)稅收法, § 501 (c)），列出了 26 種享受聯(lián)邦所得稅 （federal Income tax）減免的非營利組織，501 (c)(3) 為宗教、教育、慈善、科學、文學、公共安全測試 （Testing for public safety）、促進業(yè)余體育競爭和防止虐待兒童或動物等七個類型的組織，來自維基百科）：一家非營利性組織，不具有讓利潤最大化的義務，可能會是一件不錯的事情。同時，我們也會對安全性非常重視。
那么從哲學的角度上來說就有了一個重要的元素：我們希望 AI 能被廣泛傳播。有兩種流派的思想——你是想要 AI 的數(shù)量很多，還是很少？我們認為可能數(shù)量多是一件好事。而且從你可以將它作為人類意愿的延伸這個方面來看，這也是一件好事。
人類意愿？
Musk：就像你自身有一個 AI 的延伸部分，每個人在本質上都與 AI 共生、而不是 AI 作為一個與你無關的大型中央智能（large central intelligence）。想象一下你將會怎么使用，比如說網(wǎng)絡上的應用：你可以收發(fā)郵件、玩轉社交媒體、你的手機上還有許多其它 app——它們讓你變成了一個能做很多事的超人，而你并不會認為它們是與你無關的，你會覺得它們是你的延伸。所以我們想要盡力引導 AI 往這個方向發(fā)展。我們已經(jīng)找到了一些和我們有相似理念的 AI 領域的工程師和研究者。
Altman：我們認為 AI 發(fā)展的最好方式就是，它應該是關于讓個人變得強大、讓人類的生活變得更好的東西，對于所有人來說都是免費的，而不是一個比其他人類強大一百萬倍的精英。因為我們并不是一個比如 Google 那樣的追求盈利的公司，我們可以不用關注于如何讓股東們財源滾滾，而是關注于對于人類未來而言，我們相信的、在實際上最好的東西。
Google 不是也將它的進展與公眾分享嗎？比如它最近在機器學習領域做的那樣
Altman：他們的確與公眾分享了許多研究成果。隨著時間過去，隨著我們逐漸接近那種超越人類智能的東西，Google 還會與公眾分享多少成果是值得懷疑的。
你們在 OpenAI 中研究的東西不是也會超越人類智能嗎？
Altman：我預期它會，但是它會是開源的，任何人都能使用，而不是只能被，比如說 Google，來使用。這個團體研發(fā)的任何東西都將對所有人開放。如果你拿去以后做了一些改變、讓它適應其他用途，你也不會有義務要和公眾分享你的成果。但是只要是我們做的任何工作，都會對所有人開放。
如果我是邪惡博士（Dr. Evil），我利用了它，那么你們不就是在助紂為虐嗎？
Musk：我想這是一個很精彩的問題，我們?yōu)檫@個爭論過不少次。
Altman：關于這個問題有一些不同的思路。就像科幻作品中用 “大部分人類都是善良的，而人類的集體力量中可能有一些邪惡的元素” 的事實來對抗邪惡博士那樣，我們認為，比起一個單獨的比其他任何東西都強大無數(shù)倍的 AI，許多許多的 AI 致力于阻止偶爾出現(xiàn)的邪惡 AI，這種可能性要大得多。如果那個強大無比的 AI 脫離了人類掌控，或者邪惡博士得到了它、沒有東西能與它抗衡，那么我們就真的落到了很糟糕的境地。
對于 OpenAI 公布的東西，你們會有監(jiān)管嗎？
Altman：我們的確希望能夠隨著時間建立起監(jiān)管機制。一開始將只有 Elon 和我。我們距離實際開發(fā)出真正的 AI 還有很長很長的距離。但我想我們將會有足夠的時間來建立監(jiān)管的機制。
Musk：我確實想要將一些時間花在這個團隊上，大概會是每周在辦公室花上一兩個下午的時間來了解研究進展、提供我的想法和反饋，對于 AI 的現(xiàn)狀和我們是否在接近一種危險的東西有一些更深的理解。我個人將會對安全性極其敏感，我對這個問題有許多顧慮。如果我們看到了某種我們認為在安全性上有風險的東西，我們會將其公之于眾。
什么是邪惡的人工智能（Bad AI），能舉個例子么？
Altman：實際上，邪惡的人工智能基本都和科幻小說描繪的差不多，但像終結者那樣的人工智能技術，還需要一段時間才能出現(xiàn)。我在短期內(nèi)絲毫不擔心它們。不過有一件事我的確認為是挑戰(zhàn)：自動化的普及，以及工作被機器人取代。另一個邪惡的人工智能例子是，人工智能程序能夠像黑客那樣進入電腦，而且這方面要遠比人類強大。這些事現(xiàn)在已經(jīng)發(fā)生了。
你的系統(tǒng)已經(jīng)建立好了嗎？
Altman：還沒有，開始會像研究實驗室那樣，而且在長期的時間里，也都會以這樣的形式存在。現(xiàn)在我們還不知道怎么去建造這個系統(tǒng)。從第一天開始，我們有了 8 名研究者，未來幾個月還會有更多人加入。現(xiàn)在他們會使用 YC 孵化器的辦公空間，當他們逐漸成長后才會搬出去獨立辦公。他們也會不斷演練想法，編寫程序來看是否能加速現(xiàn)在人工智能技術的進展。
組織外的人，可以加入到項目中么？
Altman：當然可以了。我們把項目以完全開放的形式進行，自由分享信息，這樣的好處是能和任何人合作。你很難和 Google 的員工合作，因為他們有一大堆保密條款。
Sam，既然 Open AI 會最早入駐 YC 孵化器，你的創(chuàng)業(yè)公司們會參與到 Open AI 的工作么？（更正：Altman 現(xiàn)在告訴我說，辦公室會在舊金山。）
Altman：如果 OpenAI 的確開發(fā)了不錯的技術，而且所有人都可以免費使用并造福于科技公司。不過也僅僅是這樣了。但我們會詢問 YC 孵化器的公司們，在自愿的情況下開放合適的數(shù)據(jù)給 OpenAI。Elon Musk 也在考慮 Tesla 和 Space X 公司能分享哪些數(shù)據(jù)。
你們會分享什么類型的數(shù)據(jù)？
Altman：這有很多。例如說所有的 Reddit 數(shù)據(jù)都會是非常有用的訓練集。你也可以想象，所有的特斯拉自動駕駛視頻也會變得很有價值。大量的數(shù)據(jù)的確很重要。如果你思考人類如何變得聰明，當你讀書的時候，你變得聰明，當我讀書的時候，我變得聰明。但是我并不會因為你讀書而變得聰明，反過來也一樣。但是使用特斯拉作為例子，當一輛特斯拉學會新的習慣，那么所有的特斯拉都會立刻從它的智能獲得收益。
Musk：實話說我們并沒有非常詳細的專門計劃，因為它還處在公司非常初創(chuàng)的階段。這是一種萌芽期的狀態(tài)。但確信的是，特斯拉會有大量的數(shù)據(jù)，關于真實世界的數(shù)據(jù)，因為我們的輪子每年都會積累幾百萬的公里數(shù)。也許特斯拉相比世界上任何其他的公司，都有更多的真實世界數(shù)據(jù)。
【Elon Musk & YC 專訪】如何防止人工智能顛覆 ？
Tesla CEO 和產(chǎn)品架構師 Elon Musk，YC 孵化器主席 Sam Altman
AI 需要大量的計算能力。你們打算怎么部署基礎設施？
Altman：我們正和亞馬遜云服務合作，他們?yōu)轫椖烤璜I了大量的基礎設施服務。
你們要向項目投資 10 億美元？
Musk：我得說最后的資金投資會超過 10 億美元。我們并不想出具詳細的資金來源統(tǒng)計分析，但是我們在博客中提到了為項目做出杰出貢獻的人。
這個項目會持續(xù)多久？
Altman：這取決于它需要多長時間建立起來。我們會盡可能的節(jié)儉，但這也許是幾十年的項目，需要很多人參與，也需要很多的硬件設施。
而你們不需要去賺錢？
Musk：對的。這不是利益取向的投資。也許它未來能夠產(chǎn)生收入，就像斯坦福實驗室 501c3 項目一樣。所以未來也許會有收入，但不會有利潤給股份持有者分紅，也不會有股票價格或其他任何可以獲利的東西。我們認為這樣會比較好。
Elon，你在早些時間投資了人工智能公司 DeepMind，而現(xiàn)在似乎是相同的理由，來確保人工智能受到監(jiān)督。然后 Google 收購了 DeepMind，這是你的第二次嘗試么？
Musk：我得強調(diào)，我并不是通常意義的投資者。我不尋求投資和財務上的回報。我給自己參與創(chuàng)立的公司投資，有時候是出于幫助朋友，有時候是因為我的信仰，也有的時候是因為我關心的事情。我并不是出于分散風險或者物質意義上的考慮。不過，我對 DeepMind 所謂的投資，不過是為了更好的理解人工智能，并且能夠時刻看到它的進展。
你們現(xiàn)在要和 DeepMind、Facebook 和微軟競爭最好的科研人員么？
Altman：我們的招聘計劃進展的不錯。對科研人員真正有吸引力的是自由度和開放性，以及分享他們研究項目的許可程度，但是在產(chǎn)業(yè)實驗室里面，你很難達到相同的權限。我們得以吸引力非常高質量的初創(chuàng)團隊，而其他人會想著加入，以和這樣的團隊一起工作。最后我認為，我們的使命、愿景和管理架構真的對人們有吸引力。
你們最終會雇傭多少人？一百多？
Altman：也許吧。
我得回到最初的想法，通過把人工智能分享出去，我們或許可以避免它最糟糕的結果。但是把人工智能變得可以公開獲得，是否會增加它的潛在危險？
Altman：我和 Elon Musk 以及其他人就這個問題討論了很長的時間，不過我到現(xiàn)在都不是 100% 的確定。你永遠也不可能 100% 確定，不是么？不過我們可以有不同的劇本，通過加密技術來保障安全，通常不怎么管用。如果只有一個機構能有這樣的技術，你怎么決定它應該是 Google、美國政府、中國政府、ISIS 或其他？世界上有很多邪惡的人，但人類卻依然生生不息。但是，如果其中某個壞人擁有了超出其他人類 10 億倍的能力，那世界將會怎樣？
Musk：我認為抵抗 AI 錯誤使用的最好辦法，就是讓人們盡可能去擁有 AI。如果每個人都有 AI 的力量，那就不會有個人或小團體擁有 AI 的超級力量。
Elon，你是兩個公司的 CEO 和一家公司的董事長。你還有足夠的時間投入到新項目么？
Musk：那確實。但我心里一直都在考慮 AI 的安全性，所以我還是應該做個交易換來心靈平靜。
猜你喜歡
微軟Bing市場份額不增反降， 
美聯(lián)儲激進加息對A股和港股 
“賦能金融，共筑安全”知虎 
美財長再發(fā)債務上限警告 拜 
“AI四小龍”上市之路各不相 
創(chuàng)新轉化，資本賦能！第四 
深圳坪山新能源車產(chǎn)業(yè)園一期 
