久久精品免费看国产成人,四虎国产精品亚洲一区久久,伊人精品久久久7777,成人欧美一区二区三区在线,99精品国产福利一区二区,亚洲精品成人毛片久久久,久久精品99精品免费观看 ,99热久久这里只有精品免费,久久精品免费一区二区三区

來(lái)源：騰訊科技作者：北京大學(xué)新聞與傳播學(xué)院教授 胡泳

(資料圖片僅供參考)

劃重點(diǎn)

● 對(duì)簽名者的名單要謹(jǐn)慎對(duì)待，因?yàn)橛袌?bào)道稱某些名字被添加到名單里是惡作劇。

● 紐約城市大學(xué)新聞學(xué)教授杰夫·賈維斯說(shuō)：“這是道德恐慌的一個(gè)典型標(biāo)本：呼吁暫停訓(xùn)練人工智能。”

● 風(fēng)險(xiǎn)來(lái)自于大型語(yǔ)言模型在一個(gè)壓迫性體系中的使用，比假想的人工智能反烏托邦前景要具體和緊迫得多。

● 公開(kāi)信渲染人工智能的末日?qǐng)D景，本身也吊詭地充滿了人工智能的炒作，使我們更難解決真實(shí)的、正在發(fā)生的人工智能危害。

● 我們需要擔(dān)心的是，大型語(yǔ)言模型的權(quán)力集中在大玩家手中，復(fù)制壓迫體系，破壞信息生態(tài)系統(tǒng)，以及通過(guò)浪費(fèi)能源資源破壞自然生態(tài)系統(tǒng)。

在GPT-4火熱出爐、人工智能軍備競(jìng)賽方興未艾的形勢(shì)下，包括埃隆·馬斯克（Elon Musk）和蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）在內(nèi)的千余名科技領(lǐng)袖簽署了一封公開(kāi)信，懇請(qǐng)研究人員在六個(gè)月內(nèi)暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)。 

首先，面對(duì)人工智能，公開(kāi)信是老套路了。2015年1月，霍金（Stephen Hawking）和馬斯克及數(shù)十位人工智能專家就簽署過(guò)一封關(guān)于人工智能的公開(kāi)信，呼吁對(duì)人工智能的社會(huì)影響進(jìn)行研究，并阻止研究人員創(chuàng)造出不安全或無(wú)法控制的系統(tǒng)。2018 年，組織這一次公開(kāi)信的生命未來(lái)研究所（Future of Life Institute，F(xiàn)LI）還起草過(guò)另外一封信，呼吁制定“針對(duì)致命自主武器的法律”，簽署人當(dāng)中也有馬斯克。

其次，對(duì)簽名者的名單要謹(jǐn)慎對(duì)待，因?yàn)橛袌?bào)道稱某些名字被添加到名單里是惡作劇，例如OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）也曾短暫地現(xiàn)身其中。有些簽署者明確表示并不同意公開(kāi)信的所有內(nèi)容，只是因?yàn)椤皞鬟_(dá)的精神是對(duì)的”而表示支持。當(dāng)然，更多的人工智能研究者和專家公開(kāi)表示不同意這封信的提議和方法。 

信中提到了對(duì)錯(cuò)誤信息傳播、勞動(dòng)力市場(chǎng)自動(dòng)化風(fēng)險(xiǎn)以及文明失控的可能性的擔(dān)憂。

以下是公開(kāi)信要點(diǎn)：

失控的人工智能

各家公司正在競(jìng)相開(kāi)發(fā)先進(jìn)的人工智能技術(shù)，連創(chuàng)造者都無(wú)法“理解、預(yù)測(cè)或可靠地控制”。

信中寫(xiě)道：“我們必須問(wèn)自己：我們應(yīng)該讓機(jī)器用宣傳和不真實(shí)的東西充斥我們的信息渠道嗎？我們是否應(yīng)該把所有的工作都自動(dòng)化，包括那些有成就感的工作？我們是否應(yīng)該開(kāi)發(fā)非人類的大腦，使其最終在數(shù)量上超過(guò)我們，在智慧上勝過(guò)我們，淘汰并取代我們？我們是否應(yīng)該冒失去對(duì)我們文明控制的風(fēng)險(xiǎn)？這些決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)。”

“危險(xiǎn)的競(jìng)賽”

這封信警告說(shuō)，人工智能公司陷入了“開(kāi)發(fā)和部署”新的先進(jìn)系統(tǒng)的“失控競(jìng)賽”。

最近幾個(gè)月，OpenAI 的ChatGPT的病毒式流行似乎促使其他公司加速發(fā)布自己的 AI 產(chǎn)品。公開(kāi)信敦促企業(yè)收獲“人工智能之夏”的回報(bào)，同時(shí)讓社會(huì)有機(jī)會(huì)適應(yīng)新技術(shù)，而不是匆忙進(jìn)入“毫無(wú)準(zhǔn)備的秋天”。

“六個(gè)月的暫停期”

信中說(shuō)，暫停開(kāi)發(fā)將為人工智能系統(tǒng)引入“共享安全協(xié)議”提供時(shí)間。信中還稱，“如果無(wú)法快速實(shí)施這樣的暫停，政府應(yīng)該介入并制定暫停期”。 

公開(kāi)信表示，暫停應(yīng)該是從圍繞先進(jìn)技術(shù)的“危險(xiǎn)競(jìng)賽”中后退一步，而不是完全停止通用人工智能（Artificial general intelligence，AGI）的開(kāi)發(fā)。

一些支持FLI的人認(rèn)為，研究人員正處于不知不覺(jué)中創(chuàng)造出危險(xiǎn)的、有知覺(jué)的人工智能系統(tǒng)的邊緣，就像在《黑客帝國(guó)》和《終結(jié)者》等流行的科幻電影系列中看到的那樣。更加激進(jìn)的人士如埃利澤·尤德科夫斯基（Eliezer Yudkowsky）認(rèn)為，應(yīng)該無(wú)限期暫停新的大規(guī)模訓(xùn)練，而且是在全世界范圍內(nèi)暫停。“關(guān)閉所有的大型GPU集群（大型計(jì)算機(jī)農(nóng)場(chǎng)，最強(qiáng)大的人工智能在這里得到完善）。關(guān)閉所有的大型訓(xùn)練運(yùn)行。對(duì)任何人在訓(xùn)練人工智能系統(tǒng)時(shí)被允許使用的計(jì)算能力設(shè)置上限，并在未來(lái)幾年內(nèi)將其下調(diào)，以補(bǔ)償更有效的訓(xùn)練算法。立即制定多國(guó)協(xié)議，防止被禁止的活動(dòng)轉(zhuǎn)移到其他地方。” 

而激烈反對(duì)的人甚至失去了禮貌破口大罵。我認(rèn)識(shí)的紐約城市大學(xué)新聞學(xué)教授杰夫·賈維斯（Jeff Jarvis）一掃往常心目中的溫文印象，在推特上發(fā)帖說(shuō)：“這真XX的可笑，如果我見(jiàn)過(guò)的話，這是#道德恐慌#的一個(gè)典型標(biāo)本：呼吁暫停訓(xùn)練人工智能。谷登堡：停止你的印刷機(jī)! 有這么多疑為道德企業(yè)家和注意力成癮者的人士簽名。” 

公平地說(shuō)，雖然業(yè)界絕不會(huì)同意暫停六個(gè)月，但人工智能發(fā)展眼下的發(fā)展將速度置于安全之上，的確需要引發(fā)社會(huì)關(guān)注。我認(rèn)為我們需要敲響盡可能多的警鐘，以喚醒監(jiān)管者、政策制定者和行業(yè)領(lǐng)導(dǎo)者。在其他情形下，微妙的警告可能就足夠了，但語(yǔ)言模型技術(shù)進(jìn)入市場(chǎng)的速度比此前人們經(jīng)歷過(guò)的任何技術(shù)都要快。放緩一下腳步，思考一下前路，對(duì)社會(huì)適應(yīng)新的人工智能技術(shù)是必要的。

但我們看到的情形恰恰相反，在危險(xiǎn)的競(jìng)賽中，人人都在加碼，因?yàn)橘€注在加大。“一場(chǎng)比賽從今天開(kāi)始”，微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在 2 月 7 日向谷歌發(fā)出了挑戰(zhàn)， “我們要行動(dòng)，而且行動(dòng)要快”。為應(yīng)對(duì)ChatGPT 的成功，谷歌宣布進(jìn)入“紅色代碼”企業(yè)緊急狀態(tài)，并將自己的聊天機(jī)器人 Bard 推向市場(chǎng)，在一次演示中表示，它將“重新校準(zhǔn)”在發(fā)布基于 AI 技術(shù)的工具時(shí)愿意承擔(dān)的風(fēng)險(xiǎn)水平。在 Meta 最近的季度財(cái)報(bào)電話會(huì)議上，首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）宣布他的公司目標(biāo)是“成為生成式人工智能的領(lǐng)導(dǎo)者”。如此熱浪滾滾，技術(shù)帶來(lái)的錯(cuò)誤和危害必然有所增加——人們對(duì)人工智能的反對(duì)也會(huì)增加。

人工智能安全初創(chuàng)公司SaferAI的首席執(zhí)行官西米恩·坎珀斯（Simeon Campos）說(shuō)，他簽署這封信是因?yàn)椋绻B這些系統(tǒng)的發(fā)明者都不知道它們是如何工作的，不清楚它們有什么能力，也不了解對(duì)它們的行為如何進(jìn)行限制，那么就不可能管理系統(tǒng)的風(fēng)險(xiǎn)。“我們正在將這類系統(tǒng)的能力擴(kuò)展到前所未有的水平，在全速競(jìng)賽中對(duì)社會(huì)產(chǎn)生變革性影響。必須放慢它們的發(fā)展速度，讓社會(huì)適應(yīng)并加快替代性的AGI架構(gòu)，這些架構(gòu)在設(shè)計(jì)上是安全的，并且可以正式驗(yàn)證。”

公開(kāi)信的簽署者、紐約大學(xué)名譽(yù)教授加里·馬庫(kù)斯（Gary Marcus）相信，這封信將成為一個(gè)轉(zhuǎn)折點(diǎn)。“我認(rèn)為這是AI史上——也許也是人類史上——一個(gè)非常重要的時(shí)刻。”這個(gè)恐怕夸大其詞了。公開(kāi)信在一些重要的地方是錯(cuò)誤的。信中說(shuō)：“正如大量研究表明的那樣，具有人類競(jìng)爭(zhēng)力的人工智能系統(tǒng)會(huì)對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)風(fēng)險(xiǎn)。”其實(shí)風(fēng)險(xiǎn)更多來(lái)自于大型語(yǔ)言模型（large language model, LLM）在一個(gè)壓迫性體系中的使用，這比假想的人工智能反烏托邦前景要具體和緊迫得多。

不論我們多么驚嘆LLMs的“智能”，以及它的學(xué)習(xí)速度——每天都有各種非常進(jìn)取的創(chuàng)新出現(xiàn)，微軟的一組研究人員在測(cè)試了GPT-4之后甚至報(bào)告說(shuō)，它閃現(xiàn)了通用人工智能的火花——然而LLMs在本質(zhì)上不可能擁有自我意識(shí)，它們只是在龐大的文本庫(kù)中訓(xùn)練出來(lái)的神經(jīng)網(wǎng)絡(luò)，通過(guò)識(shí)別模式來(lái)產(chǎn)生自己的概率文本。風(fēng)險(xiǎn)和危害從來(lái)都非源出強(qiáng)大的人工智能，相反，我們需要擔(dān)心的是，大型語(yǔ)言模型的權(quán)力集中在大玩家手中，復(fù)制壓迫體系，破壞信息生態(tài)系統(tǒng)，以及通過(guò)浪費(fèi)能源資源破壞自然生態(tài)系統(tǒng)。

大公司對(duì)它們正在做的事情變得越來(lái)越神秘，這使得社會(huì)很難抵御可能出現(xiàn)的任何危害。公開(kāi)信沒(méi)有說(shuō)到社會(huì)正義，而像OpenAI這樣的公司依賴于全球南方國(guó)家[編注1]的剝削性勞動(dòng)，在那里使用時(shí)薪不到 2 美元的肯尼亞外包工人來(lái)審查有害內(nèi)容，包括仇恨言論和暴力，以教導(dǎo)人工智能避免這些內(nèi)容。此外，還有人工智能用于操縱的可能性：現(xiàn)在已經(jīng)存在通過(guò)個(gè)性化對(duì)話影響活動(dòng)的技術(shù)，這些活動(dòng)根據(jù)用戶的價(jià)值觀、興趣和背景來(lái)定位用戶，以推動(dòng)銷售、宣傳或錯(cuò)誤信息。也就是說(shuō)，人工智能驅(qū)動(dòng)的對(duì)話影響有可能成為人類創(chuàng)造的最強(qiáng)大的有針對(duì)性的說(shuō)服形式。正如馬庫(kù)斯所說(shuō)，他并不同意其他人對(duì)智能機(jī)器超出人類控制的擔(dān)憂，更加擔(dān)心的是被廣泛部署的“平庸的人工智能”，比如被犯罪分子用來(lái)欺騙人們或傳播危險(xiǎn)的錯(cuò)誤信息。

編注1：傳統(tǒng)的“南方”“北方”概念出現(xiàn)在上世紀(jì)五六十年代，在殖民地解放運(yùn)動(dòng)風(fēng)起云涌的背景下，一些擺脫殖民枷鎖走上獨(dú)立發(fā)展道路的國(guó)家開(kāi)始使用“南方”，來(lái)表明發(fā)展中世界與工業(yè)化國(guó)家代表的“北方”之間存在系統(tǒng)性不平等。

其他問(wèn)題包括隱私問(wèn)題，因?yàn)?AI 越來(lái)越能夠解釋大型監(jiān)控?cái)?shù)據(jù)集；版權(quán)問(wèn)題，包括 Stability AI 在內(nèi)的公司正面臨來(lái)自藝術(shù)家和版權(quán)所有者的訴訟，他們反對(duì)未經(jīng)許可使用他們的作品來(lái)訓(xùn)練 AI 模型；能源消耗問(wèn)題，每次提示 AI模型時(shí)，它都需要能源。人工智能模型使用與游戲計(jì)算機(jī)相同的強(qiáng)大 GPU 處理器，因?yàn)樗鼈冃枰⑿羞\(yùn)行多個(gè)進(jìn)程。

公開(kāi)信渲染人工智能的末日?qǐng)D景，本身也吊詭地充滿了人工智能的炒作，使我們更難解決真實(shí)的、正在發(fā)生的人工智能危害。在這方面，公開(kāi)信基本上構(gòu)成了一種誤導(dǎo)：把大家的注意力引向假設(shè)的LLMs的權(quán)力和危害上，并提出一種非常模糊和無(wú)效的解決方式，而不是著眼于此時(shí)此地的危害并推動(dòng)解決相關(guān)問(wèn)題——例如，在涉及LLMs的訓(xùn)練數(shù)據(jù)和能力時(shí)要求更多的透明度，或者就它們可以在何處和何時(shí)使用進(jìn)行立法。

公開(kāi)信提到“人工智能將引起的戲劇性的經(jīng)濟(jì)和政治混亂”，實(shí)際上，人工智能并不會(huì)引發(fā)這一切，技術(shù)背后的企業(yè)和風(fēng)險(xiǎn)投資公司卻會(huì)。它們希望盡可能地賺取更多的錢(qián)，卻很少關(guān)心技術(shù)對(duì)民主和環(huán)境的影響。危言聳聽(tīng)者大談特談人工智能造成的傷害，已經(jīng)讓聽(tīng)者覺(jué)得并不是“人”在決定部署這些東西。

碰巧地是，OpenAI也擔(dān)心人工智能的危險(xiǎn)。但是，該公司希望謹(jǐn)慎行事而不是停下來(lái)。“我們希望成功應(yīng)對(duì)巨大的風(fēng)險(xiǎn)。在面對(duì)這些風(fēng)險(xiǎn)時(shí)，我們承認(rèn)理論上看似正確的事情在實(shí)踐中往往比預(yù)期的更奇怪”，阿爾特曼在 OpenAI 關(guān)于規(guī)劃通用人工智能的聲明中寫(xiě)道。“我們相信我們必須通過(guò)部署功能較弱的技術(shù)版本來(lái)不斷學(xué)習(xí)和適應(yīng)，以最大限度地減少‘一次成功’的情況。” 

換句話說(shuō)，OpenAI正在正確地遵循人類通常的獲取新知識(shí)和開(kāi)發(fā)新技術(shù)的路徑——即從反復(fù)試驗(yàn)中學(xué)習(xí)，而不是通過(guò)超自然的先見(jiàn)之明“一次成功”。這種做法是正確的，同時(shí)，把人工智能工具交給普通大眾使用也是對(duì)的，因?yàn)椤懊裰骰脑L問(wèn)將導(dǎo)致更多更好的研究、分散的權(quán)力、更多的利益以及更多的人貢獻(xiàn)新想法”。我們只是同時(shí)也需要人工智能實(shí)驗(yàn)室提供關(guān)于訓(xùn)練數(shù)據(jù)、模型架構(gòu)和訓(xùn)練制度的透明度，以便全社會(huì)更好地研究它們。

微軟說(shuō)它是“由以人為本的道德原則驅(qū)動(dòng)的”；谷歌說(shuō)它將“大膽而負(fù)責(zé)任地”向前邁進(jìn)；而OpenAI說(shuō)它的使命是用技術(shù)“造福全人類”。我們看到許多這樣的公司推出了強(qiáng)大的系統(tǒng)，但也在某種程度上推卸責(zé)任，并且不太清楚它們將如何管理自身而成為真正的擔(dān)責(zé)者。時(shí)間會(huì)告訴我們這些宣言是否會(huì)有行動(dòng)的支持，或者充其量只是聊天而已。

編輯/jayden