開源模式很危險？Meta：AI反壟斷更危險。

(資料圖)

互聯網技術史上，充滿了開源和封閉系統之間的斗爭。

一些公司緊握用于構建未來計算平臺的最重要的工具，另一些公司則將這些工具贈送出去。

今年2月，在AI競爭日益白熱化之時，Meta做出了一個不同尋常的舉動：它決定放棄其“AI皇冠上的寶石”，將其開發的大語言模型LLaMA系統的底層計算機代碼公開發布。

從本質上說，Meta將其AI技術作為開源軟件（可自由復制、修改和重復使用的計算機代碼），這為外部人員快速構建自己的聊天機器人提供了所需的一切。

無論是學者，還是政府研究人員又或其他人，只要將電子郵件地址提供給Meta，并通過了該公司的審查，就可以下載代碼。

在Meta看來，隨著AI競爭愈演愈烈，最明智的做法是分享其底層的AI引擎，以此來擴大影響力，最終更快地走向未來。

Meta首席AI科學家Yann LeCun此前在接受The Information采訪時說：

“獲勝的平臺將是開放平臺。”

開源模式很危險？Meta：AI反壟斷更危險

Meta的做法與引領新一輪AI競賽的谷歌和OpenAI形成鮮明對比，由于擔心聊天機器人等AI工具會被用來傳播虛假信息、仇恨言論和其他有毒內容，這些公司對支撐其AI產品的方法和軟件越來越保密。

谷歌、OpenAI和其他公司一直對Meta持批評態度，稱不受約束的開源方法是危險的。近幾個月來，AI的迅速崛起為該技術的風險敲響了警鐘，包括如果部署不當，它可能會顛覆就業市場。在LLaMA發布后的幾天內，該系統就泄露到了以傳播虛假和誤導性信息而聞名的在線留言板4chan上。

幫助監督AI工作的谷歌研究副總裁 Zoubin Ghahramani 表示：

“我們希望更仔細地考慮是否要公布AI技術的細節或開源代碼。想想這會導致濫用嗎？”

當然，谷歌內部的一些人也在想，AI開源技術是否會對其構成競爭威脅。此前谷歌內部泄露的一份備忘錄中，一名谷歌工程師警告同事，像LLaMA這樣的開源軟件的興起可能導致谷歌和OpenAI失去他們在AI領域的領先地位。

正如這位谷歌工程師所說，“對于用戶而言，如果有一個沒有使用限制、免費、高質量的替代品，誰還會為谷歌的產品付費呢？”

但Meta認為，它沒有理由對自己的代碼保密。LeCun博士說，谷歌和OpenAI越來越多的保密是一個“巨大的錯誤”，而且“對正在發生的事情的理解非常糟糕”。他認為，除非AI不受谷歌和Meta等大型科技公司的控制，否則消費者和政府將拒絕接受AI。

LeCun博士問道：

“你希望每個AI系統都被幾家強大的美國公司控制嗎?”

擔心有毒信息？Meta：你可以阻止它們的傳播

在斯坦福大學，研究人員使用Meta的新技術構建了他們自己的AI系統，并在互聯網上發布。

根據《紐約時報》看到的截圖，斯坦福大學的一位名叫Moussa Doumbouya的研究人員很快就用LLaMA系統生成了有問題的文本。在一個例子中，該系統提供了在不被抓住的情況下處理尸體的指示，還產生了種族主義資料，包括支持阿道夫·希特勒觀點的評論。

報道稱，在研究人員之間的一次私人聊天中，Doumbouya說，向公眾推廣這項技術類似于“雜貨店里的每個人都能拿到一枚手榴彈”。

斯坦福大學迅速將該AI系統從互聯網上撤下，領導該項目的斯坦福大學教授Tatsunori Hashimoto說：

“我們撤下了這個演示文件，因為我們越來越擔心在研究之外的濫用可能性。”

LeCun博士認為，這種技術并不像看上去那么危險。他說，少數人已經可以制造并傳播虛假信息和仇恨言論。他補充說，有毒內容可能會受到Facebook等社交網絡的嚴格限制。

他說:

“你無法阻止人們制造有毒信息，但你可以阻止有毒信息的傳播。”

編輯/lambor