久久精品免费看国产成人,四虎国产精品亚洲一区久久,伊人精品久久久7777,成人欧美一区二区三区在线,99精品国产福利一区二区,亚洲精品成人毛片久久久,久久精品99精品免费观看 ,99热久久这里只有精品免费,久久精品免费一区二区三区

英偉達AI芯片勁敵來了!AMD推出MI300X,可運行多達800億參數模型
來源:富途牛牛 發布時間:2023-06-14 07:46:14

憑借發布的新品,AMD正式向英偉達的AI芯片王者地位發起挑戰。

美東時間6月13日周二,AMD舉行了新品發布會,其中最重磅的新品當屬性用于訓練大模型的ADM最先進GPU Instinct MI300。


(資料圖片)

AMD CEO蘇姿豐介紹,生成式AI和大語言模型(LLM)需要電腦的算力和內存大幅提高。她預計,今年,數據中心AI 加速器的市場將達到300億美元左右,到2027 年將超過1500 億美元,復合年增長率超過 50%。

蘇姿豐演示介紹,AMD的Instinct MI300A號稱全球首款針對AI和高性能計算(HPC)的加速處理器(APU)加速器。在13個小芯片中遍布1460億個晶體管。

它采用CDNA 3 GPU架構和24個Zen 4 CPU內核,配置128GB的HBM3內存。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發布會稍早介紹,新的Zen 4c內核比標準的Zen 4內核密度更高,比標準Zen 4的內核小35%,同時保持100%的軟件兼容性。

AMD推出一款GPU專用的MI300,即MI300X,該芯片是針對LLM的優化版,擁有192GB的HBM3內存、5.2TB/秒的帶寬和 896GB/秒的Infinity Fabric 帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。

AMD稱,MI300X提供的HBM密度最高是英偉達AI芯片H100的2.4倍,其HBM帶寬最高是H100的1.6倍。這意味著,AMD的芯片可以運行比英偉達芯片更大的模型。

蘇姿豐介紹,MI300X可以支持400億個參數的Hugging Face AI 模型運行,并演示了讓這個LLM寫一首關于舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數多達800億的模型。

LLM需要的GPU更少,給開發者帶來的直接好處就是,可以節約成本。

AMD還發布了AMD Instinct 平臺,它擁有八個MI300X,采用行業標準OCP設計,提供總計1.5TB 的HBM3 內存。

蘇姿豐稱,適用于CPU和GPU的版本MI300A現在就已出樣,MI300X和八個GPU的Instinct 平臺將在今年第三季度出樣,第四季度正式推出。

亞馬遜、微軟、Meta已經或將要運用AMD新品

除了AI芯片,AMD此次發布會還介紹了第四代EPYC(霄龍)處理器,特別是在全球可用的云實例方面的進展。

AMD第四代EPYC(霄龍)在云工作負載的性能是英特爾競品處理器的1.8倍,在企業工作負載中的處理速度是英特爾競品的1.9倍。

AMD稱,第四代EPYC(霄龍)啟用新的Zen 4c內核,比英特爾Xeon 8490H的效率高1.9倍。由于絕大多數AI在CPU上運行,AMD在CPU AI領域具有絕對的領先優勢。

亞馬遜周二宣布,在用AWS Nitro和第四代EPYC 處理器打造新的實例。亞馬遜云的EC2 M7a實例現已提供預覽版,性能比M6a實例高50%。

AMD也將在內部工作中運用EC2 M7a實例,包括芯片設計的EDA軟件。AMD還宣布,今年7月,甲骨文將推出Genoa E5實例。

AMD發布的EPYC Bergamo處理器是業界首款x86原生CPU,有128個內核,每個插槽256個線程。這意味著一個普通的2U 4 節點平臺將有 2048 個線程。

Bergamo比前代Milan的性能高2.5倍,現在就可以向AMD的云客戶發貨。

Meta的公司代表介紹,Meta在基礎設施中使用EPYC處理器。Meta也對基于AMD的處理器設計開源。Meta方面稱,計劃為其基礎設施使用云處理器Bergamo,還要將Bergamo用于其存儲平臺。

AMD同時推出本周二上市的CPU Genoa-X。它將增加超過1GB 的96核L3緩存。它共有四個SKU,16到 96 個內核。因為SP5插槽兼容,所以它可以與現有的EPYC 平臺一起使用。

微軟的公司代表和AMD一道展示了微軟云Azure HPC的性能,在EPYC處理器的幫助下,Azure四年內的性能提升四倍。

Azure宣布,搭載Genoa-X的HBv4和HX系列實例、以及新的HBv3實例全面上市。Azure還稱,性能最高可較市面基準提升5.7倍。

AMD此前通過收購Pensando獲得DPU技術。此次AMD稱,其P4 DPU架構是世界上最智能的DPU,它能減少數據中心的網絡開銷,并提高了服務器的可管理性。AMD的Pensando SmartNICs是這種新數據中心架構不可或缺的組成部分。

AMD還提到有自己的AI芯片軟件,名為ROCm。AMD總裁Victor Peng稱,在構建強大的軟件堆棧方面,AMD取得了真正的巨大進步,ROCm軟件棧可與模型、庫、框架和工具的開放生態系統配合使用。

編輯/jayden

標簽:

猜你喜歡

英偉達AI芯片勁敵來了!AMD推出MI300X,可運行多

憑借發布的新品,AMD正式向英偉達的AI芯片王者地位發起挑戰。美東時間6更多

2023-06-14 07:46:14

成交額TOP20 | 特斯拉13日連升,累漲超41%;英

周二美股成交額第1名特斯拉收高3 55%,成交415 08億美元。第2名英偉達更多

2023-06-14 07:35:05

6月14日凌晨1點,GPU“二號玩家”將硬剛英偉達-每

“算力霸主”英偉達的寶座并不安穩。新品發布后不到半個月,“踢館者”更多

2023-06-14 05:26:43

觀察:大廠唯一“開源逆行者”!“AI界的安卓”--

開源模式很危險?Meta:AI反壟斷更危險。互聯網技術史上,充滿了開源和更多

2023-06-14 05:41:26

每日精選:揭秘特斯拉最重要的新車,8個關鍵細節

特斯拉的江山,雙雄苦撐久矣。在過去的5月,特斯拉「雙雄」繼續扛起銷更多

2023-06-14 05:33:32

什么是投資的大道?怎樣成為優秀的投資人?-熱訊

衷心祝愿各位能夠在正道上放膽地往前走!因為這里面既不交通堵塞,風景更多

2023-06-14 05:37:23

突發!央行再出手:下調常備借貸便利利率10個基點

6月13日,人民銀行公布的最新常備借貸便利(SLF)利率表顯示,自6月13更多

2023-06-14 05:35:33

618,電商巨頭卷向“消費降級” 全球今熱點

作為疫情后的第一個618大促,各大電商的炮火都集中在補貼和低價上。在更多

2023-06-13 22:47:48

歷史最長連漲紀錄!特斯拉究竟發生了什么?股價能

自5月25日起,特斯拉股價連續12天上漲,從186元攀升至250元,漲幅達37%更多

2023-06-13 22:30:51

【天天快播報】美股科技股漲勢未止!多頭豪言下半

“科技股大多頭”丹·艾夫斯預計,美股科技股今年下半年可能會上漲10%更多

2023-06-13 21:40:19