AMD推出“終極武器”MI300X

光芯片能夠挑战英偉達的AI芯片嗎？

美東時間6月13日周二，AMD舉行了新品發布會，其中最重磅的新品當屬性用於訓練大模型的ADM最先進GPU Instinct MI300。

AMD CEO蘇姿豐介紹，生成式AI和大語言模型（LLM）需要電腦的算力和內存大幅提高。她預計，今年，數據中心AI加速器的市場將達到300億美元左右，到2027年將超過1500億美元，復合年增長率超過50%。

蘇姿豐演示介紹，AMD的Instinct MI300A號稱全球首款針對AI和高性能計算（HPC）的加速處理器（APU）加速器。在13個小芯片中遍布1460億個晶體管。

它採用CDNA 3 GPU架構和24個Zen 4 CPU內核，配置128GB的HBM3內存。相比前代MI250，MI300的性能提高八倍，效率提高五倍。AMD在發布會稍早介紹，新的Zen 4c內核比標准的Zen 4內核密度更高，比標准Zen 4的內核小35%，同時保持100%的軟件兼容性。

圖片來源：每日經濟新聞 資料圖

AMD推出一款GPU專用的MI300，即MI300X，該芯片是針對LLM的優化版，擁有192GB的HBM3內存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。

AMD稱，MI300X提供的HBM密度最高是英偉達AI芯片H100的2.4倍，其HBM帶寬最高是H100的1.6倍。這意味着，AMD的芯片可以運行比英偉達芯片更大的模型。

蘇姿豐介紹，MI300X可以支持400億個參數的Hugging Face AI模型運行，並演示了讓這個LLM寫一首關於舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數多達800億的模型。

AMD還發布了AMD Instinct平台，它擁有八個MI300X，採用行業標准OCP設計，提供總計1.5TB的HBM3內存。蘇姿豐稱，適用於CPU和GPU的版本MI300A現在就已出樣，MI300X和八個GPU的Instinct平台將在今年第三季度出樣，第四季度正式推出。

除了AI芯片，AMD此次發布會還介紹了第四代EPYC（霄龍）處理器，特別是在全球可用的雲實例方面的進展。AMD稱，第四代EPYC（霄龍）啓用新的Zen 4c內核，比英特爾Xeon 8490H的效率高1.9倍。由於絕大多數AI在CPU上運行，AMD在CPU AI領域具有絕對的領先優勢。

本文作者可以追加內容哦 !