據悉，第二代Gaudi2 AI深度學習夾層卡HL-225B專爲數據中心實現大規模橫向擴展而設計，HL-225B處理器符合美國工業與安全局（BIS）有關規定。該夾層卡符合OCP OAM1.1（开放計算平台之开放加速器模塊）規範。而HL-225B夾層卡內置Gaudi HL-2080處理器技術，擁有24個完全可編程的第四代張量處理器核心（TPC）。這些核心原生設計能爲廣泛的深度學習工作負載加速。另外，英特爾Habana的SynapseAI軟件套件，針對Gaudi平台深度學習業務進行了優化。
相比第一代，Gaudi2制造工藝由台積電16nm升級到台積電7nm，內存和緩存提高到96GB HBM2e和48MB SRAM，內存帶寬升爲2.4TB/s，並集成了專用媒體處理器。在ResNet-50模型測試中，Gaudi2比一代訓練量提高了3倍，BERT模型的訓練量提高了4.7倍。目前，單個Gaudi 2在ResNet-50模型中可達到非常穩定的5800個圖像/每秒的量。
測試GPT-3方面，Gaudi2也表現出了強勁性能，在384個加速器上訓練時間達311分鐘，從256個加速器到384個加速器實現了近线性95%的擴展；Hugging Face評估中，Gaudi2運行Stable Diffusion、70億以及1760億參數BLOOMz模型時，AI 推理方面的表現在行業內保持領先，從而使英特爾Gaudi2成爲僅有的兩個提交GPT-3 LLM訓練性能結果的芯片解決方案之一。
更重要的是，相比英偉達AI芯片，英特爾Gaudi2擁有性價比優勢，能夠降低大模型算力成本。目前，單獨購买一顆Gaudi2 AI OCP 加速器模塊 (OAM)的成本爲7400美元-8000美元之間。這種顯着的成本優勢，加上英偉達A100/H800在國內供應緊張持續短缺，或使Gaudi2成爲英偉達NVIDIA H100最重要的替代品。
電子機會獲得。英特爾產業鏈布局。得潤電子。
追加內容
本文作者可以追加內容哦 !
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。
標題：中國大陸唯一的CPU高速連接器公司，得潤不到一年後的今天，英特爾推出“中國特供”
地址：https://www.twetclubs.com/post/13350.html
