哈瓦那高迪處理器帶來低成本人工智能培訓體驗
簡介:在最近舉行的re: invent 2020 held主題大會上,AWS公布了使用多達8個HabanaGaudi加速器的EC2實例,在機器學習性價比上比目前GPU的EC2實例高出40%。基于高迪的EC2實例計劃在2021年上半年投入使用。在主題會議上,AWS首席執行官安迪賈斯西強調了各個行業.
在最近舉行的re: invent 2020 held主題大會上,AWS公布了使用多達8個HabanaGaudi加速器的EC2實例,就機器學習性價比而言,比GPU的EC2實例高出40%。基于高迪的EC2實例計劃在2021年上半年投入使用。
在主題發布會上,AWS CEO安迪賈斯西(Andy Jassy)強調了各行業對高性能、更實惠的人工智能工作的巨大需求。由于公司計劃推出以高迪為特色的新EC2實例進行深度學習培訓,AWS將進一步降低人工智能數據集的培訓成本,降低希望使用人工智能提供業務分析、提高效率和增強用戶體驗的客戶的總運營成本。
8卡高迪解決方案可以在TensorFlow上每秒處理12,000張圖像來訓練ResNet-50模型。每個高迪處理器集成了32GB的HBM2內存,并集成了RoCE功能,用于服務器的內部處理器互連。AWS靈活架構適配器(EFA)的技術可以跨服務器擴展,從而允許AWS及其客戶無縫擴展多個基于高迪的系統的使用,以實現高效和可擴展的分布式培訓。
哈瓦那的SynapseAI軟件套件旨在提供關于哈瓦那高迪處理器的高性能深度學習培訓。SynapseAI集成了TensorFlow、Pythorch等流行的深度學習框架,優化了高迪。開發人員將可以訪問開放的高迪軟件、參考模型和文檔。參考模型將在哈瓦那的GitHub知識庫中發布,并將包括各種流行的模型,如圖像分類、對象檢測、自然語言處理和推薦系統。SynapseAI軟件套件包括哈瓦那的圖形編譯器、實時張量處理器核心(TPC)內核庫、固件和驅動程序,以及用于定制內核開發的TPC SDK和SynapseAI Profiler等開發工具。
有關在高迪上使用新AWS EC2實例的更多信息,請單擊文章末尾閱讀原文并參考我們的白皮書。
哈瓦那將在目前高迪效率的基礎上推出下一代TSMC 7nm高迪2,讓AI可以對客戶、數據科學家和研究人員進行培訓、應用和服務。
要了解高迪AI培訓的更多優勢,歡迎訪問EC2示例網頁和哈瓦那AI培訓介紹。
性價比由AWS根據AWS內部測試給出。哈瓦那實驗室不控制或審計第三方數據;您的成本和結果可能會有所不同。
EC2示例:
https://aws.amazon.com/tw/ec2/instance-types/habana-gaudi/
哈瓦那人工智能培訓簡介:
https://habana.ai/training/
英特爾公司、英特爾、英特爾標志和其他英特爾標志是英特爾公司或其分支機構的商標。本文中提到的其他名稱和品牌屬于各自所有者的財產。