April 19, 2023|新聞稿

創鑫智慧雲端用人工智慧推論晶片在AI世界評測贏得最佳能效比領導地位

分享

【台北訊,2023417日】今年四月初由眾多人工智慧業界一流廠商參與的 MLPerf v3.0 AI 推論 (inference) 效能基準測試中,AI ASIC 平台領導廠商創鑫智慧 (NEUCHIPS)公布其世界第一個專為資料中心推薦模型 (Recommendation Model) 設計的 AI 加速器 RecAccel N3000的測試數據,在伺服器領域的能源效率 ( energy efficiency)上領先AI大廠輝達(NVIDIA),成為世界第一能效的AI加速平台,讓需要高運算力的資料中心(Datacenter)與雲端服務供應商(CSP)以最低的總擁有成本 (TCO) 實現企業永續(ESG)發展目標。

PR_TC_1.jpg (646 KB)

圖說:AI 加速器 RecAccel N3000

 

MLPerf v3.0 AI 推論測試是由致力提升機器學習技術和應用的開放工程聯盟 MLCommons® 所進行。創鑫智慧此次採用技鋼 G482-Z54 伺服器搭載 AMD EPYC 7452 32  CPU 8  RecAccel N3000 32G PCIe 加速卡執行 DLRM測試。

PR_TC_2.jpg (537 KB)

圖說:RecAccel™ N3000 PCIe加速卡。

 根據MLCommons公布的測試數據,在資料中心推薦系統領域,RecAccel™ N3000 系統除了展現其100%的效能擴充性(Performance Scalability)之外,在每瓦可處理1,060次查詢(queries)的評策上,能效為對手NVIDIA H1001.7倍,高居榜首。未來計畫推出的RecAccel Quad N3000 PCIe 卡更能提供高達 2.2倍的卓越效能。RecAccel™ N3000優異的效能和TCO特性,滿足了資料中心與雲端服務業者對於AI應用的需求並符合ESG發展趨勢。

PR_TC_3.jpg (311 KB)

圖說:RecAccelTM 產業領先能效

 

「為實現量大、精準、即時且節能的人工智慧運算,我們必須找到更可持續和環境友好的解決方案,這不僅僅是一個商業挑戰,更是對社會責任和綠色發展的追求,」創鑫智慧創辦人暨董事長林永隆博士表示。「我們以具體行動證明我們對永續發展的承諾,除了在 MLPerf 測試中取得最佳表現,我們還將推出專為開放運算計畫 (OCP) 設計的 DM.2 模組,繼續引領產業發展,提供更多協助雲端服務供應商與資料中心節省成本的平台方案,並助力 AI 技術的繁榮與成長。」

 

PR_TC_4.jpg (428 KB)

 圖說:在MLPerf™的測試期間,RecAccel N3000 晶片可讓每卡效能擴充近100%的比例

AMD策略業務發展全球副總裁Kumaran Siva則表示:「AMD提供高效能運算產品,幫助智慧系統有效管理複雜的資料集。我們非常高興能與創鑫智慧合作,藉由AMD EPYC處理器為MLPerf v3.0中的DLRM推理實現領先的效能及能耗。我們期待持續與創鑫智慧協同發展與創新,為市場提供不斷引領先進技術的人工智慧解決方案。」

 

關於MLPerf v3.0 AI 推論測試

 

MLPerf v3.0 AI 推論測試是由致力提升機器學習技術和應用的開放工程聯盟 MLCommons® 所進行,參與此測試的成員包括輝達 (NVIDIA)、英特爾 (INTEL)、高通 (Qualcomm) 、微軟雲端運算服務 (AZURE)、戴爾(DELL)、技鋼 (GIGA Computing)、慧與科技 (HPE) 等領導廠商。

 

 

通過電子郵件獲取最新的創鑫智慧消息。