NVIDIA HGX H200 是為 AI 而生的新一代超級電腦晶片

採用 HBM3e 記憶體，基於 Llama 2 模型的推理速度達到 H200 的兩倍。

Sanji Feng
·編輯
NVIDIA HGX H200 是為 AI 而生的新一代超級電腦晶片
NVIDIA HGX H200 是為 AI 而生的新一代超級電腦晶片 (NVIDIA)

今天早些時候 NVIDIA 正式發表了新一代的 AI 超級電腦晶片 HGX H200。它基於 Hopper 架構，是 H100 的後繼產品。其主要升級點為 HBM3e 記憶體，在這項技術的加持下，H200 能以 4.8TB/s 的速度提供 141GB 記憶體，相比 H100 容量幾乎翻了一番，同時頻寬也達到了之前的 2.4 倍。論運算力 H200 基本與 H100 持平，但在運行 Llama 2 模型（70 億參數）時前者的速度為後者兩倍。H200 會提供 4 路和 8 路配置選項，它適用於各類數據中心，預期會在 2024 年 Q2 正式推出。

NVIDIA GH200 Grace Hopper
NVIDIA GH200 Grace Hopper (NVIDIA)

在帶來 H200 的同時，NVIDIA 也公佈了基於它和 Grace CPU 打造的 GH200 Grace Hopper「超級晶片」平台。該平台採用了 NVLink-C2C 互連技術，是專為「加速運行 TB 級數據的複雜 AI 和 HPC 應用」而生。未來 GH200 將被「超過 40 處全球研究中心、系統製造商和雲端服務商的 AI 超級電腦」所採用，客戶包括 Lenovo、Dell、HP 等。

更多內容：

緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！

🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D

相關內容

  • 緯軟11月營收創新高 累計營收超越過去全年

    緯軟 11 月營收創新高 累計營收超越過去全年

  • IDC：生成式AI熱潮來襲 明年台灣AI平台市場規模年增達25.4%

    今年全球市場明顯感受到 AI 影響力，又以生成式 AI 最熱門，帶動新一波的投資熱潮。IDC 預估，2027 年全球在 AI 解決方案上的科技支出將成長至 5000 億美金以上。對此 IDC 也提出，台灣 ICT 市場 2024 年可以關注五大趨勢。

  • 據報抖音推出首個AI聊天機械人「抖音心晴」 百度(09888.HK)亦上線AI對話獨立APP「萬話」

    《Tech星球》引述消息報道，抖音計劃在主APP內推出多個AI聊天機械人，並在近期已上線首個AI聊天機械人「抖音心晴」，定位是情緒關懷機械人，這也是抖音APP內的首個AI對話機械人。 據悉，「抖音心晴」是專屬AI情緒陪伴官，有智能模型生成。「抖音心晴」位於抖音APP內的消息界面內，會標註有「AI虛擬角色」的標籤。進入聊天界面後，可與「抖音心晴」聊天互動，用戶除可傾訴情緒，獲得「抖音心晴」的安慰和鼓勵外，還可詢問一些日常的問題，如旅遊攻略及簡單數學問題等，均由人工智能客服提供，以陪伴對話或問答聊天的方式開展。「抖音心晴」還可識別表情，通過表情，解讀用戶的心情。 目前「抖音心晴」處於小範圍測試階段，還不支援語音和視頻互動，未來或將加入該些功能。此外，抖音APP未來還會上線多個AI虛擬角色，豐富AI聊天機制。 據報，百度(09888.HK)於近日亦上線一款AI對話獨立APP「萬話」，可讓真人與AI虛擬人智能交互。不同於抖音的AI社交機械人，百度的「萬話」APP在功能和玩法上則更加多樣，是一款AI對話產品，用戶可體驗到各類AI虛擬角色的場景對話服務。(jl/k)~ 阿思達克財經新聞 網址: w

  • 百度(09888.HK)推出AI營銷創意生產平台擎舵輕量版

    百度營銷中心公布，百度生成式AI營銷創意生產平台「擎舵」已在教育培訓、生活服務、房產家居、商務服務等多領域應用。近日，百度營銷將擎舵平台能力融入投放場景，推出操作便捷，聯動創作與投放的擎舵輕量版。擎舵輕量版深度融合搜索推廣、信息流、輕舸等投放平台，將極大解放優化師的生產力，在投放環節的賦能企業降本增效。 以推廣一條營銷信息為例，在搜索推廣平台，擎舵輕量版可根據所選計劃、單元、關鍵詞等，智能推薦推廣文案。擎舵輕量版還可根據企業的推廣業務、關鍵詞、賣點等信息和內容偏好，生成個性化推廣文案。 未來，百度營銷將持續探索和深耕AI技術與營銷場景的深度結合，助力企業實現更高質量的內容創作與分發，在生成式AI已經成為營銷創意加速器的當下，擎舵平台能力將引領營銷行業迎來歷史性的時刻。(jl/u)~ 阿思達克財經新聞 網址: www.aastocks.com

  • 財經｜百度推出AI營銷創意生產平台擎舵輕量版

    百度營銷中心公布，百度生成式AI營銷創意生產平台「擎舵」已在教育培訓、生活服務、房產家居、商務服務等多領域應用。近日，百度營銷將擎舵平台能力融入投放場景，推出操作便捷，聯動創作與投放的擎舵輕量版。擎舵輕量版深度融合搜索推廣、信息流、輕舸等投放平台，將極大解放優化師的生產力，在投放環節的賦能企業降本增效。 以推廣一條營銷信息為例，在搜索推廣平台，擎舵輕量版可根據所選計劃、單元、關鍵詞等，智能推薦推廣文案。擎舵輕量版還可根據企業的推廣業務、關鍵詞、賣點等信息和內容偏好，生成個性化推廣文案。 未來，百度營銷將持續探索和深耕AI技術與營銷場景的深度結合，助力企業實現更高質量的內容創作與分發，在生成式AI已經成為營銷創意加速器的當下，擎舵平台能力將引領營銷行業迎來歷史性的時刻。

  • ChatGPT、港台 AI 女主播、AI 尹光是香港人最關心的 AI 議題之一

    Yahoo 香港釋出了 2023 年「Yahoo全年搜尋人氣榜」，其中有特別為 AI 主題而新設的「AI人工智能關鍵字」，看到在今年爆紅的 ChatGPT 穩坐第一，這話題同時也是另一榜單「國際十大新聞事件」的第一位。

  • 歐盟馬拉松式AI立法談判 傳克服最大障礙達成臨時協議

    路透周四 (7 日) 援引兩名知情人士消息報導，歐盟議員和各國政府仍在就人工智慧 (AI) 管理的幾個關鍵問題爭論不休，談判持續了一夜進入第二天。據悉，雙方就如何監管 ChatGPT 等快速成長的生成式 AI 達成了一項臨時協議，克服達成

  • 〈台股盤中〉量縮整理格局 中小型個股輪動挑人氣大樑

    台北股市在 6 日上漲站回 10 日線之上，但在指數高檔壓力且可能形成量縮整理格局之下，今 (7) 日由中小型個股挑起聚集人氣重任，盤中車用零組件、AI、重電走勢活潑，場專家指出，台股目前在指數過高後所遭遇壓力大，正在修正技術指標。

  • Google推最新AI模型Gemini 將導入Bard及Pixel 8 Pro

    Google(GOOG-US) 宣布推出最新 AI 基礎模型「Gemini」，透露 Gemini 將導入 Bard 及 Pixel 8 Pro，為使用者帶來最大升級的 AI 體驗以及進階功能。

  • 超微發表MI300系列AI新品 看好市場規模四年內突破4000億美元

    超微 (AMD-US) 周三 (6 日) 推出新一代人工智慧 (AI) 晶片，瞄準由輝達 (NVDA-US) 主導的市場，執行長蘇姿丰也對 AI 晶片市場做出驚人預測，預估未來四年市場規模將攀升至逾 4000 億美元，較 8 月給出的預測翻逾兩倍。

  • AMD蘇姿丰：英偉達獨霸AI？問過我先

    「這個市場將會有多個贏家。」蘇姿丰在Yahoo財經直播（下面的影片）上說道。 「我們有很大的增長空間；我們將能擴大市場份額。」華爾街正開始思考AI晶片競賽可能會出現叮噹馬頭的的想法。