Brand Advertisement

Live Now

AMD 與 Cerebras 搶攻 AI 推論極速時代:OpenAI 研究員驚嘆「快到來不及切換畫面」

7 月 28 日,超微(AMD)與 Cerebras Systems 的合作再次成為市場焦點。OpenAI 研究員 Jeffrey Wang 在公開場合表示,他們在 Cerebras 晶片上執行的模型「推論速度非常驚人」,甚至快到他在切換工作情境之前,任務就已自動完成,顯著提升了他的日常生產力。

技術聯手,推論極限再突破

這番評價進一步強化了 AMD 與 Cerebras 日前宣布的合作方向。雙方將把 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合為單一解構式推論流程,分工處理 AI 推論的不同階段。

Helios 負責提示詞處理與大型上下文視窗等高吞吐工作,而 Cerebras 則專注於解碼與 Token 生成,提供超低延遲反應。 根據雙方的說法,這套組合架構在相近互動基準下,預計可帶來最高 5 倍的每瓦每秒 Token 數表現。

AMD 強化 AI 基礎設施布局

AMD 方面強調,Helios 將作為高效能、可擴充的吞吐引擎,而 Cerebras 技術則補足即時生成能力,目標是在不犧牲規模與效率的前提下,提升推論經濟性。

這項合作也被視為 AMD 強化 AI 基礎設施布局的重要一步。隨著推論成本愈來愈成為資料中心獲利關鍵,OpenAI 對 Cerebras 系統的正面回饋,讓外界更關注 Helios 與晶圓級引擎結合後的實際商業潛力。

從產業面來看,AMD 與 Cerebras 的合作不僅是技術上的突破,更是市場競爭格局的重大調整。隨著 AI 推論速度的大幅提升,未來資料中心的運營成本有望大幅降低,進而提高整體營運效益。對於企業來說,這意味著更高的生產力和更低的運營成本,是一項值得關注的技術進步。

展望與影響

隨著 AMD 與 Cerebras 的合作不斷深入,未來的 AI 推論市場將迎來更多變革。這不僅會影響資料中心的運營模式,還將對雲端計算、邊緣計算等領域產生深遠影響。對於技術研發人員和企業決策者而言,了解這些最新技術動態,將有助於把握未來發展方向。

如果你對 AI 技術的最新發展感興趣,不妨深入研究 AMD 與 Cerebras 的合作細節,或許你能找到更多提升業務效率的方法。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

AMD 與 Cerebras 合作的主要內容是什麼?

AMD 與 Cerebras 合作的主要內容是將 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合,分工處理 AI 推論的不同階段,以提升推論速度和經濟性。

這項合作有哪些主要優點?

這項合作的主要優點包括:1. 提升推論速度;2. 降低運營成本;3. 提高生產力;4. 改善能源效率。

OpenAI 研究員 Jeffrey Wang 對 Cerebras 晶片的評價如何?

OpenAI 研究員 Jeffrey Wang 表示,Cerebras 晶片上的模型推論速度非常驚人,甚至快到他在切換工作情境之前,任務就已自動完成。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。