GPU

共 2 篇文章
Micorn的營收及EPS已遠超市場預期。(路透社)
財自學院

閃存記憶體跑贏大市 需求已到樽頸?

MU(Micron)最新業績再次證明,市場目前已經不是在炒「記憶體復甦」,而是正式進入「AI記憶體超級周期(AI memory supercycle)」。 從最新業績可見,MU不單止營收及EPS遠超市場預期,連第四季指引亦再次大幅上調,管理層更表示HBM供應緊張情況最快要到2027年前後才有機會舒緩,代表整個產業仍然處於供不應求階段。 首先,HBM(High Bandwidth Memory)已經成為AI GPU最重要的零件之一。 一顆最新AI GPU,不論是大型模型訓練還是推理,都需要極高頻寬及極低延遲的記憶體。GPU算力愈高,如果HBM速度跟不上,GPU便會出現餓死(memory bottleneck)的情況。 其次,HBM正在擠壓普通DRAM產能。一片晶圓如果拿去生產HBM,就不能同時大量生產DDR5等傳統DRAM。由於HBM的附加價值遠高於一般DRAM,記憶體廠自然優先生產HBM,結果令普通DRAM供應同步收緊,價格亦因此受支持。這就是近一年DRAM價格持續上升的重要原因之一。 第三,AI Server每台需要的DRAM容量遠高於傳統伺服器。過去一般企業伺服器可能只需要數
ASML是全球最大的半導體光刻設備製造商。(資料圖片)
財自學院

擁有「無法繞過的位置」才最吃香

現時有關人工智能投資世界中,有一個「無法繞過的位置」,意思不是指公司規模有幾大,亦不是因為市場熱度,而是指某些企業站在產業結構中的關鍵節點。要完成交付或要產生實際結果,就必然要經過的公司或技術,這個位置不會因為多了一兩個競爭對手而消失,反而會隨住產業擴張而變得更加重要。 細拆之下,這類位置大致可分為3種:基礎設施型、標準制定者,以及結構性壟斷。先進製程要落地,EUV光刻機在物理層面上無法替代的節點,這個位置不是市場選擇,而是工程現實本身已經鎖死。 製程愈先進、結構愈複雜,對蝕刻與薄膜沉積的依賴就愈高,要良率、要可靠度,就必然要經過呢個節點。這些公司卡住的是「能唔能夠製造」、「能唔能夠做到良率」。如果卡住的是晶圓層面,那麼人工智能(AI)世代,CPU卡住的是系統能不能夠被交付。 一台真正可以上線運作的AI伺服器,從來不是只有GPU。標準結構必然包含伺服器級CPU、AI GPU、大量DDR5 RDIMM記憶體,以及主板、電源、高速網路與儲存系統。GPU提供算力,但CPU承擔資料前處理、任務排程、記憶體與儲存管理、網路通訊、虛擬化與叢集協調等底層工作。這些功能無法被GPU取代。