Marvell CEO：2023-2025財年人工智能收入CAGR將超100%

  ICC訊（編譯：Nina）在5月底的第一財季財報電話會議上，Marvell總裁兼首席執(zhí)行官Matt Murphy詳述了人工智能(AI)為公司帶來的巨大機遇：

  過去，我們認為人工智能只是云計算中的眾多應用之一，但它的重要性和機會已經(jīng)急劇增加。生成式人工智能(Generative AI)正在迅速推動新的應用，并改變我們云客戶的投資優(yōu)先級。今天的人工智能工作負載需要真正龐大的數(shù)據(jù)集。

  為了有效地處理這些數(shù)據(jù)，人工智能數(shù)據(jù)中心的架構與標準的云基礎設施有很大不同。人工智能中的主要構建塊是一個包含多個加速器(如GPU)的系統(tǒng)，而不是將雙插槽服務器作為機架中的核心元素。在大型部署中，數(shù)千個這樣的系統(tǒng)相互連接，形成一個數(shù)據(jù)中心大小的人工智能集群。互連這些系統(tǒng)所需的帶寬比標準云基礎設施高出幾個數(shù)量級。

  比如說，目前云數(shù)據(jù)中心中最新的雙CPU服務器可以驅動高達200Gbps的IO，并包含支持該帶寬的網(wǎng)絡接口。相比之下，一個包含8個加速器的先進人工智能系統(tǒng)可以驅動近30TB的全雙工帶寬。這是將這些系統(tǒng)連接在一起所需帶寬的數(shù)百倍。請記住，領先的云數(shù)據(jù)中心將數(shù)千個這樣的系統(tǒng)連接到一個集群中，為其客戶提供最大的可擴展性，每個這樣的系統(tǒng)都能夠驅動數(shù)十TB的網(wǎng)絡流量。

  為了在數(shù)據(jù)中心規(guī)模上創(chuàng)建盡可能大的集群規(guī)模，這些連接需要能夠在越來越遠的距離上運行。這些集群需要驚人數(shù)量的高帶寬連接，且所有這些高帶寬連接都需要在合理的功率范圍內(nèi)以超低延遲和高可靠性提供。這種連接最好由全光連接的基礎設施提供，利用數(shù)字信號處理和低延遲、高容量的光纖交換機。這就是為什么我們將人工智能視為PAM4光學DSP平臺的強大增長驅動力。

  值得注意的是，這些DSP與各種網(wǎng)絡協(xié)議兼容，如以太網(wǎng)、InfiniBand和其他專有解決方案，以實現(xiàn)最大的廣度和靈活性。展望未來，我們看到這一趨勢只會加速。盡管當今最先進的人工智能系統(tǒng)已經(jīng)在使用可用的最高帶寬接口，但您可能會驚訝地發(fā)現(xiàn)，當前人工智能實現(xiàn)的性能規(guī)模仍然受到網(wǎng)絡容量的限制。以我前面討論的8加速器AI系統(tǒng)為例。

  目前，這些系統(tǒng)通常包含4個800Gbps外部連接光接口，提供每秒3.2TB的帶寬。但這是在一個能夠驅動接近10倍帶寬的系統(tǒng)中實現(xiàn)的。為了彌補這一差距，我們預計隨著這些集群的規(guī)模擴大，每個人工智能系統(tǒng)的光學接口數(shù)量將繼續(xù)增長。預計下一代加速器將具有更高的計算能力和更高的帶寬要求。

  考慮到人工智能基礎設施的發(fā)展速度，技術更新周期為18到24個月，而標準基礎設施的更新周期為4年多?？傊?，我們預計這些AI集群中的大量連接、更高速光學接口的日益采用和更快的更新周期將成為我們PAM4 DSP平臺的主要需求驅動因素。事實上，在上一次電話財報會議中，我們指出，我們行業(yè)領先的800G DSP平臺的增長幾乎完全是由AI應用驅動的。我們還推出了業(yè)界首個1.6TB PAM4 DSP平臺，將當前一代的吞吐量提高了一倍。我們預計人工智能也將推動這些產(chǎn)品的初步采用。

來源：Marvell官網(wǎng)

  此外，由于服務提供商在多個區(qū)域數(shù)據(jù)中心部署了推理(Inference)，這些數(shù)據(jù)中心需要通過數(shù)十公里的高帶寬、低延遲光鏈路連接。這項技術被稱為數(shù)據(jù)中心互連(DCI)，而Marvell一直是該市場的先驅。我們?yōu)镈CI創(chuàng)建了業(yè)界首個可插拔模塊，目前我們最新的DCI產(chǎn)品線提供400Gbps的速率。

  我們已經(jīng)看到，人工智能云數(shù)據(jù)中心正在推動我們400ZR解決方案需求的大幅增長。我們DCI產(chǎn)品的另一個需求驅動因素是，服務提供商正計劃在不同站點的集群加速器上實施下一代人工智能。人工智能也是數(shù)據(jù)中心內(nèi)交換需求的關鍵增長驅動力。Marvell在低延遲、高容量交換機市場上的地位越來越高，我們看到市場對我們產(chǎn)品的強勁需求。

  我們最近發(fā)布了下一代51.2T Teralynx 10以太網(wǎng)交換平臺。平臺基于我們從Innovium收購的低延遲架構，并建立在Marvell領先的5nm技術平臺上。我們看到客戶對這種產(chǎn)品非常感興趣。我們預計人工智能將引領行業(yè)從目前的12.8T交換機過渡到51.2T，使網(wǎng)絡帶寬翻四番。

  我們預計51.2T的采用將成為網(wǎng)絡半導體市場的強勁增長動力。綜上所述，Marvell已經(jīng)在人工智能網(wǎng)絡連接領域建立了領先地位。我們預計，在人工智能投資不斷增長的推動下，PAM4光學、DCI和以太網(wǎng)交換解決方案將出現(xiàn)巨大增長。也許，更令人興奮的是，Marvell有機會為我們的云優(yōu)化硅平臺解決人工智能計算問題。

  正如前面所述，人工智能數(shù)據(jù)中心的架構是根本不同的。在標準云基礎設施中，大部分計算由CPU執(zhí)行，而加速器主要用于卸載任務，如網(wǎng)絡和安全。相比之下，在人工智能基礎設施中，GPU等加速器是主要的計算引擎，而CPU用于控制目的，與標準云基礎設施形成了180度的逆轉。根本性的差異導致人工智能基礎設施中加速器與CPU相比的比例更高，加速器現(xiàn)在是主要的計算機會。

  鑒于此，再加上人工智能投資的急劇增加，正在推動更高比例的增量計算TAM和云數(shù)據(jù)中心轉向加速器。今天，我們看到云客戶通過構建自己的定制加速器來增強他們的人工智能產(chǎn)品，以滿足他們的特定需求。這是Marvell云優(yōu)化硅戰(zhàn)略的核心部分，我們現(xiàn)在看到，在人工智能基礎設施中，定制計算擁有更大、更快增長的機會。當我們之前在2021年10月的投資者日上討論我們的云優(yōu)化硅機會和收入增長預期時，我們預計，一旦所有項目投入生產(chǎn)，首批Design Win的收入將增長到每年8億美元。

  這些Design包括各種加速計算應用，包括人工智能、安全、存儲和視頻，以及一些網(wǎng)絡應用。今時今日，當我們看到由人工智能驅動的同一組Design Win時，我們對其在整個生命周期的總收入預期顯著增加。與此同時，人工智能在整個生命周期收入中所占的相對比例從我們之前預測的約20%增加到今天的一半以上。因此，計算人工智能應用現(xiàn)已成為Marvell云優(yōu)化硅平臺最大的收入來源和機會。

  隨著人工智能需求的持續(xù)增長，我們看到，隨著時間的推移，這些云優(yōu)化Design Win的年收入將遠遠超過此前預計的8億美元。事實上，我們有許多與人工智能相關的定制硅產(chǎn)品，預計明年將投入批量生產(chǎn)。

  除了在人工智能網(wǎng)絡連接方面的強勢地位外，我們相信Marvell已經(jīng)做好了應對計算機會的準備。在過去的幾個月里，我們花時間仔細繪制了人工智能的收入圖，以跟蹤它的進展。鑒于我們已經(jīng)取得的巨大進步，包括最近客戶需求的增長，我們預計人工智能應用帶來的收入將加速增長。在2023財年，我們估計我們的人工智能收入約為2億美元，比前一年大幅增長。

  該收入主要來自我們的PAM4光學和400ZR DCI產(chǎn)品。自3月初財報電話會議以來，這些產(chǎn)品的預訂量大幅增加。因此，我們預計Marvell的整體人工智能收入在2024財年至少會翻一番。展望2025財年，我們預計人工智能網(wǎng)絡連接將繼續(xù)實現(xiàn)強勁增長。

  總的來說，我們預計明年我們的整體人工智能收入將至少再翻一番。換句話說，我們預測2023-2025財年人工智能收入的復合年增長率將超過100%。未來，我們預計涉及視頻和圖像的生成式人工智能實現(xiàn)將為HDD和閃存的整體存儲和EB增長提供推動力。