Marvell CEO：2023-2025財(cái)年人工智能收入CAGR將超100%

  ICC訊（編譯：Nina）在5月底的第一財(cái)季財(cái)報(bào)電話會(huì)議上，Marvell總裁兼首席執(zhí)行官M(fèi)att Murphy詳述了人工智能(AI)為公司帶來(lái)的巨大機(jī)遇：

  過(guò)去，我們認(rèn)為人工智能只是云計(jì)算中的眾多應(yīng)用之一，但它的重要性和機(jī)會(huì)已經(jīng)急劇增加。生成式人工智能(Generative AI)正在迅速推動(dòng)新的應(yīng)用，并改變我們?cè)瓶蛻舻耐顿Y優(yōu)先級(jí)。今天的人工智能工作負(fù)載需要真正龐大的數(shù)據(jù)集。

  為了有效地處理這些數(shù)據(jù)，人工智能數(shù)據(jù)中心的架構(gòu)與標(biāo)準(zhǔn)的云基礎(chǔ)設(shè)施有很大不同。人工智能中的主要構(gòu)建塊是一個(gè)包含多個(gè)加速器(如GPU)的系統(tǒng)，而不是將雙插槽服務(wù)器作為機(jī)架中的核心元素。在大型部署中，數(shù)千個(gè)這樣的系統(tǒng)相互連接，形成一個(gè)數(shù)據(jù)中心大小的人工智能集群?；ミB這些系統(tǒng)所需的帶寬比標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施高出幾個(gè)數(shù)量級(jí)。

  比如說(shuō)，目前云數(shù)據(jù)中心中最新的雙CPU服務(wù)器可以驅(qū)動(dòng)高達(dá)200Gbps的IO，并包含支持該帶寬的網(wǎng)絡(luò)接口。相比之下，一個(gè)包含8個(gè)加速器的先進(jìn)人工智能系統(tǒng)可以驅(qū)動(dòng)近30TB的全雙工帶寬。這是將這些系統(tǒng)連接在一起所需帶寬的數(shù)百倍。請(qǐng)記住，領(lǐng)先的云數(shù)據(jù)中心將數(shù)千個(gè)這樣的系統(tǒng)連接到一個(gè)集群中，為其客戶提供最大的可擴(kuò)展性，每個(gè)這樣的系統(tǒng)都能夠驅(qū)動(dòng)數(shù)十TB的網(wǎng)絡(luò)流量。

  為了在數(shù)據(jù)中心規(guī)模上創(chuàng)建盡可能大的集群規(guī)模，這些連接需要能夠在越來(lái)越遠(yuǎn)的距離上運(yùn)行。這些集群需要驚人數(shù)量的高帶寬連接，且所有這些高帶寬連接都需要在合理的功率范圍內(nèi)以超低延遲和高可靠性提供。這種連接最好由全光連接的基礎(chǔ)設(shè)施提供，利用數(shù)字信號(hào)處理和低延遲、高容量的光纖交換機(jī)。這就是為什么我們將人工智能視為PAM4光學(xué)DSP平臺(tái)的強(qiáng)大增長(zhǎng)驅(qū)動(dòng)力。

  值得注意的是，這些DSP與各種網(wǎng)絡(luò)協(xié)議兼容，如以太網(wǎng)、InfiniBand和其他專(zhuān)有解決方案，以實(shí)現(xiàn)最大的廣度和靈活性。展望未來(lái)，我們看到這一趨勢(shì)只會(huì)加速。盡管當(dāng)今最先進(jìn)的人工智能系統(tǒng)已經(jīng)在使用可用的最高帶寬接口，但您可能會(huì)驚訝地發(fā)現(xiàn)，當(dāng)前人工智能實(shí)現(xiàn)的性能規(guī)模仍然受到網(wǎng)絡(luò)容量的限制。以我前面討論的8加速器AI系統(tǒng)為例。

  目前，這些系統(tǒng)通常包含4個(gè)800Gbps外部連接光接口，提供每秒3.2TB的帶寬。但這是在一個(gè)能夠驅(qū)動(dòng)接近10倍帶寬的系統(tǒng)中實(shí)現(xiàn)的。為了彌補(bǔ)這一差距，我們預(yù)計(jì)隨著這些集群的規(guī)模擴(kuò)大，每個(gè)人工智能系統(tǒng)的光學(xué)接口數(shù)量將繼續(xù)增長(zhǎng)。預(yù)計(jì)下一代加速器將具有更高的計(jì)算能力和更高的帶寬要求。

  考慮到人工智能基礎(chǔ)設(shè)施的發(fā)展速度，技術(shù)更新周期為18到24個(gè)月，而標(biāo)準(zhǔn)基礎(chǔ)設(shè)施的更新周期為4年多?？傊覀冾A(yù)計(jì)這些AI集群中的大量連接、更高速光學(xué)接口的日益采用和更快的更新周期將成為我們PAM4 DSP平臺(tái)的主要需求驅(qū)動(dòng)因素。事實(shí)上，在上一次電話財(cái)報(bào)會(huì)議中，我們指出，我們行業(yè)領(lǐng)先的800G DSP平臺(tái)的增長(zhǎng)幾乎完全是由AI應(yīng)用驅(qū)動(dòng)的。我們還推出了業(yè)界首個(gè)1.6TB PAM4 DSP平臺(tái)，將當(dāng)前一代的吞吐量提高了一倍。我們預(yù)計(jì)人工智能也將推動(dòng)這些產(chǎn)品的初步采用。

來(lái)源：Marvell官網(wǎng)

  此外，由于服務(wù)提供商在多個(gè)區(qū)域數(shù)據(jù)中心部署了推理(Inference)，這些數(shù)據(jù)中心需要通過(guò)數(shù)十公里的高帶寬、低延遲光鏈路連接。這項(xiàng)技術(shù)被稱為數(shù)據(jù)中心互連(DCI)，而Marvell一直是該市場(chǎng)的先驅(qū)。我們?yōu)镈CI創(chuàng)建了業(yè)界首個(gè)可插拔模塊，目前我們最新的DCI產(chǎn)品線提供400Gbps的速率。

  我們已經(jīng)看到，人工智能云數(shù)據(jù)中心正在推動(dòng)我們400ZR解決方案需求的大幅增長(zhǎng)。我們DCI產(chǎn)品的另一個(gè)需求驅(qū)動(dòng)因素是，服務(wù)提供商正計(jì)劃在不同站點(diǎn)的集群加速器上實(shí)施下一代人工智能。人工智能也是數(shù)據(jù)中心內(nèi)交換需求的關(guān)鍵增長(zhǎng)驅(qū)動(dòng)力。Marvell在低延遲、高容量交換機(jī)市場(chǎng)上的地位越來(lái)越高，我們看到市場(chǎng)對(duì)我們產(chǎn)品的強(qiáng)勁需求。

  我們最近發(fā)布了下一代51.2T Teralynx 10以太網(wǎng)交換平臺(tái)。平臺(tái)基于我們從Innovium收購(gòu)的低延遲架構(gòu)，并建立在Marvell領(lǐng)先的5nm技術(shù)平臺(tái)上。我們看到客戶對(duì)這種產(chǎn)品非常感興趣。我們預(yù)計(jì)人工智能將引領(lǐng)行業(yè)從目前的12.8T交換機(jī)過(guò)渡到51.2T，使網(wǎng)絡(luò)帶寬翻四番。

  我們預(yù)計(jì)51.2T的采用將成為網(wǎng)絡(luò)半導(dǎo)體市場(chǎng)的強(qiáng)勁增長(zhǎng)動(dòng)力。綜上所述，Marvell已經(jīng)在人工智能網(wǎng)絡(luò)連接領(lǐng)域建立了領(lǐng)先地位。我們預(yù)計(jì)，在人工智能投資不斷增長(zhǎng)的推動(dòng)下，PAM4光學(xué)、DCI和以太網(wǎng)交換解決方案將出現(xiàn)巨大增長(zhǎng)。也許，更令人興奮的是，Marvell有機(jī)會(huì)為我們的云優(yōu)化硅平臺(tái)解決人工智能計(jì)算問(wèn)題。

  正如前面所述，人工智能數(shù)據(jù)中心的架構(gòu)是根本不同的。在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施中，大部分計(jì)算由CPU執(zhí)行，而加速器主要用于卸載任務(wù)，如網(wǎng)絡(luò)和安全。相比之下，在人工智能基礎(chǔ)設(shè)施中，GPU等加速器是主要的計(jì)算引擎，而CPU用于控制目的，與標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施形成了180度的逆轉(zhuǎn)。根本性的差異導(dǎo)致人工智能基礎(chǔ)設(shè)施中加速器與CPU相比的比例更高，加速器現(xiàn)在是主要的計(jì)算機(jī)會(huì)。

  鑒于此，再加上人工智能投資的急劇增加，正在推動(dòng)更高比例的增量計(jì)算TAM和云數(shù)據(jù)中心轉(zhuǎn)向加速器。今天，我們看到云客戶通過(guò)構(gòu)建自己的定制加速器來(lái)增強(qiáng)他們的人工智能產(chǎn)品，以滿足他們的特定需求。這是Marvell云優(yōu)化硅戰(zhàn)略的核心部分，我們現(xiàn)在看到，在人工智能基礎(chǔ)設(shè)施中，定制計(jì)算擁有更大、更快增長(zhǎng)的機(jī)會(huì)。當(dāng)我們之前在2021年10月的投資者日上討論我們的云優(yōu)化硅機(jī)會(huì)和收入增長(zhǎng)預(yù)期時(shí)，我們預(yù)計(jì)，一旦所有項(xiàng)目投入生產(chǎn)，首批Design Win的收入將增長(zhǎng)到每年8億美元。

  這些Design包括各種加速計(jì)算應(yīng)用，包括人工智能、安全、存儲(chǔ)和視頻，以及一些網(wǎng)絡(luò)應(yīng)用。今時(shí)今日，當(dāng)我們看到由人工智能驅(qū)動(dòng)的同一組Design Win時(shí)，我們對(duì)其在整個(gè)生命周期的總收入預(yù)期顯著增加。與此同時(shí)，人工智能在整個(gè)生命周期收入中所占的相對(duì)比例從我們之前預(yù)測(cè)的約20%增加到今天的一半以上。因此，計(jì)算人工智能應(yīng)用現(xiàn)已成為Marvell云優(yōu)化硅平臺(tái)最大的收入來(lái)源和機(jī)會(huì)。

  隨著人工智能需求的持續(xù)增長(zhǎng)，我們看到，隨著時(shí)間的推移，這些云優(yōu)化Design Win的年收入將遠(yuǎn)遠(yuǎn)超過(guò)此前預(yù)計(jì)的8億美元。事實(shí)上，我們有許多與人工智能相關(guān)的定制硅產(chǎn)品，預(yù)計(jì)明年將投入批量生產(chǎn)。

  除了在人工智能網(wǎng)絡(luò)連接方面的強(qiáng)勢(shì)地位外，我們相信Marvell已經(jīng)做好了應(yīng)對(duì)計(jì)算機(jī)會(huì)的準(zhǔn)備。在過(guò)去的幾個(gè)月里，我們花時(shí)間仔細(xì)繪制了人工智能的收入圖，以跟蹤它的進(jìn)展。鑒于我們已經(jīng)取得的巨大進(jìn)步，包括最近客戶需求的增長(zhǎng)，我們預(yù)計(jì)人工智能應(yīng)用帶來(lái)的收入將加速增長(zhǎng)。在2023財(cái)年，我們估計(jì)我們的人工智能收入約為2億美元，比前一年大幅增長(zhǎng)。

  該收入主要來(lái)自我們的PAM4光學(xué)和400ZR DCI產(chǎn)品。自3月初財(cái)報(bào)電話會(huì)議以來(lái)，這些產(chǎn)品的預(yù)訂量大幅增加。因此，我們預(yù)計(jì)Marvell的整體人工智能收入在2024財(cái)年至少會(huì)翻一番。展望2025財(cái)年，我們預(yù)計(jì)人工智能網(wǎng)絡(luò)連接將繼續(xù)實(shí)現(xiàn)強(qiáng)勁增長(zhǎng)。

  總的來(lái)說(shuō)，我們預(yù)計(jì)明年我們的整體人工智能收入將至少再翻一番。換句話說(shuō)，我們預(yù)測(cè)2023-2025財(cái)年人工智能收入的復(fù)合年增長(zhǎng)率將超過(guò)100%。未來(lái)，我們預(yù)計(jì)涉及視頻和圖像的生成式人工智能實(shí)現(xiàn)將為HDD和閃存的整體存儲(chǔ)和EB增長(zhǎng)提供推動(dòng)力。