ICC訊 國際光電委員會(IPEC)繼續(xù)推動人工智能(AI)集群新一代光互連的行業(yè)討論。近期(2024年7月30日),IPEC舉行了主題為“AI集群中光學的特殊要求”(Special requirements for optics in AI Clusters)的網(wǎng)絡研討會。該活動包括8個演講,吸引了400多名與會者,持續(xù)了整整3個小時,有超過30多位觀眾提問。
Andy Bechtolsheim以對GPU性能的預測拉開了活動的序幕。如下圖所示,隨著CMOS、基板/封裝方法、芯片架構(gòu)和冷卻技術(shù)的進步,預計從2022年到2028年,這一數(shù)字將增加100倍。
Andy的時間表非常激進(和往常一樣)。所有這些新技術(shù)可能需要十年時間才能投入批量生產(chǎn)。關(guān)于英偉達/臺積電用于封裝Blackwell GPU的新CoWoS技術(shù)存在問題的最新傳言表明,將新技術(shù)轉(zhuǎn)化為大規(guī)模生產(chǎn)是多么具有挑戰(zhàn)性。
管理這些非常大的芯片組件的散熱是許多問題之一。在人工智能集群中使用的所有技術(shù)都必須有一個提高能效的路線圖。CMOS確實有5年內(nèi)從5nm到3nm和2nm的路線圖,但光互連仍在尋找更高功率效率的路徑。
Andy介紹了當前設計的重定時、LRO和LPO 1.6T(8x200G)收發(fā)器的功耗估算,如下圖所示。重定時(DSP)模塊消耗30W,是800G模塊的2倍多。LPO和/或LRO確實為更高的功率效率提供了一條途徑,但目前尚不清楚它們是否以每通道200G的速度工作。Andy評論說,使用干凈的電氣通道224G LPO可以工作,但它還需要Flyover線纜、高性能TIA和線性驅(qū)動器。
Andy還提到,112G LPO MSA的標準即將完成,應在9月ECOC之前發(fā)布。互操作性Plug-fest將于8月舉行,到2025年,幾家供應商將準備批量交付LPO。
問題是:是否有客戶準備部署LRO或LPO?
字節(jié)跳動是認真考慮8x100G LPO的潛在客戶之一。根據(jù)LightCounting的估計,到2024年,字節(jié)跳動將是中國云計算公司中第二大光模塊消費者,并有可能在2025年排名第一。
字節(jié)跳動的Yinxing Zhang給出了大量的LPO測試結(jié)果,證明了1E-6規(guī)格的Pre-FEC BER測試有助于保證鏈路在全溫度范圍內(nèi)的性能。FEC將為通過Pre-FEC BER測試的收發(fā)器性能增加余量。他還評論說,需要優(yōu)化VCSEL和收發(fā)器/AOC設計,以提高Pre-FEC BER測試的良率,但他對2025-2026年的8x100G LPO部署持樂觀態(tài)度。字節(jié)跳動并不急于轉(zhuǎn)向每通道200G的速度,至少現(xiàn)在還沒有。
LightCounting預計英偉達將在今年晚些時候測試每通道200G的LRO和LPO,并可能在2025年部署有限的數(shù)量。如果這些都不起作用,CPO將是英偉達可以依賴的另一種選擇。英偉達也在放棄基于VCSEL的SR8收發(fā)器,但字節(jié)跳動和許多其他客戶將在未來許多年內(nèi)部署這些收發(fā)器。
博通的Manish Mehta討論了CPO的進展,并介紹了與云暉合作開發(fā)的SR8 LRO收發(fā)器的最新測試數(shù)據(jù),如下所示。他還討論了用于人工智能應用的SMF雙向收發(fā)器的設計。該技術(shù)已在FTTx收發(fā)器中使用了20多年。Manish還回顧了博通(Avago/Agilent)30年來收發(fā)器制造的歷史,其中包括10萬億(是的,這是萬億?。﹤€現(xiàn)場裝置時(Device hours),可靠性記錄<1FIT。
Meta的Drew Alduino展示了硬件故障如何減慢AI集群運行的數(shù)據(jù)。單個GPU故障或網(wǎng)絡鏈路故障會使整個集群的效率降低40%。緩解故障(通過軟件)最多可能需要10分鐘。這樣的故障平均每30-45分鐘發(fā)生一次。對于基于更復雜的GPU和光學的大型集群,這個問題會變得更糟。
他還分享了200G FR4和400G FR4模塊的收發(fā)器故障分析數(shù)據(jù),如下所示。直接調(diào)制激光器衰減是200G模塊故障的主要原因。與一般的制造問題(PCBA和引線鍵合)相比,400G收發(fā)器中使用的EML性能下降的問題較小。他建議使用更簡單和更集成的設計將有助于減少這些故障。從這個角度來看,LPO和CPO都是行業(yè)探索的正確方向。不僅可以降低功耗,還可以提高可靠性。
華為的Eric Bernier也討論了提高可靠性的方法。除了優(yōu)化整個收發(fā)器或集成芯片的光電設計和提高光源效率外,基于激光陣列的更高功率光源也將有所幫助。如果一個激光器性能下降,陣列中的其他激光器可以產(chǎn)生更多的功率,以補償故障的激光器。
其他演講者包括Quintescent的Cris Cole,他提供了關(guān)于硅基量子點激光器可靠性提高100倍的更多數(shù)據(jù)。英特爾的Christian Urricariet分享了關(guān)于異質(zhì)集成激光器極高可靠性(<0.1FIT)的數(shù)據(jù)。Ranovus的Jeff Hutchins認為,只有高度集成的CPO解決方案才能滿足AI集群的可靠性要求。
原文內(nèi)容請參考:https://www.lightcounting.com/resource/53/resourceFile/081324%20Research%20Note%20on%20IPEC%20webinar.pdf