>> 光大證券-AI行業(yè)跟蹤報(bào)告第52期：OIO，Ayar Labs獲英偉達(dá)投資，光子算數(shù)董事長(zhǎng)參股邁信林-250206
| 上傳日期： |
2025/2/7 |
大?。?/td>
| 2255KB |
| 格式： |
pdf 共14頁(yè) |
來(lái)源： |
光大證券 |
| 評(píng)級(jí)： |
買入 |
作者： |
劉凱,孫嘯 |
| 下載權(quán)限： |
此報(bào)告為加密報(bào)告 |
|
|
1、北美OIO領(lǐng)先企業(yè)Ayar Labs同時(shí)獲得英偉達(dá)、AMD和INTEL投資
1.1 Ayar Labs同時(shí)獲得英偉達(dá)、AMD和INTEL投資
Ayar Labs估值已超10億美元。根據(jù)芯東西2024年12月12日?qǐng)?bào)道，硅谷光互連芯片設(shè)計(jì)公司Ayar Labs于2024年12月11日宣布完成英偉達(dá)、AMD、INTEL、格芯等參投的1.55億美元融資。與臺(tái)積電有戰(zhàn)略合作關(guān)系的VentureTechAlliance、美國(guó)機(jī)器制造巨頭3M也參與了此輪融資。
目前其累計(jì)融資達(dá)3.7億美元，估值已超過(guò)10億美元，成為新晉芯片獨(dú)角獸。
Ayar Labs聯(lián)合創(chuàng)始人兼CEO馬克·韋德（Mark Wade）指出：“領(lǐng)先的GPU提供商AMD和英偉達(dá)以及半導(dǎo)體代工廠格芯、INTEL代工、臺(tái)積電，再加上Advent、Light Street和我們其他投資者的支持，凸顯了我們的光學(xué)I/O技術(shù)重新定義AI基礎(chǔ)設(shè)施未來(lái)的潛力?！?br> 1.2 Ayar Labs：OIO領(lǐng)先企業(yè)
Ayar Labs成立于2015年，總部位于加州圣何塞，專門為大規(guī)模AI工作負(fù)載提供光互連解決方案。其瞄準(zhǔn)的賽道，如今正是下一代AI基礎(chǔ)設(shè)施建設(shè)的關(guān)鍵技術(shù)之一。當(dāng)前大多數(shù)數(shù)據(jù)中心的運(yùn)營(yíng)依賴于傳統(tǒng)的電互連，銅線是數(shù)據(jù)中心短距離信息傳輸?shù)臉?biāo)準(zhǔn)。AI服務(wù)器系統(tǒng)在持續(xù)傳輸數(shù)據(jù)過(guò)程中會(huì)消耗大量電力，打破現(xiàn)有AI基礎(chǔ)設(shè)施瓶頸的有效解法之一，便是采用光互連技術(shù)來(lái)加速通信。
采用傳統(tǒng)互連時(shí)，隨著AI模型復(fù)雜性增加，系統(tǒng)效率會(huì)降低。根據(jù)Ayar Labs官網(wǎng)數(shù)據(jù)，一顆GPU的運(yùn)行效率為80%，64顆GPU的運(yùn)行效率可能是50%，256顆GPU的運(yùn)行效率可能只有30%。光學(xué)I/O則能夠針對(duì)提高AI基礎(chǔ)設(shè)施的性能和能效。
英偉達(dá)數(shù)據(jù)中心產(chǎn)品首席平臺(tái)架構(gòu)師羅伯·奧伯（Rob Ober）認(rèn)為，過(guò)去十年，英偉達(dá)加速計(jì)算已經(jīng)為AI帶來(lái)百萬(wàn)倍的加速，而下一個(gè)百萬(wàn)倍的加速將需要光學(xué)I/O等全新技術(shù)，來(lái)支持未來(lái)AI/ML工作負(fù)載和系統(tǒng)架構(gòu)的帶寬、功率和規(guī)模要求。
OpenAI計(jì)算主管克里斯托弗·伯納（Christopher Berner）也強(qiáng)調(diào)，橫向擴(kuò)展期間的互連帶寬對(duì)于防止加速器在等待網(wǎng)絡(luò)傳輸或梯度時(shí)停轉(zhuǎn)至關(guān)重要。
Ayar Labs開(kāi)發(fā)了業(yè)界首款針對(duì)大規(guī)模AI工作負(fù)載優(yōu)化的封裝內(nèi)光學(xué)I/O解決方案。相比采用可插拔光學(xué)器件+電氣SerDes的傳統(tǒng)互連，Ayar Labs的方案可實(shí)現(xiàn)5~10倍的更高帶寬、4~8倍的能效，并將延遲降低至1/10。
Ayar Labs的方案結(jié)合了兩項(xiàng)行業(yè)首創(chuàng)技術(shù)——TeraPHY光學(xué)I/OChiplet和SuperNova多波長(zhǎng)光源。
1、TeraPHY可集成到客戶的SoC封裝中，利用其SuperNova遠(yuǎn)程光技術(shù)實(shí)現(xiàn)更快的芯片間通信，從而幫助客戶最大限度地提高AI基礎(chǔ)設(shè)施的計(jì)算效率和性能，還能提高“AI應(yīng)用的盈利能力指標(biāo)”。
TeraPHY光學(xué)I/OChiplet是一款體積小、功耗低、吞吐量高的銅背板和可插拔光學(xué)通信替代方案，其模塊化多端口設(shè)計(jì)可承載8個(gè)光通道（相當(dāng)于x8 PCIeGen5鏈路）。它將硅光子學(xué)與標(biāo)準(zhǔn)CMOS制造工藝結(jié)合，使專用集成電路（ASIC）能跨越從毫米到千米的距離進(jìn)行通信，相當(dāng)于形成一個(gè)巨型GPU。每個(gè)端口有256Gbps，每個(gè)Chiplet有2Tbps。
萬(wàn)億參數(shù)AI模型和高性能計(jì)算（HPC）設(shè)計(jì)需要不斷增加的帶寬。Ayar Labs光學(xué)I/O提供4Tbps的總雙向帶寬，為生成式AI架構(gòu)開(kāi)辟了新的可能性。高性能計(jì)算（HPC）和AI的分布式計(jì)算系統(tǒng)無(wú)法容忍傳統(tǒng)電氣I/O前向糾錯(cuò)帶來(lái)的數(shù)十納秒額外延遲。而Ayar Labs光學(xué)I/O的延遲為每Chiplet + TOF 5納秒，無(wú)需前向糾錯(cuò)。為了使電氣I/O和可插拔光學(xué)器件能夠穿越系統(tǒng)、機(jī)架和數(shù)據(jù)中心，112 Gbps長(zhǎng)距離電氣I/O會(huì)消耗6-10pJ/b的能量。Ayar Labs光學(xué)I/O消耗的能量則不到5pJ/b（10W）。
2、SuperNova是首款符合CW-WDMMSA標(biāo)準(zhǔn)的多波長(zhǎng)、多端口光源，最多支持將16種波長(zhǎng)的光傳輸至16根光纖。與CWDM4多波長(zhǎng)可插拔光學(xué)器件相比，其波長(zhǎng)增加了64倍。該光源可驅(qū)動(dòng)256個(gè)光學(xué)載波，實(shí)現(xiàn)16Tbps的雙向帶寬。
Ayar Labs基于開(kāi)放標(biāo)準(zhǔn)（UCIe、CXL、CW-WDMMSA），能順利大規(guī)模集成到AI系統(tǒng)中。Ayar Labs的芯片由格芯生產(chǎn)。Ayar Labs與INTEL合作，將其技術(shù)集成到INTEL的制造產(chǎn)品中。同時(shí)，Ayar Labs目前也在與臺(tái)積電洽談。HPE、INTEL、洛克希德·馬丁、英偉達(dá)都是Ayar Labs的技術(shù)合作伙伴。其供應(yīng)鏈合作伙伴包括格芯、MACOM、Sivers Semiconductors等。
2024年，Ayar Labs開(kāi)始向部分客戶出貨約15000臺(tái)設(shè)備。馬克·韋德希望到2026年中期，其芯片能實(shí)現(xiàn)大批量生產(chǎn)；到2028年及以后，每年出貨量可達(dá)到1億臺(tái)以上。
2、中國(guó)企業(yè)光子算數(shù)深度布局OIO，光子算數(shù)董事長(zhǎng)白冰入股上市公司邁信林
2.1中國(guó)企業(yè)光子算數(shù)深度布局OIO
光子算數(shù)（南京）科技有限責(zé)任公司深度布局OIO行業(yè)。光子算數(shù)于2017年11月成立，是國(guó)內(nèi)首家光計(jì)算芯粒公司，也是光計(jì)算領(lǐng)域內(nèi)首個(gè)國(guó)家高新技術(shù)企業(yè)，注冊(cè)資本659.7萬(wàn)元人民幣。
光子算數(shù)的核心技術(shù)成員來(lái)自北京
|
|
