>> 海通證券-計算機(jī)行業(yè)跟蹤周報322期:微軟Ignite技術(shù)大會召開,英偉達(dá)發(fā)布H200-231119
| 上傳日期: |
2023/11/20 |
大?。?/td>
| 459KB |
| 格式: |
pdf 共3頁 |
來源: |
海通證券 |
| 評級: |
優(yōu)于大市 |
作者: |
楊林,楊蒙 |
| 行業(yè)名稱: |
計算機(jī) |
| 下載權(quán)限: |
此報告為加密報告,僅限高級會員查看 |
|
|
微軟召開Ignite技術(shù)大會,發(fā)布自身設(shè)計的兩款芯片。根據(jù)微軟官微,在本次Ignite技術(shù)大會上,微軟發(fā)布了基于微軟數(shù)據(jù)中心集群的創(chuàng)新產(chǎn)品,包括行業(yè)合作伙伴推出的最新AI優(yōu)化芯片,以及微軟設(shè)計的兩款芯片。Microsoft AzureMaia是一款A(yù)I加速器芯片,用于OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作負(fù)載運(yùn)行云端訓(xùn)練和推理。Microsoft Azure Cobalt是一款基于Arm架構(gòu)的云原生芯片,針對通用工作負(fù)載的性能、功率和成本效益進(jìn)行了優(yōu)化。此外,Azure Boost也將正式商用。該系統(tǒng)可將存儲和網(wǎng)絡(luò)進(jìn)程從主機(jī)服務(wù)器轉(zhuǎn)遷移到專用硬件和軟件上,從而提高存儲和網(wǎng)絡(luò)速度。作為定制芯片的補(bǔ)充,微軟正在拓展與芯片供應(yīng)商的合作伙伴關(guān)系,為客戶提供基礎(chǔ)設(shè)施選項。微軟將在智能云Azure中添加AMDMI300X加速虛擬機(jī)(VMs)。NDMI300虛擬機(jī)(VMs)將采用AMD最新的GPU——AMDInstinct MI300X,旨在加速AI工作負(fù)載的處理,以實現(xiàn)高范圍的AI模型訓(xùn)練和生成式推理。為英偉達(dá)H100 Tensor CoreGPU打造的全新NCH100 v5虛擬機(jī)系列開放預(yù)覽,將提高大中型AI訓(xùn)練和生成式推理的性能、可靠性和效率。微軟還發(fā)布了NDH200 v5虛擬機(jī)系列計劃,這是一款A(yù)I優(yōu)化虛擬機(jī),配備了即將推出的英偉達(dá)H200 Tensor Core GPU。 Copilot提升用戶生產(chǎn)力,微軟持續(xù)更新Copilot相關(guān)產(chǎn)品。根據(jù)微軟官微,微軟結(jié)合調(diào)查和實驗的研究表明,Copilot確實幫助用戶提高了生產(chǎn)力:70%的Copilot用戶表示,他們的工作效率得到了提升;68%的用戶表示,他們的工作質(zhì)量提高了;68%的用戶表示Copilot有助于創(chuàng)意類工作的開展。總體而言,用戶在特定任務(wù)(如搜索、寫作和總結(jié))上的效率提高了29%。錯過會議時,Copilot用戶可以用比之前快近4倍的速度了解會議內(nèi)容。64%的用戶表示,Copilot幫助他們減少了處理電子郵件的時間。87%的用戶表示,Copilot讓起草初稿變得更簡單。75%的用戶表示,Copilot "節(jié)約了其查找文件的時間"。77%的用戶表示,一旦用上了Copilot,就很難再放下。在此次微軟Ignite技術(shù)大會上,微軟不斷完善Copilot的愿景,打造其成為借助AI幫助人們?nèi)〉酶蟪删偷墓ぞ?。為了超越個人生產(chǎn)力,微軟正在將Copilot系列產(chǎn)品擴(kuò)展到各種解決方案中,以轉(zhuǎn)變每個角色和職能的生產(chǎn)力和業(yè)務(wù)流程,包括辦公人員、一線員工、開發(fā)者和IT專業(yè)人士。此次Copilot相關(guān)的一些新發(fā)布和更新包括:Microsoft Copilot for Microsoft365;Microsoft Copilot Studio:低代碼工具,旨在通過集成關(guān)鍵業(yè)務(wù)數(shù)據(jù)來定制Microsoft Copilot for Microsoft 365;Microsoft Copilot for Service:最新的Copilot提供基于用戶角色的支持,幫助企業(yè)加快客戶服務(wù)的AI轉(zhuǎn)型;MicrosoftCopilot for Azure:一款針對IT人員、可簡化日常IT管理的AI伙伴。 英偉達(dá)發(fā)布H200,顯存容量相比A100實現(xiàn)翻倍。根據(jù)英偉達(dá)官微,11月13日,NVIDIA宣布推出NVIDIAHGXH200,其是首款采用HBM3e的GPU,其運(yùn)行更快、更大的顯存容量將進(jìn)一步加速生成式AI與大語言模型,同時推進(jìn)用于HPC工作負(fù)載的科學(xué)計算。憑借HBM3e,NVIDIAH200能夠提供傳輸速度達(dá)4.8TB/秒的141GB顯存。與上一代架構(gòu)的NVIDIAA100相比,其容量幾乎翻了一倍,帶寬也增加了2.4倍。全球領(lǐng)先的服務(wù)器制造商和云服務(wù)提供商預(yù)計于2024年第二季度開始提供搭載H200的系統(tǒng)。與前代架構(gòu)相比,NVIDIAHopper架構(gòu)實現(xiàn)了前所未有的性能躍升,而H100持續(xù)的軟件升級,包括最近發(fā)布的NVIDIATensorRT-LLM等強(qiáng)大的開源庫,都在不斷提升其性能標(biāo)準(zhǔn)。H200的推出將帶來進(jìn)一步的性能飛躍,比如在一個700億參數(shù)的LLM——Llama 2上的推理速度比H100提高了近一倍。隨著未來軟件的持續(xù)升級,H200有望實現(xiàn)更大的性能優(yōu)勢與提升。NVIDIAH200將提供四路和八路NVIDIAHGXH200服務(wù)器主板可選,其與HGXH100系統(tǒng)的硬件和軟件都兼容。同時還可用于NVIDIAGH200 GraceHopper超級芯片。這些配置使H200可以部署在各類數(shù)據(jù)中心,包括本地、云、混合云和邊緣。我們認(rèn)為,伴隨AI芯片的持續(xù)面世,未來AI大模型訓(xùn)練速度有望持續(xù)提升 四部門聯(lián)合發(fā)布《關(guān)于開展智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點工作的通知》,智能駕駛落地進(jìn)入新時期。根據(jù)中國政府網(wǎng),近日工業(yè)和信息化部、公安部、住房和城鄉(xiāng)建設(shè)部、交通運(yùn)輸部聯(lián)合發(fā)布了《關(guān)于開展智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點工作的通知》(以下簡稱《通知》),《通知》的總體要求為:在智能網(wǎng)聯(lián)汽車道路測試與示范應(yīng)用工作基礎(chǔ)上,遴選具備量產(chǎn)條件的智能網(wǎng)聯(lián)汽車產(chǎn)品,開展準(zhǔn)入試點。對取得準(zhǔn)入的產(chǎn)品,在限定區(qū)域內(nèi)開展上路通行試點,用于運(yùn)輸經(jīng)營的需滿足有關(guān)運(yùn)營資質(zhì)和運(yùn)營管理要求。自動駕駛功能是指《汽車駕駛自動化分級》(GB/T 40429-2021)定義的3級駕駛自動化和4級駕駛自動化功能;工作目標(biāo)為:引導(dǎo)智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)和使用主體加強(qiáng)能力建設(shè),在保障安全的
|
|