久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

CUDA是英偉達(dá)于2007年發(fā)布的高性能計(jì)算平臺(tái)，經(jīng)過近二十年的發(fā)展，CUDA在成熟度和面向AI場景的支持能力方面，相比其他AI芯片廠商存在一定的優(yōu)勢(shì)。英偉達(dá)先后在CUDA平臺(tái)引入了NVLink、混合精度訓(xùn)練（FP16）等能力，并在CUDA層面實(shí)現(xiàn)了對(duì)Tensor Core的支持，使矩陣計(jì)算的速度得到數(shù)量級(jí)提升。因此，CUDA也成為了英偉達(dá)在高性能計(jì)算和AI計(jì)算領(lǐng)域的主要壁壘。
　　雖然CUDA已具備較高的成熟度以及較為完善的算子支持，但在工程中仍需要開發(fā)者進(jìn)行工作量較大的手動(dòng)優(yōu)化。同時(shí)，在進(jìn)行跨平臺(tái)代碼遷移時(shí)，基于CUDA接口的代碼也需要開發(fā)者重新進(jìn)行編寫。因此，Philippe Tillet由于2019年提出Triton項(xiàng)目，Triton能夠自動(dòng)化處理線程、內(nèi)存的操作等底層細(xì)節(jié)，進(jìn)一步降低了GPU內(nèi)核程序的開發(fā)門檻，加快了開發(fā)者在AI場景下的開發(fā)效率。隨著Philippe Tillet在2020年加入OpenAI，Triton在OpenAI內(nèi)部得到了推廣和使用，OpenAI于2021年正式將Triton開源。
　　目前，國產(chǎn)AI芯片廠商的高性能計(jì)算平臺(tái)在框架兼容性和工具鏈完善度上，與英偉達(dá)CUDA平臺(tái)仍有一定的差距。此外，國產(chǎn)AI芯片廠商的硬件架構(gòu)無法做到互相兼容，各廠商的高性能計(jì)算平臺(tái)也無法實(shí)現(xiàn)通用，這導(dǎo)致開發(fā)者需要針對(duì)不同的國產(chǎn)AI芯片平臺(tái)進(jìn)行優(yōu)化和適配，增加了開發(fā)成本，不利于國產(chǎn)AI芯片的大規(guī)模推廣和使用。
　　TileLang由北京大學(xué)計(jì)算機(jī)學(xué)院團(tuán)隊(duì)開發(fā)，并于2025年1月正式開源。TileLang與Triton類似，都是專為AI算子開發(fā)設(shè)計(jì)的程序語言。TileLang將高性能計(jì)算中的“分塊技術(shù)”（Tile）作為提升AI算子性能的關(guān)鍵，通過分塊實(shí)現(xiàn)了內(nèi)存優(yōu)化和自動(dòng)調(diào)度。TileLang將原本需要手動(dòng)優(yōu)化的操作，與內(nèi)核的數(shù)據(jù)流（Dataflow）解耦，將大多數(shù)優(yōu)化工作交給TileLang編譯器完成，編譯器能夠自動(dòng)推導(dǎo)出適合目標(biāo)硬件的優(yōu)化策略。
　　我們認(rèn)為：TileLang或?qū)⒔鉀Q頭部AI芯片公司與國產(chǎn)AI芯片的高性能計(jì)算平臺(tái)之間接口互不兼容的問題，同時(shí)，對(duì)國產(chǎn)AI芯片的高性能計(jì)算平臺(tái)進(jìn)行有效的優(yōu)化。TileLang有望降低互聯(lián)網(wǎng)大廠在生成式AI模型推理和訓(xùn)練代碼遷移時(shí)的成本，加速國產(chǎn)AI芯片的技術(shù)落地和商業(yè)化。
　　建議關(guān)注：
　　1）AI推理芯片：寒武紀(jì)、海光信息。
　　2）算力服務(wù)器：浪潮信息、中科曙光、華勤技術(shù)、神州數(shù)碼。
　　風(fēng)險(xiǎn)提示：人工智能技術(shù)落地和商業(yè)化不及預(yù)期；產(chǎn)業(yè)政策轉(zhuǎn)變；宏觀經(jīng)濟(jì)不及預(yù)期。