講座主題:八卦爐:面向國(guó)產(chǎn)智能算力核心基礎(chǔ)軟件
專(zhuān)家姓名:翟季冬
工作單位:清華大學(xué)
講座時(shí)間:2024年08月19日11:10-11:45
講座地點(diǎn):綜合樓逸夫廳
主辦單位:煙臺(tái)大學(xué)計(jì)算機(jī)與控制工程學(xué)院
內(nèi)容摘要:
隨著大模型技術(shù)的不斷發(fā)展,其對(duì)算力的需求也在持續(xù)增大。然而,中國(guó)在獲取最先進(jìn)的芯片方面面臨巨大的挑戰(zhàn)。如何充分發(fā)揮國(guó)產(chǎn)算力硬件性能,讓國(guó)產(chǎn)算力易用好用,滿(mǎn)足大模型對(duì)算力的需求具有重要意義。針對(duì)此挑戰(zhàn),我們?cè)趪?guó)產(chǎn)智能算力上開(kāi)展核心基礎(chǔ)軟件相關(guān)研究。其中,在新一代國(guó)產(chǎn)超級(jí)計(jì)算機(jī)上,我們從編譯器、算子庫(kù)、并行加速和負(fù)載均衡等方面對(duì)大模型進(jìn)行了深入優(yōu)化,優(yōu)化后的訓(xùn)練性能達(dá)到EFLOPS。
主講人介紹:
翟季冬,清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授,博士生導(dǎo)師。國(guó)家杰出青年科學(xué)基金獲得者,國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目負(fù)責(zé)人。清華大學(xué)計(jì)算機(jī)系高性能所副所長(zhǎng)。CCF高性能計(jì)算專(zhuān)委副主任、CCF杰出會(huì)員、ACM中國(guó)高性能計(jì)算專(zhuān)家委員會(huì)秘書(shū)長(zhǎng)。主要研究領(lǐng)域包括并行計(jì)算、編程模型與編譯優(yōu)化。在并行計(jì)算與系統(tǒng)領(lǐng)域頂級(jí)會(huì)議和期刊發(fā)表論文100余篇,出版專(zhuān)著1部。研究成果獲IEEE TPDS 2021最佳論文獎(jiǎng)、IEEE CLUSTER 2021最佳論文獎(jiǎng)、ACM ICS 2021最佳學(xué)生論文獎(jiǎng)等。擔(dān)任NPC 2018程序委員會(huì)主席、IEEE CLUSTER 2021領(lǐng)域主席,IEEE Transactions on Computers等多個(gè)國(guó)際學(xué)術(shù)期刊編委。擔(dān)任清華大學(xué)學(xué)生超算團(tuán)隊(duì)教練,指導(dǎo)的團(tuán)隊(duì)十四次獲得世界冠軍。獲教育部科技進(jìn)步一等獎(jiǎng)、中國(guó)計(jì)算機(jī)學(xué)會(huì)自然科學(xué)一等獎(jiǎng)、CCF-IEEE CS青年科學(xué)家獎(jiǎng)。