學(xué)術(shù)活動(dòng)
信息工程學(xué)院學(xué)術(shù)講座：高效LLM加速器開(kāi)發(fā)與模型推理的敏捷設(shè)計(jì)框架：挑戰(zhàn)與實(shí)踐
2024-12-27
點(diǎn)擊次數(shù)：時(shí)間：2024年12月27日
地點(diǎn)：校本部 新教二樓209教室
主講人：卓成 浙江大學(xué) 教授
主持人：邱柯妮 首都師范大學(xué)信息工程學(xué)院 教授
主講人簡(jiǎn)介：卓成博士，浙江大學(xué)求是特聘教授。入選國(guó)家高層次人才計(jì)劃、IEEE電子設(shè)計(jì)自動(dòng)化（CEDA）協(xié)會(huì)杰出講者和英國(guó)工程技術(shù)學(xué)會(huì)會(huì)士等。長(zhǎng)期從事集成電路設(shè)計(jì)和設(shè)計(jì)自動(dòng)化研究，發(fā)表Nature Communications、TCAD、EDL、DAC等期刊/會(huì)議論文200余篇，獲得領(lǐng)域旗艦會(huì)議ICCAD、ASPDAC、DAC等最佳論文獎(jiǎng)/提名11次。擔(dān)任IEEE TCAD等多個(gè)EDA國(guó)際期刊編委、《計(jì)算機(jī)輔助設(shè)計(jì)與圖形學(xué)學(xué)報(bào)》領(lǐng)域編委、多個(gè)國(guó)際會(huì)議主席及ACM SIGDA華東分會(huì)主席。
主講內(nèi)容簡(jiǎn)介：大語(yǔ)言模型（LLM）的廣泛應(yīng)用對(duì)加速器設(shè)計(jì)提出了前所未有的挑戰(zhàn)，包括高算力、高帶寬和能效優(yōu)化的綜合需求。傳統(tǒng)芯片開(kāi)發(fā)流程難以滿(mǎn)足快速迭代和多樣化模型推理場(chǎng)景的需求，亟需更敏捷的設(shè)計(jì)框架。本報(bào)告聚焦于高效LLM加速器開(kāi)發(fā)的核心挑戰(zhàn)，探討跨層次分析和多目標(biāo)優(yōu)化的設(shè)計(jì)框架，為構(gòu)建面向未來(lái)的敏捷加速器設(shè)計(jì)方法提供參考。
