美國(guó)俄勒岡州立大學(xué)科研團(tuán)隊(duì)研發(fā)出一種新型AI芯片，成功將大語(yǔ)言模型的能耗降低50%。這項(xiàng)成果於近期在波士頓舉行的IEEE定制集成電路會(huì)議上發(fā)布，是半導(dǎo)體領(lǐng)域的重大突破，有望成為解決大語(yǔ)言模型高能耗問(wèn)題的“綠色鑰匙”。

當(dāng)前，以谷歌“雙子座”和OpenAI的GPT-4為代表的大語(yǔ)言模型，因海量參數(shù)使得算力需求激增，進(jìn)而導(dǎo)致能源需求急速飆升。

研究團(tuán)隊(duì)指出，問(wèn)題的關(guān)鍵在於數(shù)據(jù)中心銅基通信鏈路的數(shù)據(jù)傳輸。高速數(shù)據(jù)交換不僅會(huì)產(chǎn)生誤差，更會(huì)帶來(lái)巨大的能源浪費(fèi)。傳統(tǒng)均衡器雖能糾錯(cuò)，但其自身就是“電老虎”。一種解決方案是開(kāi)發(fā)更高效的有線(xiàn)通信芯片。

他們開(kāi)發(fā)的新芯片能夠借助AI技術(shù)，通過(guò)訓(xùn)練其上的分類(lèi)器識(shí)別並糾正錯(cuò)誤，以更智能高效的方式恢復(fù)數(shù)據(jù)，從而降低能耗。與傳統(tǒng)設(shè)計(jì)相比，新芯片能使大語(yǔ)言模型消耗的能源減半。

研究團(tuán)隊(duì)已著手開(kāi)發(fā)下一代芯片，預(yù)計(jì)將帶來(lái)更驚人的能效表現(xiàn)。隨著全球AI算力需求持續(xù)飆升，這項(xiàng)技術(shù)或?qū)⒊蔀榫G色計(jì)算的重要推手。（記者劉霞）

分享讓更多人看到