據(jù)來自安徽省量子計算工程研究中心的消息,近日,本源量子、合肥綜合性國家科學(xué)中心人工智能研究院等機構(gòu)聯(lián)合攻關(guān),在中國第三代自主超導(dǎo)量子計算機“本源悟空”真機上,首次運行十億參數(shù)AI大模型微調(diào)任務(wù)。實驗結(jié)果顯示,在參數(shù)量減少76%的前提下,訓(xùn)練效果反而提升8.4%。這一成果不僅驗證了量子計算助力實現(xiàn)大模型輕量化的可行性,更為破解大模型“算力焦慮”開辟了新路徑。
微調(diào)是指在通用大模型的基礎(chǔ)上,通過進一步訓(xùn)練特定領(lǐng)域數(shù)據(jù),使其適應(yīng)醫(yī)療診斷、金融風(fēng)控等專業(yè)場景。傳統(tǒng)低秩微調(diào)面臨性能瓶頸、泛化能力有限等問題,量子計算憑借其疊加態(tài)和糾纏態(tài)特性可同時探索海量參數(shù)組合,提升大模型微調(diào)的效率。
據(jù)介紹,“本源悟空”是目前我國先進的可編程、已交付超導(dǎo)量子計算機,已為全球139個國家超2300萬人次提供量子算力云服務(wù)。(啟源 楊夏)
轉(zhuǎn)自:中國知識產(chǎn)權(quán)報
【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個人觀點,不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系:010-65363056。
延伸閱讀