每經(jīng)記者｜郭榮村    每經(jīng)實習(xí)記者｜安宇飛    每經(jīng)編輯｜梁梟    

“一別今朝兩月秋，重來相見酒頻投。不堪回首憶當(dāng)時，幾度春風(fēng)醉不休。”你可能想不到，這是人工智能創(chuàng)作的詩詞。

12月8日，鵬城實驗室與百度聯(lián)合召開發(fā)布會，發(fā)布了雙方共同研發(fā)的知識增強千億大模型——鵬城-百度·文心。上述詩詞創(chuàng)作，正是在這一模型中人工智能語言理解和生成能力顯著提升的表現(xiàn)。

百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程實驗室主任王海峰認(rèn)為，預(yù)訓(xùn)練大模型成為人工智能的新方向，而知識增強大模型能降低AI開發(fā)與運用的門檻。

預(yù)訓(xùn)練模型成創(chuàng)新發(fā)展重要工具

“人類社會已經(jīng)經(jīng)歷了三次工業(yè)革命，現(xiàn)在正在經(jīng)歷第四次工業(yè)革命，其中核心的技術(shù)之一就是人工智能，而人工智能需要算法、算力和數(shù)據(jù)的共同支撐。”王海峰說。

王海峰表示，近年來數(shù)據(jù)越來越多，算法越來越強大，算力也越來越強大。在這種背景下，預(yù)訓(xùn)練大模型已成為人工智能的新方向。

據(jù)了解，人工智能需要用大量的數(shù)據(jù)對其進(jìn)行訓(xùn)練，理論上來講，投喂數(shù)據(jù)越多、數(shù)據(jù)質(zhì)量越高，模型效果就會越好。而預(yù)訓(xùn)練模型，顧名思義就是預(yù)先訓(xùn)練好的模型，可以幫助人們降低模型創(chuàng)建和訓(xùn)練的成本。

王海峰稱，預(yù)訓(xùn)練大模型需要深度學(xué)習(xí)的算法，也需要大的數(shù)據(jù)、大的算力，做自監(jiān)督學(xué)習(xí)（模型直接從無標(biāo)簽數(shù)據(jù)中自行學(xué)習(xí)，無需標(biāo)注數(shù)據(jù)），再面向不同的任務(wù)、在不同的應(yīng)用場景里做少量任務(wù)數(shù)據(jù)進(jìn)行遷移學(xué)習(xí)，進(jìn)而應(yīng)用于很多場景，在各行各業(yè)開花結(jié)果。

中國工程院院士、鵬城實驗室主任高文說：“預(yù)訓(xùn)練模型對整個科學(xué)的發(fā)展、社會的發(fā)展、創(chuàng)新的發(fā)展來說都是非常重要的工具。運用這個工具，可以幫助做很多人工智能的賦能，不局限于某個領(lǐng)域，這對人工智能的發(fā)展都是一個福音。”

知識增強預(yù)訓(xùn)練模型降低AI開發(fā)應(yīng)用門檻

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，它需要在各行各業(yè)有很強的通用性，才能成為產(chǎn)業(yè)革命的通用力量。隨著知識增強大模型出現(xiàn)，開發(fā)難度更小，所需要的數(shù)據(jù)標(biāo)注量也更小，進(jìn)而使用門檻更低。

王海峰認(rèn)為，知識增強大模型能提高人工智能的學(xué)習(xí)效率，它從大規(guī)模知識和海量數(shù)據(jù)中融合學(xué)習(xí)，效率更高、效果更好，具有良好的可解釋性。

他表示，以金融領(lǐng)域為例，鵬城-百度·文心的合同智能解析能在1分鐘內(nèi)完成對相關(guān)合同條款文本的解析識別，速度是之前的幾十倍，大幅提高工作效率。

不過目前，對人工智能大模型來說，要解決的問題還很多。由于人工智能應(yīng)用領(lǐng)域十分廣泛，需求呈碎片化，如何解決通用性問題是個挑戰(zhàn)。而大模型雖然具備了更強的通用性，但它的訓(xùn)練和推理普遍需要消耗較多資源，往往很難解決應(yīng)用落地問題。

封面圖片來源：攝圖網(wǎng)-400070911