百度演示大模型微調(diào)過(guò)程 “文心一言”調(diào)用成本下降近九成

2023-05-11 13:38:46 編輯：周堅(jiān)睿來(lái)源：

導(dǎo)讀近期在技術(shù)交流會(huì)上百度帶來(lái)對(duì)文心千帆大模型平臺(tái)能力的現(xiàn)場(chǎng)演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調(diào)用和模型微調(diào)兩部分。演示結(jié)

近期在技術(shù)交流會(huì)上百度帶來(lái)對(duì)“文心千帆大模型平臺(tái)”能力的現(xiàn)場(chǎng)演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調(diào)用和模型微調(diào)兩部分。

演示結(jié)果為文心一言下屬的數(shù)據(jù)可視化應(yīng)用Sugar可以對(duì)結(jié)構(gòu)化的數(shù)據(jù)采集進(jìn)行理解并快速輸出圖餅。面對(duì)模型無(wú)法理解的畫(huà)折線圖需求，工作人員則通過(guò)文心千帆大模型平臺(tái)的微調(diào)功能導(dǎo)入100條標(biāo)注數(shù)據(jù)后對(duì)Prompt進(jìn)行現(xiàn)場(chǎng)改寫(xiě)，實(shí)現(xiàn)折線圖功能。百度集團(tuán)副總裁侯震宇表示：即便從頭訓(xùn)練模型的成本依然高昂，但使用大模型以及基于大模型底座訓(xùn)練和微調(diào)模型的成本已經(jīng)顯著降低，現(xiàn)在調(diào)用文心一言的成本已經(jīng)降低到模型高發(fā)布時(shí)的10%。對(duì)于大模型，各個(gè)公司都在使出全力，已經(jīng)從最初的研發(fā)到達(dá)競(jìng)爭(zhēng)最激烈的中斷時(shí)期，未來(lái)低成本和高性能也會(huì)成為各個(gè)廠商追求的目標(biāo)。