打造一個AI大模型到底需要多少算力？

2023-04-02 16:37:52 編輯：畢光綠來源：

導讀 AI已經在全球引發一股熱潮，讓人們不可忽視的潛在最大的阻力就是算力不足，算力屬于AI發展過程當中最基本的設施，打造一個AI大模型，是需要

AI已經在全球引發一股熱潮，讓人們不可忽視的潛在最大的阻力就是算力不足，算力屬于AI發展過程當中最基本的設施，打造一個AI大模型，是需要對數據集中重復的處理，也就意味著算力的大小直接代表數據能力強與弱。從2012年開始，全球AI訓練所需要的指數處于增長趨勢，3~4個月都會平均分成一倍，到現在已經擴大30萬倍，隨著華為、360、百度等大型公司加入到AI領域之后，國內對于算力的需求也與日俱增，結合OpenAI研發的相關經驗加上我國企業大型規模研發的進度來分析，現在我國對AI大型訓練以及推理階段的算力需求都進行相關成本的測算。

算力需求

目前根據商湯招股說明書的數據明確的顯示像GPT-3大模型需要大概訓練355個GPU，由于現在各家公司都在進行AI大型模型的發展，會認為科技公司訓練的AI大型模型，時間大概為一個月，訓練AI大型模型當中的AI加速卡數量會高達4260個，目前各大科技企業競爭，關鍵就是AI模型，因此在國內，會有部分人意愿的來開發出AI模型相關的公司， AI大型模型的訓練在急劇的上升當中，AI的加速卡需求量也非常的大。英偉達官方數據的顯示 A100對于AI模型可以實現每秒推理高達1757次，假設單片A100在AI模型每秒中可以產生1757個單詞。

樂觀假設

2023年數字安全與發展高峰論壇在3月29日開啟的時候，會議上明確的演示了360大型語言在瀏覽器上的應用，部分的分析師認為，像內容生產類型的應用，已經在各個科技開發商當中對AI模型有著積極探索的方向，針對不同的情況，分析師給予不一樣的假設，因此在樂觀的情況下，現在我國AI大型模型的訓練和推理階段有可能產生1.1萬臺或者是3.8萬臺的高端AI服務器的算力需求。