說(shuō)到最近網(wǎng)上最火的科技名詞，非“ChatGPT”莫屬，有關(guān)ChatGPT話(huà)題頻頻登榜熱搜。

ChatGPT的技術(shù)底座是“大型語(yǔ)言模型（Large Language Models）”，簡(jiǎn)稱(chēng)LLMs。近幾年隨著LLMs的不斷發(fā)展，對(duì)自然語(yǔ)言處理（NLP）研究的業(yè)務(wù)落地帶來(lái)了質(zhì)的飛躍。從Transformer的提出，到BERT的廣泛使用，再到GPT的迭代發(fā)展，LLMs對(duì)算力和數(shù)據(jù)的需求呈現(xiàn)爆發(fā)式增長(zhǎng)。

相關(guān)數(shù)據(jù)顯示，日常ChatGPT官網(wǎng)1月總訪(fǎng)問(wèn)量達(dá)到6.16億次——按照運(yùn)營(yíng)階段（以13億模型參數(shù)為例），參考每次訪(fǎng)問(wèn)0.01美元估算，單月推理運(yùn)營(yíng)成本達(dá)到616萬(wàn)美元，合算算力約4.2E23 FLOPs。

目前，OpenAI訓(xùn)練ChatGPT使用的計(jì)算集群的峰值性能已經(jīng)可以排進(jìn)同期（2020.05）超級(jí)計(jì)算機(jī)Top500榜單的前5名，達(dá)到60PFlops的水平（作為對(duì)比，“神威·太湖之光”整機(jī)峰值算力為120PFlops）。

據(jù)OpenAI測(cè)算，自2012年以來(lái)，全球頭部AI模型訓(xùn)練算力需求3-4個(gè)月翻一番，每年頭部訓(xùn)練模型所需算力增長(zhǎng)幅度高達(dá)10倍，即使不考慮摩爾定律的減緩，也遠(yuǎn)超計(jì)算機(jī)硬件性能增長(zhǎng)速度，領(lǐng)域定制化和異構(gòu)計(jì)算技術(shù)逐漸成為智能計(jì)算硬件研發(fā)的熱點(diǎn)。

隨著AI大模型進(jìn)入超級(jí)計(jì)算時(shí)代，從“大煉模型”到 “煉大模型”，算力基礎(chǔ)將成為邁向更高通用人工智能的門(mén)檻。隨著人工智能業(yè)務(wù)場(chǎng)景的成熟落地，傳統(tǒng)數(shù)據(jù)中心、算力中心的智能化升級(jí)成為迫切需求，而高性能計(jì)算（HPC）與人工智能的系統(tǒng)化結(jié)合將成為升級(jí)的關(guān)鍵。

隨著“十四五規(guī)劃”、“東數(shù)西算”等戰(zhàn)略政策的發(fā)布，國(guó)產(chǎn)算力新基建的快速發(fā)展將為高性能計(jì)算和人工智能的融合提供強(qiáng)大的算力支撐，為盡快補(bǔ)齊數(shù)字經(jīng)濟(jì)領(lǐng)域發(fā)展短板創(chuàng)造條件。

高算力、低耗能、強(qiáng)自主可控的系統(tǒng)級(jí)解決方案是智算中心建設(shè)的關(guān)鍵。太初元碁Tecorigin作為智能計(jì)算系統(tǒng)解決方案提供商，致力于國(guó)產(chǎn)智算系統(tǒng)的研發(fā)與優(yōu)化，針對(duì)大規(guī)模人工智能應(yīng)用的特性，從核心計(jì)算單元到網(wǎng)絡(luò)通信再到存儲(chǔ)系統(tǒng)等形成了完整的技術(shù)實(shí)現(xiàn)鏈條。依托于豐富的產(chǎn)品體系和龐大的技術(shù)團(tuán)隊(duì)，太初元碁Tecorigin持續(xù)在智能計(jì)算領(lǐng)域發(fā)力，通過(guò)國(guó)產(chǎn)異構(gòu)平臺(tái)的成功推廣與廣泛落地，逐步形成國(guó)產(chǎn)算力網(wǎng)，為人工智能業(yè)務(wù)落地提供有力支撐。

立足當(dāng)下，展望未來(lái)，我們將持續(xù)肩負(fù)著“鑄造中國(guó)算力基石，構(gòu)建未來(lái)智能世界”的使命，不斷夯實(shí)國(guó)產(chǎn)算力基礎(chǔ)，大力發(fā)展人工智能計(jì)算技術(shù)，共創(chuàng)數(shù)智融合的新時(shí)代。