美譽(yù)度品牌管理
作者 | jojo
編輯 | jonyle

AI大模型正迎來應(yīng)用“奇點(diǎn)”。

在一個(gè)電商交易平臺(tái)上，對(duì)話機(jī)器人正像真人一樣為顧客推薦產(chǎn)品；在一場(chǎng)特殊學(xué)校課堂上，屏幕上的虛擬手語老師實(shí)時(shí)語音轉(zhuǎn)手語完成教學(xué)；在一個(gè)腦部手術(shù)臺(tái)上，一臺(tái)手術(shù)機(jī)器人正抵達(dá)顱內(nèi)腦室深部進(jìn)行精準(zhǔn)手術(shù)……

▲基于AI大模型的虛擬人手語教學(xué)

在這些AI大模型應(yīng)用背后，一個(gè)為國(guó)內(nèi)20+大模型提供支持的“秘密武器”也浮出水面。

根據(jù)人工智能框架生態(tài)峰會(huì)2023最新消息：國(guó)內(nèi)已有超20個(gè)大模型是基于昇思MindSpore AI框架孵化。昇思MindSpore AI框架開源于2020年3月，同時(shí)成立開源社區(qū)。圍繞昇思社區(qū)展開的AI學(xué)習(xí)與產(chǎn)業(yè)化實(shí)踐，在過去三年里飛速生長(zhǎng)，目前已支持超5500家企業(yè)、與290+高?？蒲性核献魍七M(jìn)AI創(chuàng)新。而在AI大模型方面，昇思提供大模型全流程使能體系，覆蓋從大模型開發(fā)、訓(xùn)練、微調(diào)、部署的全流程服務(wù)支持。

從產(chǎn)業(yè)來看，AI框架處于AI技術(shù)體系的核心中堅(jiān)。通俗來講，它既像汽車方向盤一般，給AI用戶提供便捷的操作接口；又如同變速箱和傳動(dòng)軸一般，將算力合理高效的調(diào)度。比如國(guó)外的Pytorch、TensorFlow，國(guó)內(nèi)的昇思等，都是AI框架的代表。

近日，正值A(chǔ)I大模型及AIGC（生成式AI）在全球范圍內(nèi)加速發(fā)展，昇思公布了一系列重磅升級(jí)。

6月16日，在上海舉辦的人工智能框架生態(tài)峰會(huì)2023上，昇思MindSpore 2.0全新升級(jí)，升級(jí)覆蓋易用性提升、原生大模型支持、科學(xué)智能、多后端統(tǒng)一推理、數(shù)據(jù)處理提升機(jī)領(lǐng)域擴(kuò)展庫(kù)六大方面。與此同時(shí)，昇思MindSpore開源社區(qū)理事會(huì)成立、上海昇思AI框架&大模型創(chuàng)新中心啟動(dòng)等生態(tài)舉措也隨之發(fā)布。

▲昇思MindSpore開源社區(qū)理事會(huì)成立

我們?nèi)绾慰炊@些技術(shù)和生態(tài)更新？昇思2.0會(huì)給AI開發(fā)者們帶來什么樣的實(shí)際影響？從更大層面來看，AI大模型時(shí)代將如何改變AI開發(fā)模式、乃至全球AI生態(tài)格局？本文對(duì)此進(jìn)行了深入探討。

一、孵化20+大模型后，昇思“工具包”豪華大升級(jí)

隨著國(guó)內(nèi)“百模大戰(zhàn)”打響，一些走在前面的大模型已經(jīng)在行業(yè)中初步驗(yàn)證效果。

以開篇中提到的手語一體機(jī)、手術(shù)機(jī)器人應(yīng)用為例，其正是基于中科院自動(dòng)化所旗下的紫東.太初全模態(tài)大模型打造。

在近日的人工智能框架生態(tài)峰會(huì)2023上的采訪中，中科院自動(dòng)化所紫東太初大模型研究中心常務(wù)副主任、武漢人工智能研究院院長(zhǎng)王金橋告訴美譽(yù)度等記者，紫東.太初在2020年時(shí)就選擇了跟昇思在大模型方面展開合作，利用昇思MindSpore AI框架打造了全球首個(gè)三模態(tài)大模型紫東.太初，當(dāng)下，紫東.太初演進(jìn)至2.0全模態(tài)大模型，擁有了更強(qiáng)的認(rèn)知、理解和創(chuàng)作能力。

▲新推出的紫東.太初2.0具備認(rèn)知增強(qiáng)多模態(tài)技術(shù)

根據(jù)昇思在會(huì)上公布的數(shù)據(jù)，目前其已使能孵化了超20個(gè)大模型，包括紫東.太初2.0、秦嶺.翔語、CodeGeeX等基礎(chǔ)大模型，以及鵬程.神農(nóng)、空天.靈眸等行業(yè)大模型。

根據(jù)中關(guān)村論壇、科技部中信所最新發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》等，國(guó)內(nèi)有20+大模型都是基于昇思孵化。

▲昇思已使能孵化超20個(gè)大模型

強(qiáng)大的模型離不開先進(jìn)的AI框架，同時(shí)，不斷迭代的模型也會(huì)反推AI框架進(jìn)化升級(jí)。

近日，昇思宣布從1.0到2.0的全新升級(jí)，面向新一波AI大模型浪潮交出“答卷”。這些升級(jí)覆蓋原生大模型支持、易用性提升、科學(xué)智能等多個(gè)方面，引起眾多開發(fā)者關(guān)注。

1、推出一站式大模型開發(fā)部署平臺(tái)

首先，在最新版昇思2.0中，大模型全流程解決方案正式面世。據(jù)悉，這套方案此前在鵬城實(shí)驗(yàn)室曾創(chuàng)下28天無中斷，一舉完成2000億參數(shù)規(guī)模大模型訓(xùn)練的實(shí)踐記錄。

具體來看，昇思2.0大模型平臺(tái)覆蓋大模型開發(fā)的全流程，以LLaMA作為基礎(chǔ)模型作開發(fā)為例：

（1）在腳本開發(fā)階段，用戶只需從Transformer模型庫(kù)中一鍵導(dǎo)入LLaMA模型，大概10行代碼就可完成算法腳本的開發(fā)。

（2）在訓(xùn)練階段，面向算力有限的用戶，昇思2.0基于一臺(tái)服務(wù)器、8張訓(xùn)練卡即可支持千億參數(shù)大模型的訓(xùn)練；面向大規(guī)模集群方案，昇思原生支持九種數(shù)據(jù)和模型并行模式及高可靠方案，據(jù)稱算力資源利用率高于業(yè)界15%。

（3）在場(chǎng)景微調(diào)階段，昇思2.0已集成LoRA，Adapter等多種低參微調(diào)的算法，一行代碼即可運(yùn)行LLaMA的低參微調(diào)；同時(shí)支持千億模型進(jìn)行RLHF（人類反饋強(qiáng)化學(xué)習(xí)），并正式開源。

（4）在推理部署階段，昇思2.0提供模型壓縮工具，并且支持分布式、增量推理，為模型部署降本增效。

可以看到，昇思大模型平臺(tái)是要為大模型開發(fā)部署的全流程提供一條“快車道”。

▲昇思2.0大模型解決方案

2、進(jìn)一步豐富場(chǎng)景化套件，開箱即用、降低門檻

除了提供端到端的大模型訓(xùn)練、開發(fā)與部署能力支持，昇思2.0還在平臺(tái)的易用性上加強(qiáng)對(duì)大模型的支持。

一方面，昇思2.0推出大量場(chǎng)景化開發(fā)套件，開箱可用。例如，昇思2.0為用戶提供OCR、Yolo、Audio等套件，據(jù)稱在應(yīng)用中已助客戶將票據(jù)識(shí)別準(zhǔn)確率提升到近99%，客戶訓(xùn)練周期從周降到天級(jí)。

另一方面，如何迎接PyTorch的生態(tài)用戶是昇思重點(diǎn)考慮的一個(gè)問題。為此，昇思采取了一系列措施，比如與啟智社區(qū)配合，通過MSAdapter套件完成超70個(gè)主流模型遷移，據(jù)稱能助開發(fā)者代碼修改量小于15%，遷移周期從一個(gè)月降低到一周。

AI框架是下接多樣性算力、上承創(chuàng)新應(yīng)用的“橋梁”，工具的易用性成為昇思2.0的“第二板斧”。

3、加強(qiáng)AI與科學(xué)計(jì)算融合，以科學(xué)智能新范式促進(jìn)科研創(chuàng)新難題突破

科學(xué)智能是昇思關(guān)注的另一大領(lǐng)域。據(jù)悉，昇思2.0一方面聯(lián)合產(chǎn)學(xué)研構(gòu)建領(lǐng)域的套件，包括電磁仿真、生物計(jì)算、流體力學(xué)等套件；另一方面，其將框架能力升級(jí)，提供函數(shù)式微分、計(jì)算圖、編譯加速等能力，支持科研創(chuàng)新難題突破。

比如，在電磁仿真領(lǐng)域，昇思與東南大學(xué)合作，通過MindSpore ELEC使能套件打造業(yè)界首個(gè)電磁仿真大模型“金陵.電磁腦”，據(jù)悉天線陣列仿真效率提升10倍以上。

▲昇思AI+科學(xué)計(jì)算領(lǐng)域套件

總的來說，昇思2.0在大模型領(lǐng)域進(jìn)一步加強(qiáng)了原生支持能力，針對(duì)易用性進(jìn)行了全面提升，同時(shí)提升了對(duì)科學(xué)智能的支持，出現(xiàn)了一些“里程碑式”進(jìn)展。

當(dāng)下，大模型時(shí)代正改變AI開發(fā)范式，從“小模型-大樣本”轉(zhuǎn)向“大模型-小樣本”。這種變化催促著AI框架加速迭代，以適應(yīng)市場(chǎng)需求。升級(jí)后的昇思2.0有望成為企業(yè)抓住AI大模型機(jī)遇的“趁手武器”，也反向促進(jìn)自身平臺(tái)的技術(shù)加速迭代。

二、生態(tài)聚力，一個(gè)AI大模型“孵化器”誕生

昇思2.0的升級(jí)不局限于工具層面，更重要的是在產(chǎn)業(yè)生態(tài)維度。

根據(jù)官方數(shù)據(jù)，昇思MindSpore開源社區(qū)已開源了超15個(gè)基礎(chǔ)大模型以及訓(xùn)練腳本，包括當(dāng)下業(yè)界最具備代表性的BLOOM、LLAMA等。開發(fā)者可以在社區(qū)獲取開源模型作為基礎(chǔ)原型，然后通過昇思完成大模型“開發(fā)-訓(xùn)練-微調(diào)-部署”的全過程。

發(fā)展AI框架需要完整的產(chǎn)業(yè)生態(tài)，僅在技術(shù)上的布局是不夠的。

正如昇思MindSpore開源社區(qū)理事長(zhǎng)丁誠(chéng)所說：“單靠一個(gè)團(tuán)隊(duì)的力量，無法撐起整個(gè)AI框架的演進(jìn)與發(fā)展?！睘榱藢N思打造成一個(gè)AI大模型“孵化器”，昇思2.0從運(yùn)營(yíng)、人才、產(chǎn)品化推廣等多個(gè)方面促進(jìn)開源社區(qū)服務(wù)的升級(jí)。

1、運(yùn)營(yíng)促活：開放管理架構(gòu)，融入全球開源生態(tài)

AI大模型浪潮促使昇思MindSpore開源社區(qū)活躍度大大提升，如何讓這一熱度轉(zhuǎn)化為持續(xù)技術(shù)創(chuàng)新？

6月16日，昇思MindSpore開源社區(qū)理事會(huì)成立、上海昇思AI框架&大模型創(chuàng)新中心啟動(dòng)，超20家單位入駐，這標(biāo)志著昇思將與上海的企業(yè)和產(chǎn)業(yè)加深結(jié)合，加快大模型的研發(fā)；同時(shí)，昇思開源社區(qū)理事會(huì)成立，構(gòu)建充分開放的治理架構(gòu)以匯聚產(chǎn)學(xué)研眾力。

接著，昇思與產(chǎn)學(xué)研用伙伴聯(lián)合提出了“共建人工智能框架生態(tài)，繁榮中國(guó)人工智能產(chǎn)業(yè)”的倡議；此外，昇思還采取了眾多措施，包括建立專業(yè)委員會(huì)、與六大業(yè)界開源基金會(huì)合作、與業(yè)界開源社區(qū)合作等，以此開放匯聚眾力。

▲昇思與產(chǎn)學(xué)研聯(lián)合提出“共建人工智能框架生態(tài)，繁榮中國(guó)人工智能產(chǎn)業(yè)”倡議

2、人才培養(yǎng)：升級(jí)開發(fā)者培養(yǎng)方案，覆蓋三大階段

要推動(dòng)中國(guó)AI繁榮發(fā)展，離不開充足的人才發(fā)展，昇思在為開發(fā)者提供工具的同時(shí)也加碼人才培養(yǎng)。

昇思針對(duì)不同階段的開發(fā)者，提供不同成長(zhǎng)路徑的培養(yǎng)方案。在入門階段，昇思提供系列教材和認(rèn)證課程，走進(jìn)高校支持學(xué)生入門AI學(xué)習(xí)；面向?qū)嵺`階段，昇思提供系列化的實(shí)習(xí)、眾智和競(jìng)賽任務(wù)，給開發(fā)者提供實(shí)踐機(jī)會(huì)；面向研究創(chuàng)新階段，昇思提供學(xué)術(shù)激勵(lì)基金和算力支持，激發(fā)原創(chuàng)科學(xué)研究。

根據(jù)官方數(shù)據(jù)，目前昇思已與全球高校和科研機(jī)構(gòu)開展合作，培養(yǎng)2500名老師、超20萬學(xué)生；與全球超290個(gè)Top科研團(tuán)隊(duì)合作，基于昇思發(fā)表的AI頂會(huì)論文達(dá)超900篇，居于國(guó)內(nèi)第一、全球第二。

3、產(chǎn)業(yè)推廣：推出硬件加速計(jì)劃，促進(jìn)端邊云全場(chǎng)景協(xié)同

當(dāng)下，AI大模型在軟件領(lǐng)域落地順利，但在涉及云邊端協(xié)同的更廣泛場(chǎng)景面臨阻礙。

為此，昇思積極擁抱多芯生態(tài)，啟動(dòng)硬件加速計(jì)劃，舉措主要包括：為適配的硬件廠商提供聯(lián)合開發(fā)支持與協(xié)同運(yùn)作，結(jié)合不同硬件設(shè)備開展多樣化的推廣賽事、聯(lián)合營(yíng)銷宣傳工作等。

回顧昇思自2020年3月開源至今，昇思不僅已擁有超1.3萬貢獻(xiàn)者，超400多個(gè)開源模型，服務(wù)企業(yè)數(shù)量超過5500家；其在大模型方面，也于2020年的首版本中就率先推出了面向大模型自動(dòng)并行特性，至今逐漸形成大模型技術(shù)使能平臺(tái)的定位。

可以預(yù)測(cè)，隨著新的生態(tài)舉措加碼，昇思MindSpore開源社區(qū)在大模型時(shí)代吸引更多開發(fā)者，從而為中國(guó)AI產(chǎn)業(yè)繁榮形成一股生態(tài)聚力。

結(jié)語：AI落地深水區(qū)，中國(guó)AI開源再進(jìn)擊

當(dāng)下，大模型正在改變過去AI落地面臨的碎片化困境，降低AI落地的成本和門檻。而隨著AI落地進(jìn)入深水區(qū)，用戶的生態(tài)錨點(diǎn)逐步從API走向預(yù)訓(xùn)練模型，AI框架及開源社區(qū)也需要同步迭代。

本次昇思公布的技術(shù)和生態(tài)重大升級(jí)，一方面正是其面向AI大模型機(jī)遇的強(qiáng)勁出擊，匯聚產(chǎn)學(xué)研力量加速AI大模型落地；另一方面，是其自2020年就開始布局大模型以來，沉淀出一套全流程大模型孵化實(shí)踐方案的自然結(jié)果。

中國(guó)AI框架要想突破現(xiàn)有格局并不容易，AI大模型新賽道為之提供了彎道超車機(jī)會(huì)點(diǎn)。通過技術(shù)、運(yùn)營(yíng)、人才培養(yǎng)、產(chǎn)品化推廣等多方面創(chuàng)新，以昇思為代表的AI框架項(xiàng)目有望加速開源社區(qū)繁榮，從而推動(dòng)中國(guó)通用人工智能產(chǎn)業(yè)健康發(fā)展。