當(dāng)大模型走向商業(yè)化落地，一批“老概念”正在迎來(lái)新的應(yīng)用浪潮。

與數(shù)據(jù)中臺(tái)、業(yè)務(wù)中臺(tái)類似，AI中臺(tái)并不是一個(gè)新鮮詞。一般而言，各項(xiàng)“煙囪式”的獨(dú)立業(yè)務(wù)系統(tǒng)架構(gòu)，希望通過AI中臺(tái)共享智能化能力，降低AI業(yè)務(wù)場(chǎng)景的開發(fā)門檻。但在大模型技術(shù)出現(xiàn)之前，AI技術(shù)應(yīng)用的場(chǎng)景往往也是一個(gè)個(gè)孤島，缺乏泛化的通用落地場(chǎng)景。

大模型技術(shù)的能力涌現(xiàn)，使得AI中臺(tái)再次成為企業(yè)，特別是金融機(jī)構(gòu)探索的方向，而作為AI應(yīng)用與大模型之間的中間層基礎(chǔ)工具，大模型中間件也成為當(dāng)下投資機(jī)構(gòu)關(guān)注的熱點(diǎn)。面對(duì)AI對(duì)基礎(chǔ)設(shè)施、工具、應(yīng)用層的全面重塑，投資機(jī)構(gòu)又將如何“掘金”？

(資料圖)

圖片來(lái)源：視覺中國(guó)

重構(gòu)AI中臺(tái)

“在沒有大模型的情況下，我們過去也在思考AI應(yīng)該怎么做。”一家基金公司信息技術(shù)部總經(jīng)理向記者坦言，但在此之前AI的應(yīng)用始終是“煙囪式”的，一旦遇到另外一個(gè)未覆蓋的新問題，業(yè)務(wù)部門就需要重新開發(fā)相應(yīng)的模型，導(dǎo)致算力使用效率不高。

“大模型技術(shù)對(duì)傳統(tǒng)人工智能廠商和IT服務(wù)商的沖擊都是非常大的?！焙闵娮邮紫茖W(xué)家白碩向記者提到，過去各個(gè)AI系統(tǒng)都是煙囪式的單個(gè)系統(tǒng)，每一個(gè)部分都是一個(gè)小模型，都需要數(shù)據(jù)訓(xùn)練，而小模型的學(xué)習(xí)效果也存在提升空間，但基于大量參數(shù)的大語(yǔ)言模型技術(shù)使得機(jī)器具備同時(shí)完成不同任務(wù)的通用能力。

與此同時(shí)，AI廠商與IT廠商的業(yè)務(wù)范圍也在改變。“過去IT廠商與AI井水不犯河水，或者淺淺涉足AI的局面打破了?！卑状T指出，AI賦能已成為IT服務(wù)商的必爭(zhēng)之地，而在資管領(lǐng)域的AI技術(shù)應(yīng)用都面臨重塑。“技術(shù)層面，無(wú)論是界面、數(shù)據(jù)庫(kù)訪問、業(yè)務(wù)流程、API調(diào)用都出現(xiàn)低代碼化的趨勢(shì)，大家會(huì)普遍使用AI工具來(lái)提質(zhì)增效。”白碩表示。

在考量新興技術(shù)應(yīng)用時(shí)，安全是重中之重。

在保障數(shù)據(jù)安全的情況下進(jìn)行大模型應(yīng)用的落地，把通用數(shù)據(jù)建設(shè)能力沉淀下來(lái)，搭建AI中臺(tái)，使得各業(yè)務(wù)條線共享通用智能化能力，成為許多金融機(jī)構(gòu)的第一選擇方案。

“企業(yè)專屬私有可控的大模型是必然形態(tài)，機(jī)構(gòu)需要保障大模型100%的安全和所有權(quán)?！笨平芸萍糃TO高經(jīng)郡告訴記者，目前大模型應(yīng)用落地的解決路徑主要有三種：第一是進(jìn)行全量模型訓(xùn)練，在企業(yè)做大模型的私有化部署，結(jié)合企業(yè)私有數(shù)據(jù)進(jìn)行訓(xùn)練，打造垂直領(lǐng)域的專業(yè)大模型。第二是基于開源或商業(yè)大模型，結(jié)合企業(yè)私有化數(shù)據(jù)對(duì)參數(shù)進(jìn)行微調(diào)，使得大模型在掌握企業(yè)私有化數(shù)據(jù)的基礎(chǔ)上進(jìn)行深度理解。第三是通過通用大模型接口，幫助企業(yè)構(gòu)建數(shù)據(jù)知識(shí)庫(kù)，打造企業(yè)專屬的AI應(yīng)用。

“第一種方案需要從0開始構(gòu)建自己的大模型，需要大量的人才與資金投入，當(dāng)下基于開源大模型結(jié)合私有數(shù)據(jù)進(jìn)行微調(diào)與模型訓(xùn)練是比較普遍的一種方案?！备呓?jīng)郡坦言。

前述基金公司信息技術(shù)部領(lǐng)導(dǎo)告訴記者，在大模型技術(shù)出現(xiàn)后，其所在機(jī)構(gòu)與多個(gè)系統(tǒng)做了連調(diào)測(cè)試，并嘗試進(jìn)行本地化部署，將大模型進(jìn)行微調(diào)、精調(diào)，基于公司原有的量化平臺(tái)、機(jī)器學(xué)習(xí)成果、算力中臺(tái)探索AI中臺(tái)建設(shè)。

他指出，搭建AI中臺(tái)需要將大模型作為所有應(yīng)用的入口，基于業(yè)務(wù)場(chǎng)景的核心需求搭建相應(yīng)的業(yè)務(wù)中臺(tái)，最終實(shí)現(xiàn)大模型在具體業(yè)務(wù)上的應(yīng)用。但是隨之而來(lái)的問題是，一方面在進(jìn)行精調(diào)時(shí)算力不夠，另一方面是落地時(shí)選擇不同廠商算法較為復(fù)雜?！白詈?，最難的是數(shù)據(jù)?！彼蛴浾咧毖?，例如在自動(dòng)生成代碼的場(chǎng)景下，要實(shí)現(xiàn)項(xiàng)目可用，至少要提供30個(gè)以上的優(yōu)質(zhì)項(xiàng)目代碼，這對(duì)于機(jī)構(gòu)來(lái)說有較高門檻。

大模型中間件或再“受寵”

在金融大模型落地的過程中，如何縮短AI研發(fā)周期、降低AI應(yīng)用成本、提供實(shí)際工作效率？

受到大模型浪潮推動(dòng)，作為位于AI應(yīng)用與大模型之間的中間層基礎(chǔ)軟件，在解決大模型商用化問題方面，中間件行業(yè)再次受到市場(chǎng)關(guān)注。其主要解決大模型落地過程中資源調(diào)度、數(shù)據(jù)集成、模型訓(xùn)練、應(yīng)用集成、知識(shí)庫(kù)與大模型融合等問題。

在政府、金融、電信、交通等重點(diǎn)行業(yè)，中間件作為信創(chuàng)的重要部分，曾有過快速增長(zhǎng)。上市公司東方通（300379.SZ）、寶蘭德（688058.SH）是金融行業(yè)國(guó)產(chǎn)中間件市場(chǎng)占有率最高的兩家公司，在2020年?yáng)|方通凈利潤(rùn)同比增幅超過72%，但受疫情沖擊影響收入確認(rèn)與業(yè)務(wù)開展，去年全年與今年一季度兩家公司業(yè)績(jī)表現(xiàn)并不佳。

隨著大模型技術(shù)的商用落地，中間件行業(yè)有望迎來(lái)新市場(chǎng)需求。今年6月9日，東方通在互動(dòng)平臺(tái)表示，AI大模型訓(xùn)練需要依托大量的硬件基礎(chǔ)設(shè)施來(lái)對(duì)海量數(shù)據(jù)訓(xùn)練和優(yōu)化，在數(shù)據(jù)處理和部署管理方面有著很高的要求。因此需要有高效的數(shù)據(jù)處理和管理中間件來(lái)支持大規(guī)模數(shù)據(jù)的存儲(chǔ)、傳輸和處理，支持模型的快速部署、監(jiān)控和調(diào)優(yōu)等，還需要通過中間件來(lái)支持多種不同的硬件和軟件環(huán)境，以滿足不同場(chǎng)景下的需求。

“對(duì)于企業(yè)而言，降低大模型落地實(shí)施的能力，企業(yè)大模型的中間件是關(guān)鍵?！备呓?jīng)郡提到，例如AI OPS能力可以加速大模型應(yīng)用，提供了一整套工具幫助機(jī)構(gòu)解決私有環(huán)境中大模型訓(xùn)練的工程問題，通過提供全自動(dòng)化訓(xùn)練環(huán)境配置與構(gòu)建，低代碼一站式完成數(shù)據(jù)接入、標(biāo)注、監(jiān)督微調(diào)、反饋強(qiáng)化學(xué)習(xí)和模型發(fā)布全流程，同時(shí)可以支持?jǐn)?shù)據(jù)回流及模型的持續(xù)迭代。

投資機(jī)構(gòu)如何“掘金”？

大模型正在重塑基礎(chǔ)設(shè)施層面與應(yīng)用層，面臨這些新機(jī)遇，投資機(jī)構(gòu)如何看待新市場(chǎng)？

風(fēng)險(xiǎn)投資機(jī)構(gòu)XVC合伙人陸宜向記者表示，目前全球生成式AI的發(fā)展分三個(gè)層面，一是模型層，二是基礎(chǔ)設(shè)施與工具層，三是應(yīng)用層。

“模型層的變化日新月異。”陸宜提到，無(wú)論是Open AI的ChatGPT還是Meta AI發(fā)布的Llama2，在參數(shù)量級(jí)與實(shí)際表現(xiàn)的發(fā)展都非常迅猛。在工具層，隨著模型的快速發(fā)展，數(shù)據(jù)庫(kù)、開發(fā)框架等基礎(chǔ)設(shè)施也在同步進(jìn)行。從應(yīng)用層面來(lái)看，目前“百花齊放”的大模型已經(jīng)成為多個(gè)垂直領(lǐng)域釋放生產(chǎn)力的工具。

談及基礎(chǔ)模型的快速演進(jìn)，亞馬遜云科技生態(tài)架構(gòu)師團(tuán)隊(duì)負(fù)責(zé)人孔雷直言，這主要是開源大模型開源生態(tài)越來(lái)越受到市場(chǎng)歡迎?！霸龠^幾個(gè)月，你可能會(huì)發(fā)現(xiàn)大模型變得非常平民化，門檻越來(lái)越低，開源基礎(chǔ)模型又可以商用，大模型的成本會(huì)大幅降低?！彼J(rèn)為，隨著C端大模型應(yīng)用的普及，下一步大模型應(yīng)用領(lǐng)域?qū)⒅饕性贐端場(chǎng)景。

與此同時(shí)，由于訓(xùn)練大語(yǔ)言模型需要投入的參數(shù)量巨大，整個(gè)環(huán)節(jié)會(huì)變得非常精細(xì)化和系統(tǒng)化。“例如最近市場(chǎng)比較關(guān)注的向量數(shù)據(jù)庫(kù)，都是傳統(tǒng)數(shù)據(jù)公司目前發(fā)展的新業(yè)務(wù)方向?！笨桌滋岬?，在大模型應(yīng)用落地的過程中，在算力、算法、數(shù)據(jù)層面廠商都會(huì)有新的機(jī)遇，伴隨著大模型的生態(tài)來(lái)展開。

“我們目前投了兩家與大模型相關(guān)的公司，一家做基于大模型的個(gè)人情感陪伴聊天，一家為大模型及AI應(yīng)用落地提供基礎(chǔ)設(shè)施?！标懸烁嬖V記者，當(dāng)下國(guó)內(nèi)大模型市場(chǎng)還處于快速發(fā)展的早期，雖然大量大廠、行業(yè)領(lǐng)袖已經(jīng)躬身入局，但是對(duì)于創(chuàng)業(yè)公司來(lái)說，大模型基礎(chǔ)設(shè)施公司和應(yīng)用型公司還有大量機(jī)會(huì)等待挖掘，投資機(jī)構(gòu)也會(huì)緊密跟蹤。