當大模型走向商業(yè)化落地，一批“老概念”正在迎來新的應用浪潮。

與數(shù)據(jù)中臺、業(yè)務中臺類似，AI中臺并不是一個新鮮詞。一般而言，各項“煙囪式”的獨立業(yè)務系統(tǒng)架構，希望通過AI中臺共享智能化能力，降低AI業(yè)務場景的開發(fā)門檻。但在大模型技術出現(xiàn)之前，AI技術應用的場景往往也是一個個孤島，缺乏泛化的通用落地場景。

大模型技術的能力涌現(xiàn)，使得AI中臺再次成為企業(yè)，特別是金融機構探索的方向，而作為AI應用與大模型之間的中間層基礎工具，大模型中間件也成為當下投資機構關注的熱點。面對AI對基礎設施、工具、應用層的全面重塑，投資機構又將如何“掘金”？

(資料圖)

圖片來源：視覺中國

重構AI中臺

“在沒有大模型的情況下，我們過去也在思考AI應該怎么做。”一家基金公司信息技術部總經(jīng)理向記者坦言，但在此之前AI的應用始終是“煙囪式”的，一旦遇到另外一個未覆蓋的新問題，業(yè)務部門就需要重新開發(fā)相應的模型，導致算力使用效率不高。

“大模型技術對傳統(tǒng)人工智能廠商和IT服務商的沖擊都是非常大的。”恒生電子首席科學家白碩向記者提到，過去各個AI系統(tǒng)都是煙囪式的單個系統(tǒng)，每一個部分都是一個小模型，都需要數(shù)據(jù)訓練，而小模型的學習效果也存在提升空間，但基于大量參數(shù)的大語言模型技術使得機器具備同時完成不同任務的通用能力。

與此同時，AI廠商與IT廠商的業(yè)務范圍也在改變?！斑^去IT廠商與AI井水不犯河水，或者淺淺涉足AI的局面打破了?！卑状T指出，AI賦能已成為IT服務商的必爭之地，而在資管領域的AI技術應用都面臨重塑。“技術層面，無論是界面、數(shù)據(jù)庫訪問、業(yè)務流程、API調用都出現(xiàn)低代碼化的趨勢，大家會普遍使用AI工具來提質增效。”白碩表示。

在考量新興技術應用時，安全是重中之重。

在保障數(shù)據(jù)安全的情況下進行大模型應用的落地，把通用數(shù)據(jù)建設能力沉淀下來，搭建AI中臺，使得各業(yè)務條線共享通用智能化能力，成為許多金融機構的第一選擇方案。

“企業(yè)專屬私有可控的大模型是必然形態(tài)，機構需要保障大模型100%的安全和所有權?！笨平芸萍糃TO高經(jīng)郡告訴記者，目前大模型應用落地的解決路徑主要有三種：第一是進行全量模型訓練，在企業(yè)做大模型的私有化部署，結合企業(yè)私有數(shù)據(jù)進行訓練，打造垂直領域的專業(yè)大模型。第二是基于開源或商業(yè)大模型，結合企業(yè)私有化數(shù)據(jù)對參數(shù)進行微調，使得大模型在掌握企業(yè)私有化數(shù)據(jù)的基礎上進行深度理解。第三是通過通用大模型接口，幫助企業(yè)構建數(shù)據(jù)知識庫，打造企業(yè)專屬的AI應用。

“第一種方案需要從0開始構建自己的大模型，需要大量的人才與資金投入，當下基于開源大模型結合私有數(shù)據(jù)進行微調與模型訓練是比較普遍的一種方案?！备呓?jīng)郡坦言。

前述基金公司信息技術部領導告訴記者，在大模型技術出現(xiàn)后，其所在機構與多個系統(tǒng)做了連調測試，并嘗試進行本地化部署，將大模型進行微調、精調，基于公司原有的量化平臺、機器學習成果、算力中臺探索AI中臺建設。

他指出，搭建AI中臺需要將大模型作為所有應用的入口，基于業(yè)務場景的核心需求搭建相應的業(yè)務中臺，最終實現(xiàn)大模型在具體業(yè)務上的應用。但是隨之而來的問題是，一方面在進行精調時算力不夠，另一方面是落地時選擇不同廠商算法較為復雜。“最后，最難的是數(shù)據(jù)。”他向記者直言，例如在自動生成代碼的場景下，要實現(xiàn)項目可用，至少要提供30個以上的優(yōu)質項目代碼，這對于機構來說有較高門檻。

大模型中間件或再“受寵”

在金融大模型落地的過程中，如何縮短AI研發(fā)周期、降低AI應用成本、提供實際工作效率？

受到大模型浪潮推動，作為位于AI應用與大模型之間的中間層基礎軟件，在解決大模型商用化問題方面，中間件行業(yè)再次受到市場關注。其主要解決大模型落地過程中資源調度、數(shù)據(jù)集成、模型訓練、應用集成、知識庫與大模型融合等問題。

在政府、金融、電信、交通等重點行業(yè)，中間件作為信創(chuàng)的重要部分，曾有過快速增長。上市公司東方通（300379.SZ）、寶蘭德（688058.SH）是金融行業(yè)國產(chǎn)中間件市場占有率最高的兩家公司，在2020年東方通凈利潤同比增幅超過72%，但受疫情沖擊影響收入確認與業(yè)務開展，去年全年與今年一季度兩家公司業(yè)績表現(xiàn)并不佳。

隨著大模型技術的商用落地，中間件行業(yè)有望迎來新市場需求。今年6月9日，東方通在互動平臺表示，AI大模型訓練需要依托大量的硬件基礎設施來對海量數(shù)據(jù)訓練和優(yōu)化，在數(shù)據(jù)處理和部署管理方面有著很高的要求。因此需要有高效的數(shù)據(jù)處理和管理中間件來支持大規(guī)模數(shù)據(jù)的存儲、傳輸和處理，支持模型的快速部署、監(jiān)控和調優(yōu)等，還需要通過中間件來支持多種不同的硬件和軟件環(huán)境，以滿足不同場景下的需求。

“對于企業(yè)而言，降低大模型落地實施的能力，企業(yè)大模型的中間件是關鍵?！备呓?jīng)郡提到，例如AI OPS能力可以加速大模型應用，提供了一整套工具幫助機構解決私有環(huán)境中大模型訓練的工程問題，通過提供全自動化訓練環(huán)境配置與構建，低代碼一站式完成數(shù)據(jù)接入、標注、監(jiān)督微調、反饋強化學習和模型發(fā)布全流程，同時可以支持數(shù)據(jù)回流及模型的持續(xù)迭代。

投資機構如何“掘金”？

大模型正在重塑基礎設施層面與應用層，面臨這些新機遇，投資機構如何看待新市場？

風險投資機構XVC合伙人陸宜向記者表示，目前全球生成式AI的發(fā)展分三個層面，一是模型層，二是基礎設施與工具層，三是應用層。

“模型層的變化日新月異?！标懸颂岬?，無論是Open AI的ChatGPT還是Meta AI發(fā)布的Llama2，在參數(shù)量級與實際表現(xiàn)的發(fā)展都非常迅猛。在工具層，隨著模型的快速發(fā)展，數(shù)據(jù)庫、開發(fā)框架等基礎設施也在同步進行。從應用層面來看，目前“百花齊放”的大模型已經(jīng)成為多個垂直領域釋放生產(chǎn)力的工具。

談及基礎模型的快速演進，亞馬遜云科技生態(tài)架構師團隊負責人孔雷直言，這主要是開源大模型開源生態(tài)越來越受到市場歡迎。“再過幾個月，你可能會發(fā)現(xiàn)大模型變得非常平民化，門檻越來越低，開源基礎模型又可以商用，大模型的成本會大幅降低?！彼J為，隨著C端大模型應用的普及，下一步大模型應用領域將主要集中在B端場景。

與此同時，由于訓練大語言模型需要投入的參數(shù)量巨大，整個環(huán)節(jié)會變得非常精細化和系統(tǒng)化?！袄缱罱袌霰容^關注的向量數(shù)據(jù)庫，都是傳統(tǒng)數(shù)據(jù)公司目前發(fā)展的新業(yè)務方向。”孔雷提到，在大模型應用落地的過程中，在算力、算法、數(shù)據(jù)層面廠商都會有新的機遇，伴隨著大模型的生態(tài)來展開。

“我們目前投了兩家與大模型相關的公司，一家做基于大模型的個人情感陪伴聊天，一家為大模型及AI應用落地提供基礎設施?！标懸烁嬖V記者，當下國內(nèi)大模型市場還處于快速發(fā)展的早期，雖然大量大廠、行業(yè)領袖已經(jīng)躬身入局，但是對于創(chuàng)業(yè)公司來說，大模型基礎設施公司和應用型公司還有大量機會等待挖掘，投資機構也會緊密跟蹤。