AI+如何應用落地？一場來自產(chǎn)業(yè)鏈領軍者的對話碰撞

拓爾思董事長 施水才：

大模型的落地需要三個"實"，實在、實用和實效。實在是指 AI落地的時候工程化交付；實用是和用戶的業(yè)務吻合；實效是需要降本增效。

榮聯(lián)科技首席科學家 王向東：

只解決了算力的調(diào)度問題是不行的，面對生物醫(yī)療、生命科學等領域高算力、海量數(shù)據(jù)的存儲及管理需求，必須與生態(tài)伙伴協(xié)同才能滿足客戶要求。

潞晨科技創(chuàng)始人兼董事長 尤洋：

通過極致的算力軟件和內(nèi)存優(yōu)化來提升算力的附加值，用同樣的設備訓出更大的模型，幫助企業(yè)盡可能降低關鍵領域大模型的門檻。

銜遠科技COO、創(chuàng)始合伙人 王曉波：

對于技術的商業(yè)化路徑，我們傾向于先改變模式，利用行業(yè)認知和模型能力選擇一個閉環(huán)場景，形成數(shù)據(jù)飛輪，不斷打磨自己的模型和產(chǎn)品，與客戶一起成長。

浪潮信息高級副總裁 劉軍：

針對算力多元化、模型多樣化及場景多樣化，浪潮信息希望連接和聚集生態(tài)力量，助力每個元腦生態(tài)伙伴利用自身場景和數(shù)據(jù)，通過企業(yè)大模型開發(fā)平臺先行先試，有了錘子再去找釘子，快速入局AI+市場。

IPF2024，你怎么看？

浪潮信息陳昌浩：

再次感謝各位來到IPF2024！今年IPF的主題是"智能元啟 創(chuàng)見?共行"。首先想聽聽各位對今天大會的感受，哪個觀點是你們印象最為深刻的？

中科軟左春：談到人工智能的發(fā)展，現(xiàn)在有一個詞叫"怕錯過"，每個人都怕錯過，我們的客戶也怕錯過，所以我們都在加速學習。今天看到浪潮信息在系統(tǒng)軟件平臺的努力，以及算力、算法等方面的成果，我對此印象尤為深刻。

拓爾思施水才：第一，我感受到了浪潮信息正在集全棧AI系統(tǒng)創(chuàng)新之力，全面擁抱AI。第二個印象比較深的是浪潮信息的伙伴生態(tài)體系非常健全。第三，大模型應用開發(fā)的一體化端到端的開發(fā)平臺EPAI平臺也是亮點，跟我們的拓天LLMOps 有著相似的路徑。

榮聯(lián)科技王向東：兩個詞，第一個詞是信心，彭總講的以應用為導向，以系統(tǒng)為核心。應用為導向點破了我們所處的時代特點，從技術競爭變成應用的競爭。浪潮信息倡導以系統(tǒng)為核心，以平臺帶動應用創(chuàng)新，是以生態(tài)模式在競爭。對于未來我們與浪潮信息的合作，我們信心十足。第二個詞是心動，看著EPAI，很心動，正琢磨著怎么回去跟用戶的應用結合。

潞晨科技尤洋：我的第一點感受是，浪潮信息今天所發(fā)布的產(chǎn)品、工具有助于合作伙伴們更便捷、高效地去做自己的業(yè)務，特別是在AI方面。第二點是，浪潮信息對整個技術，大趨勢的理解是比較深的，有利于進一步鞏固生態(tài)的力量。

銜遠科技王曉波：生態(tài)兩個字就足以熱血沸騰了。在大模型賽道，中國領先的是豐富的消費場景和應用場景，以及非常好的數(shù)據(jù)基建。在生態(tài)方面，我們很希望擁抱生態(tài)，也希望我們自己的產(chǎn)品也有SaaS、MaaS各種服務。

產(chǎn)業(yè)鏈各方，在戰(zhàn)略布局上，會選擇如何擁抱"AI+" ？

浪潮信息陳昌浩：首先，浪潮信息作為系統(tǒng)廠商，面向算力多元化、場景差異化、大模型多樣化的產(chǎn)業(yè)現(xiàn)狀，會如何加速AI+落地？

浪潮信息劉軍：如果從生態(tài)模式思考，針對算力多元化、模型多樣化及場景多樣化問題，浪潮信息期待通過元腦生態(tài)來提高整個產(chǎn)業(yè)在AI創(chuàng)新落地的效率，我們非常愿意成為這樣的平臺生態(tài)承載者。

元腦生態(tài)聚合鏈接600+算法廠商、8000+系統(tǒng)集成商。對于具備AI開發(fā)核心能力的左手伙伴，我們在元腦企智EPAI平臺實現(xiàn)對多元算力、多模算法的支持。對于右手伙伴，ISV可針對行業(yè)落地的解決方案，落地到各個場景客戶這一端，我們希望通過EPAI工具化平臺，使右手伙伴能夠快速高效的面向領域大模型進行開發(fā)并落地。

生態(tài)的快速發(fā)展和繁榮需要有一個能夠連接、聚集力量的產(chǎn)品，這就是今天我們推出企業(yè)大模型開發(fā)平臺（EPAI）的思考。我們希望通過EPAI開發(fā)平臺，為上萬家合作伙伴提供工具箱，提供方法論，凝聚并激發(fā)生態(tài)的活力、伙伴的創(chuàng)新力，加速賦能千行百業(yè)的智能化轉型。

浪潮信息陳昌浩：中科軟當前面向保險、醫(yī)療等領域進行AIGC研究和生態(tài)建設。請左總分享一下中科軟的經(jīng)驗和體會？

中科軟左春：當客戶想要建立垂直領域的應用時，他需要選擇基座，這個基座是初始化的基座，需要帶著通用知識，也需要低能耗；另外它的技術要開放，這個也涉及到開源。為什么要開源呢？因為開源要解決流行性問題，即需要有大量的人來用，很多更新、很多人活躍的維護，流行的開源軟件具備重大價值。我們看到客戶的第一個環(huán)節(jié)即是選擇基座，在初始化的階段，需要確定模型參數(shù)，參數(shù)量與token數(shù)并不是越大越好，應該有一個合理的度。

當我們選擇基座以后，第二步是訓練模型，目標是基于已有的領域知識進行訓練實現(xiàn)精準化。在訓練過程中，廠家提供的是基座和工具，ISV提供了重要的知識梳理和知識的訓練，客戶也會根據(jù)應用需求來提出自己的方向或者重點。最后，現(xiàn)在AIGC主要的方法是神經(jīng)網(wǎng)絡和向量數(shù)據(jù)庫，都是歸納推斷，存在一定誤差。人工智能的成果往往是升級版的搜索功能，需要和已有應用軟件的經(jīng)驗和能力相結合，把二者合在一起作為一個解決方案，最終以實用效果為衡量標準。

這三步都要在企業(yè)端建立起來，在建立的過程中，首先基礎技術在于廠家，我們要學習并結合客戶需求，把技術做遷移，再搭建、運行，并和已有系統(tǒng)集成。

浪潮信息陳昌浩：AI和大模型發(fā)展離不開高質(zhì)量的數(shù)據(jù)。請施董分享下，在企業(yè)級大模型應用落地時，數(shù)據(jù)層面所遇到的最核心挑戰(zhàn)是什么，該如何更好地將數(shù)據(jù)轉化為"生產(chǎn)力"？

拓爾思施水才：首先，從數(shù)據(jù)層面，ISV有五種類型。第一種是做是做通用軟件產(chǎn)品的，隨著開源和云服務的發(fā)展，受到很大的沖擊。第二類是做行業(yè)應用軟件，但是行業(yè)應用軟件未來有一個重大的挑戰(zhàn)，用戶可能會成為我們的競爭者，這在銀行業(yè)已經(jīng)非常明顯了。第三個是做人力外包型服務的，也面臨著碼農(nóng)被AI取代的風險，人效越來越高，收益越來越低。第四條路是硬件帶動軟件，要做軟硬一體化的東西，要做一體機。第五條路就是拓爾思想做的數(shù)據(jù)和服務。我認為，未來應該從軟件到數(shù)件，數(shù)據(jù)這一塊非常有前途。

其次，我們認為數(shù)據(jù)是大模型最重要的因素之一。因為大模型的大就是參數(shù)大，但是大家發(fā)現(xiàn)大力出奇跡，蠻力不可續(xù)，大模型有能力，沒有智力，一味地在用戶端搞算力競賽，成本首先不靠譜，也沒有產(chǎn)出。

所以，我認為現(xiàn)在大模型的落地需要三個"實"，第一個是實在，第二個是實用，第三個實效。實在是指 AI落地的時候工程化交付非常重要；實用是需要與業(yè)務高度相關，需要和用戶的業(yè)務吻合；實效是需要降本增效。解決這三個問題，是目前大模型應用非常重要的挑戰(zhàn)。

浪潮信息陳昌浩：榮聯(lián)科技正在發(fā)力深耕生物醫(yī)療、生命科學等領域，請王總談談，面向這類強算力、大數(shù)據(jù)需求的場景領域，如何實現(xiàn)以應用為導向，發(fā)揮出"高算效"？

榮聯(lián)科技王向東：榮聯(lián)科技把領域的業(yè)務需求轉變IT需求，然后利用IT技術和業(yè)務進行深度融合，協(xié)助這個領域的客戶做數(shù)字化轉型。我們將生物醫(yī)療、生命科學等領域的特點總結為"兩高、兩多"，"兩高"是指高算力、高IO迭代并發(fā)；"兩多"是指多樣性的計算需求，多維度數(shù)據(jù)交叉并存。生命科學領域正利用AI先進技術實現(xiàn)數(shù)據(jù)的價值化，并驅(qū)動自己的業(yè)務往前走。從技術角度來看，實質(zhì)上就是AI的算力服務。

所謂"高算效"是實測性能與資源利用率的雙重提升。過去談到算力，是站在資源角度上描述有多少能力。但實質(zhì)上經(jīng)常遇到，客戶買的都是最好的東西，但是實測的性能沒有發(fā)揮出來，效力是不對等的。榮聯(lián)的優(yōu)勢是將用戶的算力需求轉為技術支撐，為用戶提供高效的算力服務。隨著AI技術的不斷引入，生命醫(yī)療領域呈現(xiàn)通過場景化應用開發(fā)，帶動多學科的交叉創(chuàng)新研究的趨勢。針對高算力、高IO迭代并發(fā)、多維度海量數(shù)據(jù)交叉并存的特點，利用機器學習技術，識別出可并行處理的任務和關鍵"瓶頸"任務，有針對性的提供不同的算力供給，將多節(jié)點并發(fā)執(zhí)行和對瓶頸進行集中算力供給相結合, 最大限度的釋放算力，進而提高業(yè)務處理效率。

但只解決了算力的調(diào)度問題是不行的，面對高算力、海量數(shù)據(jù)的存儲及管理必須與廠商相結合才能滿足客戶全部要求。因此，榮聯(lián)和浪潮信息在該領域開展了諸多的合作，譬如研究所的冷凍電鏡系統(tǒng)、醫(yī)院的生命科學實驗室平臺建設等，當然這也有“元腦生態(tài)”的發(fā)力作用。

浪潮信息陳昌浩：潞晨科技所推出的開源AI大模型開發(fā)系統(tǒng)可顯著降低大模型落地成本，請尤洋教授從AI Infra層面分享如何更高效地用好算力，開發(fā)大模型的經(jīng)驗？

潞晨科技尤洋：潞晨科技的核心價值是提升算力的附加值。比如說同樣的四五臺機器，本來它只能訓練10億參數(shù)模型，現(xiàn)在能不能訓練出百億參數(shù)模型？通過極致的算力軟件，內(nèi)存的優(yōu)化，把同樣的設備訓出更大的模型。還有一個角度就是，當機器資源有限時，能不能訓練速度快2倍，幫助合作伙伴和客戶在有限的資源內(nèi)，通過優(yōu)化提升更大的算力價值？

為了實現(xiàn)上述目標，潞晨科技主要往兩個點發(fā)力，第一點是構造了Colossal-AI Platform系統(tǒng)，并且開源了Open-Sora、ColossalChat等AI大模型解決方案，通過在Colossal-AI把訓練速度提升了2-7倍。第二點，我們專注于對算力要求較高的垂直模型或者垂直行業(yè)，目前最明顯的是視頻生成場景，通過我們的技術，幫企業(yè)盡可能降低關鍵領域視頻大模型的門檻。

浪潮信息陳昌浩：銜遠科技是大模型在B端落地的先行者。請曉波總談談大模型發(fā)展如何實現(xiàn)技術與應用的協(xié)同？在推動大模型落地過程中有哪些挑戰(zhàn)？

銜遠科技王曉波：如果把技術比作化學，應用就是化工，一項技術的發(fā)現(xiàn)或者發(fā)展，無論它是偶發(fā)的還是突發(fā)的，除了技術本身要解決的難點之外，它都逃避不了一個經(jīng)濟的問題。商業(yè)化的價值是支撐一項技術能夠更好發(fā)展的終極動力。

技術以一個什么樣的方式、在什么樣的階段去切入商業(yè)化，是所有技術在發(fā)展過程中都面臨的問題。中美發(fā)展方向各有不同，目前國內(nèi)業(yè)者有一種思路是追著OpenAI，或者在它的延長線上做事情。另一種思路，站在當下的產(chǎn)業(yè)業(yè)態(tài)當中、價值鏈各個環(huán)節(jié)中，優(yōu)先提升效率，或者先改變模式。銜遠科技選擇了第二種思路，利用行業(yè)的認知和模型能力先選擇一個閉環(huán)的場景，在這個閉環(huán)場景里跟客戶一起去成長，形成數(shù)據(jù)飛輪，并不斷打磨自己的模型和產(chǎn)品，以應用倒推模型技術的發(fā)展。

產(chǎn)業(yè)鏈各方，該如何攜生態(tài)之力共推"AI+" ？

浪潮信息陳昌浩：我們知道各領域差異很大，"千行百業(yè)、千行千面"，當AI+走向落地，離不開生態(tài)伙伴的合力推動。請各位用一句話來總結，未來生態(tài)該如何協(xié)同，各自將在AI產(chǎn)業(yè)鏈中發(fā)揮怎樣的作用去協(xié)力推"AI+"？

中科軟左春："價值與交付是關鍵"

我用兩個關健詞來總結，一是價值，要區(qū)分自己的價值，一般看領域知識，有的企業(yè)是強領域知識，有些相對比較通用。二是交付，交付越通用的產(chǎn)品周期越短，越領域性的交付時間越長。在這兩個指標基礎上找到了自己的定位，然后利用生態(tài)之力協(xié)同發(fā)展。

拓爾思施才水："ALL in AI，以數(shù)據(jù)筑基，智拓未來"

作為ISV來說，全面擁抱AI，我們確定一條規(guī)矩：如果這個產(chǎn)品沒有AI的基因和元素，停止開發(fā)。在生態(tài)方面，我認為讓伙伴賺到更多的錢，比自己多賺一點更是正路。

榮聯(lián)科技王向東："元腦生態(tài)，新質(zhì)生產(chǎn)力落地的最佳實踐"

在元腦生態(tài)，榮聯(lián)是右手合作伙伴，是受益者。加入元腦生態(tài)是業(yè)務決定的，我們的期待做成的事情僅靠一家公司是無法完成的，場景設計出來以后涉及到算法，每投放一批數(shù)據(jù)和場景，算法都需要優(yōu)化，基礎算力也要調(diào)優(yōu)，這是三個類型角色，是ISV+左手+浪潮信息。

同時，這樣的合作的成果，在領域內(nèi)是可復制的，在成本不斷降低的同時，也將極大的促進領域應用的發(fā)展。因此，元腦生態(tài)也是創(chuàng)造力萃取的平臺，是推動新質(zhì)生產(chǎn)力落地的最佳實踐。

潞晨科技尤洋："我們希望，與浪潮信息一起去解放AI生產(chǎn)力，賦能千行百業(yè)"

銜遠科技王曉波："生態(tài)就是開放的，行業(yè)和人都需要做專業(yè)的事情，大家一起協(xié)同把專業(yè)的事情做大，整個生態(tài)就繁榮起來了"

大模型的落地跟一個企業(yè)能不能把貨賣到消費者是完全一樣的，但大模型更加沒有邊界。我認為生態(tài)就是開放的，行業(yè)和人都需要做專業(yè)的事情，大家一起協(xié)同把專業(yè)的事情做大，整個生態(tài)就繁榮起來了。

浪潮信息陳昌浩：最后再請劉總用一句話總結，浪潮信息對于打造生態(tài)共同體，推動AI+落地有怎樣的策略和思考？

浪潮信息劉軍："紙上得來終覺淺，絕知此事要躬行。這是一個人工智能的新時代，我們不僅是這個時代的見證者，我們更是這個時代的建設者。"

元腦生態(tài)伙伴是一個具有學習成長能力的組織，是業(yè)界唯一一個實現(xiàn)AI服務器分銷的生態(tài)，實現(xiàn)AI調(diào)度平臺分銷和渠道的生態(tài)，是把元腦聯(lián)合解決方案復制落地的生態(tài)。

從浪潮信息自身實踐來看，目前，EPAI已全面賦能浪潮信息，面向運營、服務、研發(fā)等環(huán)節(jié)，快速孵化出智能客服、智能編程、智能投標助手等應用。以智能投標助手為例，可實現(xiàn)招標參數(shù)自動識別，識別準確率達85%有余。而這樣的場景落地，是每一個元腦生態(tài)伙伴都可以做到的，從自己的場景、自己的數(shù)據(jù)，采用EPAI工具先把它做起來。就好像我們手里有了錘子，我們就去找釘子，這是特別好的入局方法。