用元腦企智EPAI"玩轉(zhuǎn)"大模型應(yīng)用開發(fā)，1人1月開發(fā)智能售前助手

北京2024年9月14日 /美通社/ -- 對于每一位IT售前而言，與數(shù)萬字的招標(biāo)文件打交道是"工作日常"，他們不僅需要在幾百頁的招標(biāo)文件中抽絲剝繭找到關(guān)鍵信息，還要在瞬息萬變的市場中迅速捕捉商機(jī)。面對多元化、專業(yè)化的IT業(yè)務(wù)需求，每一個(gè)細(xì)節(jié)都不容有失。

在人工智能技術(shù)飛速發(fā)展的今天，要讓IT售前將大模型能力融入到招投標(biāo)這項(xiàng)專業(yè)性極強(qiáng)的工作中，就像"西天取經(jīng)"一樣難關(guān)重重：AI助手如何精準(zhǔn)掌握大量格式不一且隨時(shí)更新的產(chǎn)品資料？如何理解售前業(yè)務(wù)邏輯？能否確保數(shù)據(jù)安全？

浪潮信息售前團(tuán)隊(duì)先行先試，基于企業(yè)大模型開發(fā)平臺元腦企智EPAI（Enterprise Platform of AI），零代碼完成企業(yè)知識庫構(gòu)建、模型微調(diào)、應(yīng)用開發(fā)等工作，簡單高效、低門檻地打造出售前助手"元小智"，賦能日常售前業(yè)務(wù)，實(shí)現(xiàn)智慧化變革，團(tuán)隊(duì)工作效率提升3-5倍。

做一個(gè)好用的售前助手，到底有多難？

面對日益增長的業(yè)務(wù)需求，浪潮信息售前團(tuán)隊(duì)決定用大模型技術(shù)變革售前業(yè)務(wù)，加速推進(jìn)業(yè)務(wù)體系的智能化轉(zhuǎn)型。在對市面上多種工具進(jìn)行測試后發(fā)現(xiàn)：AI助手在閱讀、理解、分析和處理長文本方面表現(xiàn)優(yōu)異，但是要想將大模型應(yīng)用到專業(yè)化、精細(xì)化和低容錯的招投標(biāo)業(yè)務(wù)中，還有非常繁瑣的開發(fā)工作需要完成。

第一難，如何構(gòu)建浪潮信息全業(yè)務(wù)線產(chǎn)品信息知識庫，并讓大模型實(shí)現(xiàn)高精準(zhǔn)、高效率的檢索。浪潮信息的業(yè)務(wù)資料覆蓋了服務(wù)器、存儲、網(wǎng)絡(luò)、虛擬化、安全等多種IT基礎(chǔ)設(shè)施領(lǐng)域，大到產(chǎn)品迭代型號，小到插槽數(shù)量、板卡規(guī)格，繁雜的信息不僅多如牛毛，還分成了pdf、doc、xls、html、json等多種格式進(jìn)行存儲，難以進(jìn)行統(tǒng)一轉(zhuǎn)換。此外，要想確保模型對有效信息進(jìn)行精準(zhǔn)檢索，還涉及到復(fù)雜的結(jié)構(gòu)化、非結(jié)構(gòu)化信息提取、數(shù)據(jù)向量化、召回測試、檢索優(yōu)化等多個(gè)環(huán)節(jié)，需要對RAG系統(tǒng)進(jìn)行整體優(yōu)化，以提高檢索精度。

第二難，如何快速、高效地完成模型微調(diào)，提升基礎(chǔ)大模型對于售前業(yè)務(wù)的理解能力。售前業(yè)務(wù)具有特定的行文格式、專業(yè)術(shù)語，大模型需要能夠進(jìn)行專業(yè)化的內(nèi)容輸出，因此需要構(gòu)建高質(zhì)量的微調(diào)數(shù)據(jù)集進(jìn)行模型微調(diào)。這不僅需要對行業(yè)、企業(yè)數(shù)據(jù)進(jìn)行清洗和過濾，還要基于提取出的高質(zhì)量數(shù)據(jù)合成、生成、構(gòu)建，以滿足微調(diào)過程中對數(shù)據(jù)量的需求。這些繁瑣的準(zhǔn)備工作，需要開發(fā)人員具備豐富的大模型微調(diào)經(jīng)驗(yàn)，時(shí)間周期長、最終結(jié)果不可控，試錯成本高。

最后，考慮到招投標(biāo)文件包含大量企業(yè)隱私數(shù)據(jù)，不能上傳至云端大模型進(jìn)行訓(xùn)練推理，企業(yè)模型必須完成私有化本地開發(fā)，以及部署易用的大模型應(yīng)用，在確保數(shù)據(jù)絕對安全的同時(shí)確保應(yīng)用的高可用。

化解三難，元腦企智EPAI降低大模型開發(fā)門檻

卓越的大模型應(yīng)用開發(fā)工具是釋放AI生產(chǎn)力的關(guān)鍵。企業(yè)大模型開發(fā)平臺元腦企智EPAI提供了全鏈路、高可用的系列工具，將專業(yè)的大模型應(yīng)用開發(fā)流程進(jìn)行了界面化封裝，有效降低大模型應(yīng)用開發(fā)門檻，零代碼即可完成大模型應(yīng)用開發(fā)的全流程工作。

浪潮信息售前團(tuán)隊(duì)使用元腦企智EPAI，完成了企業(yè)知識庫構(gòu)建、模型微調(diào)、應(yīng)用開發(fā)與服務(wù)上線，實(shí)現(xiàn)了企業(yè)知識的高效利用、售前場景下的模型能力提升與便捷的應(yīng)用開發(fā)部署，跑通大模型應(yīng)用落地全流程，成功打造出智能售前助手"元小智"。

• 輕松構(gòu)建企業(yè)知識庫，提高回復(fù)精準(zhǔn)度：依托元腦企智EPAI的知識庫工具，自動完成結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)的解析和存儲。售前團(tuán)隊(duì)將整理出的1500多份pdf、docx、xls等格式的業(yè)務(wù)資料、產(chǎn)品信息、行業(yè)研報(bào)進(jìn)行統(tǒng)一處理，構(gòu)建起公司8大業(yè)務(wù)線全部在售產(chǎn)品的知識庫，將繁雜的企業(yè)知識轉(zhuǎn)換為大模型"最強(qiáng)外掛"。
  為了提升知識庫檢索生成效果，元腦企智EPAI的RAG系統(tǒng)完成了各個(gè)環(huán)節(jié)的全鏈路優(yōu)化，特別是通過自研模型替代傳統(tǒng)Rerank模型，實(shí)現(xiàn)整體精度提升。通過混合檢索策略，多次調(diào)整、驗(yàn)證不同參數(shù)配置下的檢索精度，找到最佳的檢索配置，有效提高知識庫檢索問答的質(zhì)量，滿足售前專家精準(zhǔn)快速查找產(chǎn)品信息的業(yè)務(wù)需求。

• 高效微調(diào)數(shù)據(jù)治理，提升模型專業(yè)能力：基于元腦企智EPAI的微調(diào)數(shù)據(jù)處理工具，售前人員從業(yè)務(wù)資料、產(chǎn)品信息等文檔中，自動抽取生成微調(diào)數(shù)據(jù)集；然后通過多種參數(shù)閾值設(shè)定，針對微調(diào)數(shù)據(jù)進(jìn)行自動打分，剔除低質(zhì)量數(shù)據(jù)，完成高質(zhì)量數(shù)據(jù)的過濾與篩選，最終形成數(shù)十萬條高質(zhì)量微調(diào)數(shù)據(jù)，減少數(shù)據(jù)處理的時(shí)間和成本。通過元腦企智EPAI的零代碼微調(diào)工具，結(jié)合內(nèi)置的經(jīng)專業(yè)算法人員調(diào)優(yōu)的超參數(shù)配置，實(shí)現(xiàn)最佳的微調(diào)效果，構(gòu)建起符合業(yè)務(wù)需求的專用模型。
• 快捷開發(fā)本地應(yīng)用，實(shí)現(xiàn)開箱即用：元腦企智EPAI內(nèi)置對話式應(yīng)用支持多輪對話、長文本分析、單文檔對話、網(wǎng)絡(luò)檢索等交互功能，可在本地完成模型部署上線服務(wù)，輕松滿足使用大模型的多種功能需求。

浪潮信息售前團(tuán)隊(duì)在元腦企智EPAI的加持下，大大縮短了應(yīng)用開發(fā)周期，1人1月即可完成模型微調(diào)、應(yīng)用開發(fā)，成功打造出售前助手"元小智"，為售前人員的工作注入智慧生產(chǎn)力。

投標(biāo)效率提升3-5倍，元腦企智EPAI加速釋放大模型價(jià)值

基于元腦企智EPAI打造的對話式智能售前助手"元小智"能夠閱讀數(shù)萬字、上百頁的招標(biāo)文件，招標(biāo)關(guān)鍵信息識別準(zhǔn)確率達(dá)85%，秒級提取客戶核心需求，將招標(biāo)文件平均分析時(shí)間從天級縮短到分鐘級以下。"元小智"可以快速查閱浪潮信息全系列在售產(chǎn)品及方案的相關(guān)內(nèi)容，生成對應(yīng)的產(chǎn)品優(yōu)勢、核心參數(shù)等投標(biāo)支撐信息，免去售前人員在海量產(chǎn)品文件中逐一查閱的重復(fù)性勞動。此外，結(jié)合網(wǎng)絡(luò)檢索功能，"元小智"能夠輔助售前人員快速了解同類產(chǎn)品信息，釋放50%的分析時(shí)間。

未來，浪潮信息將基于元腦企智EPAI，為業(yè)內(nèi)提供"算力+平臺+服務(wù)"一站式解決方案，持續(xù)加速大模型應(yīng)用創(chuàng)新與發(fā)展，讓大模型應(yīng)用開發(fā)不再復(fù)雜。