李信馬 撰文
楊勇 編輯
2024年是人工智能和大模型快速發(fā)展的一年，年底 OpenAI 發(fā)布了最新版本的GPT-o3，強(qiáng)大的能力讓我們看到了AGI的未來。這一年也是大模型加速落地的一年，市場(chǎng)規(guī)模已達(dá)數(shù)百億，金融行業(yè)就是大模型技術(shù)重點(diǎn)落地的行業(yè)之一。
容聯(lián)云是國(guó)內(nèi)領(lǐng)先的智能通訊云服務(wù)商，在大模型的浪潮中，同樣積極擁抱新技術(shù)，發(fā)布了赤兔大模型，并在金融行業(yè)積極落地。
和智譜、騰訊、百度等耳熟能詳?shù)钠脚_(tái)型廠商不同，容聯(lián)云的定位更接近于應(yīng)用廠商，并不直接提供底層的算力資源或平臺(tái)能力，而是針對(duì)企業(yè)具體業(yè)務(wù)場(chǎng)景中的用戶服務(wù)需求，提供具體的應(yīng)用方案。
赤兔大模型是容聯(lián)云基于主流開源大模型，結(jié)合行業(yè)數(shù)據(jù)進(jìn)行微調(diào)訓(xùn)練而構(gòu)建的智能模型。多個(gè)主流開源大模型包括通義大模型、智譜大模型和混元大模型，在構(gòu)建時(shí)，容聯(lián)云還結(jié)合了金融、保險(xiǎn)、銀行等多個(gè)垂直行業(yè)的實(shí)際數(shù)據(jù)，讓模型能夠更好地理解行業(yè)術(shù)語、業(yè)務(wù)流程和客戶需求，從而提供更精準(zhǔn)的服務(wù)，并隨著技術(shù)進(jìn)步和客戶需求的變化而持續(xù)迭代優(yōu)化。
具體來說，在預(yù)訓(xùn)練階段，容聯(lián)云會(huì)利用企業(yè)之間沉淀的數(shù)據(jù)資源。在以往的小模型時(shí)代，模型的能力主要依賴于大量的數(shù)據(jù)進(jìn)行訓(xùn)練，這些在小模型時(shí)代積累的腳本和數(shù)據(jù)，在大模型時(shí)代同樣可以直接被利用。
其次，容聯(lián)云會(huì)在垂直領(lǐng)域內(nèi)尋找公開的數(shù)據(jù)來增強(qiáng)模型的理解能力。例如在金融領(lǐng)域，有公開的企業(yè)介紹、產(chǎn)品介紹或服務(wù)條款等信息，這樣模型就能更好地理解金融相關(guān)的內(nèi)容。以牡丹卡為例，如果不進(jìn)行相關(guān)的訓(xùn)練，模型可能無法識(shí)別牡丹卡屬于哪家銀行。但是，當(dāng)提供了包含牡丹卡產(chǎn)品資料的數(shù)據(jù)后，模型就能自行理解并識(shí)別出相關(guān)信息。
此外，企業(yè)的歷史語料數(shù)據(jù)，比如客服中心的歷史語料，也可以用來調(diào)整和優(yōu)化模型。
在不久前容聯(lián)云舉辦的活動(dòng)中，容聯(lián)云介紹了其大模型方案在金融領(lǐng)域的落地情況。比如在保險(xiǎn)客服領(lǐng)域，企業(yè)面臨著一系列業(yè)務(wù)痛點(diǎn)，傳統(tǒng)客服服務(wù)時(shí)間有限，客戶在遇到問題時(shí)，往往需要等待人工客服上班才能得到解答，面對(duì)大量客戶咨詢和投訴，人工客服服務(wù)效率低下，業(yè)務(wù)高峰期客戶要等待很久，而且由于保險(xiǎn)業(yè)務(wù)涉及大量專業(yè)知識(shí)和術(shù)語，客服人員專業(yè)水平參差不齊，也會(huì)影響到客戶的體驗(yàn)，進(jìn)而影響企業(yè)的品牌口碑和市場(chǎng)競(jìng)爭(zhēng)力。
針對(duì)行業(yè)存在的痛點(diǎn)，容聯(lián)云提供了基于大模型的智能客服解決方案，其中智能文本機(jī)器人能夠7*24小時(shí)不間斷地提供服務(wù)，該機(jī)器人具備強(qiáng)大的語義理解和自然語言處理能力，能夠準(zhǔn)確理解客戶問題給出相應(yīng)回答，并根據(jù)客戶需求提供個(gè)性化的服務(wù)方案。
通過引入大模型技術(shù)，容聯(lián)云實(shí)現(xiàn)了保單查詢、保全信息變更、線上理賠等一系列業(yè)務(wù)流程的自動(dòng)化處理。針對(duì)保險(xiǎn)業(yè)務(wù)對(duì)專業(yè)知識(shí)要求高的特點(diǎn)，容聯(lián)云構(gòu)建了智能知識(shí)庫系統(tǒng)，將大量保險(xiǎn)專業(yè)知識(shí)和術(shù)語進(jìn)行結(jié)構(gòu)化處理，并通過大模型技術(shù)進(jìn)行語義理解和關(guān)聯(lián)分析，讓客服人員在使用智能知識(shí)庫時(shí)，可以快速準(zhǔn)確地找到所需知識(shí)點(diǎn)，提升專業(yè)水平和服務(wù)質(zhì)量。
據(jù)容聯(lián)云提供的數(shù)據(jù)顯示，智能文本機(jī)器人的首解率從原來的60%提升到了80%，轉(zhuǎn)人工率從84%降低到了55%。而且智能文本機(jī)器人和自動(dòng)化業(yè)務(wù)流程處理功能減少人工客服的數(shù)量和工作時(shí)間，智能知識(shí)庫系統(tǒng)也降低了客服人員的培訓(xùn)成本和時(shí)間周期，提高了整體運(yùn)營(yíng)效率。
在會(huì)后的采訪中，容聯(lián)云副總裁孔淼認(rèn)為，大模型賦能金融行業(yè)，是典型的“技術(shù)驅(qū)動(dòng)”，其表現(xiàn)是，首先影響對(duì)客服務(wù)環(huán)節(jié)，進(jìn)而改變客戶體驗(yàn)。
金融行業(yè)從早期的電子網(wǎng)銀到后來的手機(jī)銀行，再發(fā)展到如今多元化的手機(jī)銀行服務(wù)，這一系列變革背后都是技術(shù)在推動(dòng)。同樣，智能客服的興起等智能化技術(shù)的應(yīng)用，也是技術(shù)驅(qū)動(dòng)的產(chǎn)物。
更早之前，全渠道客服的演變——從傳統(tǒng)的呼叫中心到在線客服的加入，同樣見證了技術(shù)（如互聯(lián)網(wǎng)移動(dòng)化、大數(shù)據(jù)、小模型人工智能，直至現(xiàn)在的大模型人工智能）對(duì)行業(yè)的深刻影響。
技術(shù)驅(qū)動(dòng)不僅帶來了服務(wù)形態(tài)的變化，還吸引了部分客戶嘗試這種新體驗(yàn)或新技術(shù)，從而為存量市場(chǎng)帶來了增量流量。一些企業(yè)因此嘗到了甜頭，他們的客戶因?yàn)樾录夹g(shù)的引入——比如個(gè)性化推薦等功能——而獲得了體驗(yàn)上的提升，進(jìn)而實(shí)現(xiàn)了ROI的增長(zhǎng)，這使得企業(yè)開始意識(shí)到新技術(shù)在新場(chǎng)景下的應(yīng)用潛力。
隨著這些新技術(shù)在應(yīng)用中不斷展現(xiàn)其價(jià)值，企業(yè)的需求也隨之發(fā)生變化。逐漸地，這些新的應(yīng)用方式和場(chǎng)景會(huì)形成一些新的標(biāo)準(zhǔn)，特別是在特定行業(yè)場(chǎng)景中，這些標(biāo)準(zhǔn)會(huì)逐漸演化為企業(yè)軟件的標(biāo)準(zhǔn)配置。
對(duì)于大模型如何在企業(yè)中落地，容聯(lián)云也經(jīng)歷市場(chǎng)認(rèn)知上的轉(zhuǎn)變。大模型初現(xiàn)時(shí)，業(yè)界普遍預(yù)期其將徹底改變客戶體驗(yàn)和軟件行業(yè)格局，并傾向于以大模型為核心來解決問題，視其為萬能鑰匙。
然而，大模型雖強(qiáng)大，但也存在諸多局限，如幻覺現(xiàn)象等，需要加以約束，在企業(yè)內(nèi)部應(yīng)用時(shí)，還需關(guān)注流程效率、數(shù)據(jù)整合等實(shí)際問題，包括公有數(shù)據(jù)與私有數(shù)據(jù)的融合，以及RAG等配套措施的實(shí)施。
另外，訓(xùn)練大模型的成本極高，孔淼認(rèn)為，追求大模型的通用人工智能（AGI）固然是一種理論上的可能，但從性價(jià)比角度考慮，對(duì)企業(yè)來說大小模型結(jié)合是更為可行的方案。
經(jīng)過過去一年和客戶的溝通交流以及業(yè)務(wù)實(shí)踐，容聯(lián)云在選擇場(chǎng)景時(shí)，關(guān)注商業(yè)化公司的銷售路徑和市場(chǎng)化問題，區(qū)分存量市場(chǎng)和增量市場(chǎng)，確保所選場(chǎng)景具有市場(chǎng)潛力和商業(yè)價(jià)值。
“我們對(duì)這個(gè)事情的認(rèn)知其實(shí)是越來越細(xì)，到底哪些短期運(yùn)營(yíng)其實(shí)是可以產(chǎn)生商業(yè)效益的，就是所謂的能看到ROI的，哪些其實(shí)可能只是個(gè)‘癢點(diǎn)’，甚至只是一個(gè)‘嗨點(diǎn)’。”孔淼說到。
