在企業(yè)服務領域深耕35年的用友，如何應對人工智能新范式帶來的機遇和挑戰(zhàn)。
所有行業(yè)都值得基于人工智能技術(shù)重做一遍。類似的判斷已經(jīng)司空見慣，大模型帶來的技術(shù)新范式正在加速這一進程?！叭斯ぶ悄芤咽俏覀冞@個時代最前沿和普適的科學技術(shù)之一?！庇糜丫W(wǎng)絡董事長兼CEO王文京說。
7月27日，用友發(fā)布了業(yè)內(nèi)首個企業(yè)服務大模型YonGPT。在企業(yè)服務領域深耕了35年的用友，在一些開源或者閉源的通用大語言模型之上，結(jié)合海量的行業(yè)知識和真實的行業(yè)場景，訓練出了企業(yè)服務大模型。
目前YonGPT還處于1.0版本，本次發(fā)布的是基于這個大模型的首批智能化場景服務。王文京表示，后面大模型會持續(xù)迭代訓練，并不斷豐富基于這個大模型的各類企業(yè)服務。
過去幾十年，用友的核心產(chǎn)品完成了從財務軟件到企業(yè)管理軟件，再到現(xiàn)在商業(yè)創(chuàng)新平臺用友BIP的升級。而隨著YonGPT的發(fā)布，大模型在自然語言上的交互表現(xiàn)和內(nèi)容生成上的強大能力，將給用友BIP打開巨大的想象空間。
“企業(yè)服務已進入AI創(chuàng)新時代，商業(yè)創(chuàng)新也進入到全面數(shù)智商業(yè)創(chuàng)新的新時代?！庇糜丫W(wǎng)絡執(zhí)行副總裁兼CTO樊冠軍說，YonGPT是用友BIP產(chǎn)品智能化的一部分，實際上也是用友為客戶提供的一個商業(yè)基礎設施。
01
企業(yè)服務正在被大模型重構(gòu)
先來看幾個企業(yè)服務的具體場景：
張總是一家消費品企業(yè)的財務高管，面對瞬息萬變的商業(yè)環(huán)境，他希望能了解公司實時的財務數(shù)據(jù)。他通過基于用友YonGPT打造的AI經(jīng)營助手“智友”發(fā)出查詢指令：分析今年截止7月份的盈利情況。YonGPT很快生成了利潤總額、同比增長率，做出了低于年初3.65%增長目標的洞察分析，并繪制了直觀豐富的圖表，可以看到每個月累計利潤雖有所增長，但是同比增長率卻在逐月下降。
光有這些數(shù)據(jù)是不夠的，“看一下詳細數(shù)據(jù)”，YonGPT又給出了更詳細的經(jīng)營數(shù)據(jù)，包括盈利總額、產(chǎn)量、銷量和預算執(zhí)行情況、各類產(chǎn)品利潤情況等實時信息。
而后大模型又分析了華北分公司的情況，分析利潤不及預期的原因，然后基于產(chǎn)銷計劃數(shù)據(jù)預測下個月的利潤情況，并自動總結(jié)推理出測算后的總體利潤以及與年初目標的對比情況。讓管理層隨時隨地進行盈利分析、經(jīng)營預測、歸因洞察、行業(yè)對標等一體化決策。
業(yè)務員小林正在與客戶進行RFQ（報價請求）的溝通。以前都是在微信、QQ等社交軟件上完成，白天與客戶交流，晚上再打開公司系統(tǒng)，手動一行一行錄入，不僅辛苦，也很割裂。
現(xiàn)在在大模型的加持之后，一邊聊天溝通，系統(tǒng)會摘錄和提取聊天記錄的關(guān)鍵信息，自動生成訂單摘要，如有信息缺失，經(jīng)過預訓練的YonGPT也會給出相應的提示，如送貨日期未提供。業(yè)務員可再次發(fā)起與客戶的溝通，進行信息補全。“聊天式地完成了原來軟件的系統(tǒng)化的工作。”
這是用友企業(yè)服務大模型正在給企業(yè)服務場景帶來的真實改變。在7月27日的發(fā)布現(xiàn)場，樊冠軍介紹到，基于大模型的人工智能在企業(yè)服務領域的應用主要集中在4個方向上：智能化的業(yè)務運營、自然化的人機交互、智慧化的知識生成、語義化的應用生成。用友企業(yè)服務大模型YonGPT圍繞這四個方向推進模型訓練和產(chǎn)品效果優(yōu)化。
不難發(fā)現(xiàn)，這四大方向都有幾個共同特點：一是全程都是通過自然語言的交互完成，“實際上已經(jīng)沒有菜單的概念了”。
以前，企業(yè)的痛點在于，數(shù)據(jù)藏得很深。功能都很全，但大部分企業(yè)只能用到里面很小的一部分，數(shù)據(jù)潛力挖掘得遠遠不夠。比如公司管理層想要看到具體數(shù)據(jù)，還需要中間有人幫忙整理，中間來回調(diào)整，不僅麻煩，而且影響效率。現(xiàn)在管理層可以直接跟系統(tǒng)對話，自己就能調(diào)整，實時掌握最新經(jīng)營情況。
二是實現(xiàn)基于上下文的多輪對話，通過一步步輸入提示詞，不斷獲得更加深入的分析結(jié)果。從最簡單的信息展示，到最終的商業(yè)決策，都在大模型的輔助之下，變得高效且有依據(jù)。
三是強大的內(nèi)容生成能力。一方面是知識的生成，比如歸納總結(jié)文檔的內(nèi)容，提煉對話要點等。另一方面是應用生成，低代碼在企業(yè)應用的搭建上非常流行，但低代碼并非完全沒有門檻，依然需要業(yè)務人員有一定的代碼能力和邏輯能力。而大模型讓低代碼的搭建可以基于自然語言進行。
大模型的推出給企業(yè)服務帶來了極大的變革。一方面是極大降低了數(shù)據(jù)使用門檻，管理層用數(shù)的需求不需要經(jīng)過重重轉(zhuǎn)包，可以用自然語言直接從系統(tǒng)中獲得信息。從戰(zhàn)略層面，企業(yè)內(nèi)數(shù)據(jù)應用變得更以人為本。
另外，大模型也極大推動了企業(yè)內(nèi)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的融合。此前用友BIP系統(tǒng)里大量的結(jié)構(gòu)化數(shù)據(jù)可以直接被系統(tǒng)識別和分析。但許多非結(jié)構(gòu)化數(shù)據(jù)，比如視頻、圖片、圖譜等，使用時需要人去檢索和識別，不易被充分利用。
大模型技術(shù)應用后，系統(tǒng)能夠輕松跨越結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)數(shù)據(jù)，實現(xiàn)即搜即問即答。這種融合還能極大簡化產(chǎn)品的界面，比如原來分散在不同界面的人力知識系統(tǒng)、財務知識系統(tǒng)和業(yè)務知識管理系統(tǒng)能實現(xiàn)合并，形成一個7*24小時的助手為企業(yè)用戶服務。
樊冠軍認為，通用大語言模型與用友企業(yè)服務大模型、用友BIP系統(tǒng)及企業(yè)內(nèi)私域數(shù)據(jù)的結(jié)合，正在推動企業(yè)服務領域里智能應用服務時代的到來。
02
YonGPT背后的三層架構(gòu)
用友很明確的一點是，不做通用大語言模型，而是選擇在閉源或開源的通用大模型之上，來構(gòu)建自己的企業(yè)服務大模型YonGPT，實現(xiàn)跨模型適配。
YonGPT的整體架構(gòu)分了三層，L0層是通用大模型底座，L1層是YonGPT企業(yè)服務大模型，L2層是領域或行業(yè)模型精調(diào)的智能化場景服務。
樊冠軍認為，在云原生時代人們常說跨云適配，在大語言模型時代，企業(yè)服務也需要跨模型進行適配。目前，YonGPT在最底層的通用大模型底座上，可以適配業(yè)界主流的大語言模型，既包括包括百度的文心一言等閉源模型，也支持智源悟道、質(zhì)譜ChatGLM以及LLaMA等開源大模型。在國外，YonGPT還可基于ChatGPT來提供服務。
無論哪一種方式，行業(yè)大模型都離不開大量的精調(diào)和提示工程，用友在這個環(huán)節(jié)做了細致的工作。YonGPT通過上下文記憶、知識/庫表索引、Prompt工程、Agent執(zhí)行、通用工具集等擴充大模型的存儲記憶、適配應用和調(diào)度執(zhí)行能力。除此之外，用友也考慮到了插件建設。涉及到與外部系統(tǒng)的互動以及調(diào)用，可以用插件服務來完成。
YonGPT內(nèi)置了一個Agent執(zhí)行層，作為整體的指揮調(diào)度中心，對企業(yè)用戶的需求進行區(qū)分。一些需要返回確定性結(jié)果，并且對可靠性要求高的任務，系統(tǒng)會自動交回用友BIP或小模型，由企業(yè)服務領域原有的功能來完成。對一些需要推理判定，有不確定性或模糊性的任務，交給大模型去開發(fā)。
最上面的L2層是場景化的智能應用。目前發(fā)布的YonGPT1.0版，用友推出了包括企業(yè)經(jīng)營洞察、智能訂單生成、供應商風控、動態(tài)庫存優(yōu)化、智能人才發(fā)現(xiàn)、智能招聘、智能預算分析、智能商旅費控、代碼生成等在內(nèi)的數(shù)十種基于企業(yè)服務大模型賦能的智能應用。樊冠軍介紹，未來用友會進一步豐富場景，將更多的功能場景開放出來，比如智能保修檢修等服務已經(jīng)在開發(fā)中。
眾所周知，通用大語言模型有時會一本正經(jīng)的胡說八道，而在企業(yè)生產(chǎn)和經(jīng)營場景，互動的結(jié)果需要可信、可靠。樊冠軍介紹，YonGPT能夠真正在企業(yè)服務領域應用，本質(zhì)上依靠三大技術(shù)來實現(xiàn)：
首先是交互式數(shù)據(jù)查詢與指令執(zhí)行。此前的智能人機交互經(jīng)常被吐槽不夠聰明的原因在于，稍有語義改動和問法變化，系統(tǒng)就不能正確識別 ，同時這些軟件也不能很好理解上下文內(nèi)容。經(jīng)過專門訓練后，YonGPT能夠準確識別用戶的提問，判斷用戶提問的意圖及與之相關(guān)聯(lián)的意圖，保證交互準確。
其次是業(yè)務知識查詢問答。大模型技術(shù)可以解決多模態(tài)數(shù)據(jù)的問題。多模態(tài)的視頻、圖片和表格數(shù)據(jù)，通過切片，倒排索引和向量索引等技術(shù)處理，各類數(shù)據(jù)口徑對齊，形成企業(yè)內(nèi)的多路索引庫。這些索引庫都在私域內(nèi)，L0層和L1層的模型學習、訓練和調(diào)用都在私域內(nèi)，保證了數(shù)據(jù)的安全性，同時得到了企業(yè)內(nèi)知識的“可搜可問答” 。
第三是復雜任務執(zhí)行系統(tǒng)。通過大模型的任務鏈技術(shù)將復雜任務分解一系列微服務執(zhí)行，把確定性交給已有系統(tǒng)或者小模型，不確定性和系統(tǒng)調(diào)度交給大模型。
另外，YonGPT還優(yōu)化了企業(yè)服務大模型的訓練效率和成本，集成了豐富的開發(fā)工具和優(yōu)化算法，通過自有的數(shù)據(jù)管理、大模型精調(diào)、大模型評估優(yōu)化、大模型推理和插件服務等功能，為大模型的構(gòu)建和服務提供穩(wěn)定且有效的支撐。后續(xù)YonGPT將會對用友整體產(chǎn)品體系進行全面的能力覆蓋。
03
用友的優(yōu)勢在哪里？
今年4月，用友BIP技術(shù)大會上，用友透露已經(jīng)開始啟動企業(yè)服務大模型的訓練。在外界看來，從啟動訓練到現(xiàn)在發(fā)布，YonGPT籌備的時間也不到半年時間。但事實上，用友在智能化應用和服務方面已布局多年，相關(guān)技術(shù)也有很深的積累。
“用友BIP從研發(fā)伊始就堅持把數(shù)字化和智能化作為兩個最核心和基本的特性，在數(shù)字化基礎上，結(jié)合IPA（智能流程自動化）、計算機視覺、自然語言處理、知識圖譜等智能技術(shù)，研發(fā)提供了一批智能化的應用與服務，已在一批企業(yè)中得到應用?！蓖跷木┱f。
比如用友開發(fā)的智多星RPA（機器人流程自動化），匯聚了上千個場景用例，在銀行回單下載、對賬、開票、稽核等業(yè)務場景中，代替人完成高重復、標準化、規(guī)則明確、大批量的日常事務性操作。
在工業(yè)領域，用友的人工智能技術(shù)被用于廢鋼定級、礦山巡檢、供水監(jiān)測等場景。用友BIP的廢鋼智能判級系統(tǒng)的準確率達95%以上，已服務包括鞍鋼集團、濟源鋼鐵在內(nèi)的20余家鋼鐵行業(yè)領軍企業(yè)。
一位大模型領域的業(yè)內(nèi)人士告訴數(shù)智前線，大模型作為人工智能領域一種新的技術(shù)范式，背后的技術(shù)和算法并不是新的發(fā)明，但如何調(diào)優(yōu)、如何工程化落地，還是一個很有門檻的事情，需要有足夠的人才和技術(shù)儲備。
用友此前在人工智能領域的積累，給大模型的訓練和應用打下了很好的基礎。比如用友花了7年時間組織數(shù)千人研發(fā)的用友商業(yè)創(chuàng)新平臺-用友BIP，其數(shù)智化底座就包含了智能中臺。它提供了圖片、文本、視頻處理的AI接口、智能搜索、知識圖譜等AI基礎能力，以及數(shù)智員工、VPA、RPA、AI工作坊等AI開發(fā)工具。如今相當于在基礎設施層增加了大模型，讓數(shù)智化底座變得更為扎實。
而且，用友BIP本身也是基于云原生的技術(shù)理念開發(fā)，做到了微服務化和API化。隨著智原生（AI Native）時代的到來，大模型的能力通過API與各類軟件打通，實現(xiàn)了AI的普及和應用。
高質(zhì)量的領域數(shù)據(jù)語料的投喂是大模型變得更專業(yè)的重要保障。通用大語言模型有很強的泛化能力和內(nèi)容生成能力，但準確性不夠，所以在解決行業(yè)具體問題時，往往需要行業(yè)數(shù)據(jù)進行精調(diào)。
這是用友深耕企業(yè)服務多年積累的優(yōu)勢，用友的人工智能團隊結(jié)合企業(yè)應用場景和領域經(jīng)驗，標記了大量的企業(yè)服務語料數(shù)據(jù)，形成豐富的企業(yè)服務大模型訓練素材，并將業(yè)務知識與領域經(jīng)驗融入企業(yè)服務大模型，比如財務、人力、供應鏈、采購和營銷等領域的知識，確保了大模型的專業(yè)性和實用性。
據(jù)數(shù)智前線獲悉，用友也會收集一些行業(yè)的公共數(shù)據(jù)，包括政策法規(guī)等。同時，用友也將自身在研發(fā)領域的知識用于模型訓練。在基礎大模型之上，訓練成了企業(yè)服務領域通用的大模型，然后提供給整個智能化的場景服務。
今年年初，用友進行組織升級，組建了多個行業(yè)客戶與解決方案事業(yè)部，對大型企業(yè)客戶的數(shù)智化解決方案與服務由此前的“以地區(qū)為主，地區(qū)+行業(yè)”組織模式升級為“以行業(yè)為主，行業(yè)+地區(qū)”的運行模式。深耕行業(yè)多年，并且持續(xù)加強對行業(yè)的理解，使得用友積累了豐富的行業(yè)know-how，這些經(jīng)驗和知識成為了用友企業(yè)服務大模型的優(yōu)勢。
再者，用友3.0階段的戰(zhàn)略級產(chǎn)品用友BIP涵蓋財務、人力、供應鏈、采購、制造、營銷、研發(fā)、項目、資產(chǎn)、協(xié)同十大領域，提供了覆蓋企業(yè)業(yè)務和管理主要領域融合一體的應用，是目前全球領域覆蓋最多的企業(yè)應用服務群。而這些被廣泛應用的企業(yè)應用服務，將成為YonGPT的最佳練兵場。
領先和具有豐富應用場景的企業(yè)軟件與服務產(chǎn)品體系、覆蓋數(shù)十個行業(yè)的數(shù)百萬客戶基礎、35年服務企業(yè)客戶積累的行業(yè)知識經(jīng)驗、專業(yè)的智能化團隊和能力是用友研發(fā)訓練企業(yè)服務大模型的獨特優(yōu)勢。
?本文為數(shù)智前線（szqx1991）原創(chuàng)內(nèi)容
