在上一篇文章《ToB才是真正的破局點？AI Agent智能體在企業(yè)落地與應用的場景及架構探討》中，對AI Agent智能體在企業(yè)應用中落地的價值、場景、成熟度做了分析，并且探討了未來企業(yè)IT基礎設施與架構如何為未來Gen AI（生成式AI）做好準備。在這樣的架構中，我們把最終體現(xiàn)上層應用能力的AI Agent從不同的技術要求與原理上分成了幾類：
創(chuàng)作與生成類助手
企業(yè)知識助手
數(shù)據(jù)分析助手
應用/工具助手
Web操作助手
自定義流程助手
本篇將對這幾類AI助手分別做進一步探討。
PART\
01
創(chuàng)作與生成類助手
大模型是生成式AI的基礎，因此，理解、創(chuàng)作與生成內容是其強項也是最基本的能力。在C端市場，大量的生成類AI工具已經(jīng)遍地開花（包括圖片、視頻、音樂），也是目前最成熟的一種應用形式。需要注意的是，在C端工具中，我們也經(jīng)?？吹礁鞣N形式的簡單“助手”：
這里的助手與我們這里探討的企業(yè)應用中的AI Agent有一定的區(qū)別：
AI Agent是一個以任務驅動的具備自主能力的智能體，不僅需要大模型這個核心“大腦”，也需要任務規(guī)劃、記憶與外部工具使用等能力。而我們常看到的個人AI助手大部分是基于預設提示詞的大模型問答B(yǎng)ot，在不借助其他插件時，通常不具備工具使用能力。
當前在企業(yè)應用中以內容創(chuàng)作生成為主要能力的AI Agent從技術上至少有兩種：
1、單Agent的內容生成。簡單地將大模型的生成能力通過API集成到其他應用與業(yè)務流程中，替代或簡化原來由人工完成的部分工作。比如：
在線培訓管理系統(tǒng)中，利用AI自動根據(jù)課件創(chuàng)建考題/考卷
在數(shù)字營銷流程中，利用AI生成精確營銷話術甚至撰寫營銷方案
市場分析的AI Agent基于互聯(lián)網(wǎng)搜索或開放數(shù)據(jù)生成市場分析報告
電子商務企業(yè)借助AI自動批量生成商品摘要
媒體行業(yè)通過AI生成新聞摘要；學術平臺借助AI生成論文摘要
這種類型的AI助手簡單的借助Prompt工程即可實現(xiàn)（與C端個人助手并無本質區(qū)別）：
2、基于多Agent協(xié)作（可能還有人類）的內容生成。典型的為虛擬機器人軟件公司，由AI Agent擔任多個軟件開發(fā)崗位，通過相互協(xié)作完成某個軟件開發(fā)任務。
這種多Agent協(xié)作型的助手可以借助Multi-Agents框架來簡化開發(fā)與實現(xiàn)。比如MetaGPT，可以根據(jù)自然語言描述的開發(fā)任務，組建Agent團隊（PM、架構師、程序員、QA等），遵循SOP并最終輸出完整軟件開發(fā)的成果（文檔、代碼、API說明等）。
其他支持多Agent的開源框架包括微軟的AutoGen，xAgents等。
PART\
02
企業(yè)知識助手
當前較為成熟的一種Agent類型。通俗地說，就是在企業(yè)應用中，通過“外掛”私有知識庫來擴充大模型的知識儲備，以提供基于自然語言的、對話式的企業(yè)私有知識訪問（對應到AI Agent的基本能力之一：持久化記憶），以解決通用大模型在面向企業(yè)應用時領域知識不足導致的幻覺問題。
知識助手通常借助于大模型的RAG（檢索增強生成）方案來實現(xiàn)，其本質上也是一種提示工程：借助于在大模型輸入時攜帶相關的私有知識上下文，讓大模型理解、總結、整理并回答用戶問題。只是這里的私有知識上下文需要借助嵌入模型（Embedding Model）、向量數(shù)據(jù)庫（Vector Store）、文檔加載分割（Document Loader&Splitter）等相關技術來獲得。
知識助手的技術實現(xiàn)基礎架構如下：
基于RAG方案的AI助手實現(xiàn)可以自行通過代碼直接實現(xiàn)，當然，為了簡化開發(fā)與管理過程，推薦使用的工具包括：
LangChain或者LlamaIndex大模型主流應用開發(fā)基礎框架。這兩個基礎框架對大量的模型、文檔加載器、向量數(shù)據(jù)庫、嵌入模型等做了抽象封裝，并對RAG應用過程中的知識檢索、Prompt組裝等過程做了簡化，可以大大簡化開發(fā)過程。
另一類是具備一定開箱即用能力的RAG應用構建平臺。相對基礎開發(fā)框架來說，提供了更完善的RAG應用構建工具，比如私有知識庫的管理維護、測試、對話流程編排、提示詞自定義等能力。這里推薦兩個項目，一個是基于Langchain構建的Langcahin-Chatchat；另一個是FastGPT，后者有用于商業(yè)運營的SaaS應用，可以自行體驗。
PART\
03
數(shù)據(jù)分析助手
數(shù)據(jù)分析與商業(yè)智能(BI)在中大型企業(yè)的日常運營中的重要性毋庸置疑，無論是簡單的財務數(shù)據(jù)分析，還是復雜的客戶與運營數(shù)據(jù)洞察，都需要借助專業(yè)的工具。傳統(tǒng)BI工具使用門檻高、過度依賴技術部門、結果產(chǎn)出周期長的問題在AI時代可以借助大模型的能力得以緩解。
基于大模型的數(shù)據(jù)分析助手（Data Agent）是在企業(yè)應用中通過將自然語言轉換成數(shù)據(jù)分析的語言或代碼，比如對API的調用、對數(shù)據(jù)庫的訪問、甚至編寫數(shù)據(jù)分析代碼，來達到獲取數(shù)據(jù)、分析數(shù)據(jù)與可視化結果的目的。其實現(xiàn)基礎架構與原理如下：
無論是對本地的Excel數(shù)據(jù)文件分析，或者對數(shù)據(jù)庫中的關系型數(shù)據(jù)分析，又或者對互聯(lián)網(wǎng)的非結構化數(shù)據(jù)分析，當前大模型實現(xiàn)數(shù)據(jù)分析的技術途徑基本以這三種方式為主，自然語言轉API、轉SQL、以及代碼解釋器（轉代碼）。
數(shù)據(jù)分析助手我們在之前的文章中有詳細闡述，請參考閱讀：
構建Data Agent：探討企業(yè)應用中基于大模型的交互式數(shù)據(jù)分析及方案【上】
這里推薦幾個除Langchain之外構建數(shù)據(jù)分析助手的工具與項目：
DB-GPT：一個國內團隊的以重新定義數(shù)據(jù)交互為使命的強大開源項目，包含完整的前后臺項目實現(xiàn)，實現(xiàn)了多場景下的交互數(shù)據(jù)分析。包括數(shù)據(jù)庫分析、Excel分析、儀表盤分析等，該項目的另一個特點是后端大模型的可伸縮管理架構。另外還有一個專注于微調Text2SQL模型與評估的開源項目。
OpenAgents：一個來自香港團隊的開源項目，Data Agent是其中一個重要的Agent實現(xiàn)。當前主要實現(xiàn)了對本地結構化數(shù)據(jù)文檔的數(shù)據(jù)分析，其特點是提供了兩種數(shù)據(jù)分析方法供選擇，一種是基于SQL，一種是基于代碼解釋器。
OpenInterpreter：當前最強大的開源代碼解釋器，完美地復刻了OpenAI的代碼解釋器實現(xiàn)，但是可以完全在本地部署與使用，利用它來實現(xiàn)本地的數(shù)據(jù)分析與可視化是一個不錯的選擇。
需要注意的是：數(shù)據(jù)分析助手嚴重依賴大模型對自然語言轉數(shù)據(jù)操作的能力（SQL或Python代碼等）。當然條件下，即使是針對這種場景專門優(yōu)化的模型與提示工程，其失敗概率也很高（比如Text2SQL目前最高成功率在80%左右）。因此，在實際實施中需要根據(jù)場景、復雜性、可靠性要求做綜合評估。
PART\
04
應用/工具助手
企業(yè)應用中的AI助手很多時候需要與現(xiàn)有應用（CRM、OA系統(tǒng)）做集成與交互，以完成某個用戶任務或者驅動業(yè)務流程。比如：如果你需要AI幫你在協(xié)同辦公系統(tǒng)中提交一個付款申請，那么你需要調用辦公系統(tǒng)的接口；或者你需要借助互聯(lián)網(wǎng)獲得最新某上市公司的財務報告，你需要調用第三方平臺的公開接口。這就是AI Agent另一項重要能力：工具使用。
AI應用/工具助手就是能夠把自然語言轉換成對企業(yè)應用或者互聯(lián)網(wǎng)開放API調用的一種基礎Agent形式。當然，在復雜任務場景下的這種調用往往不是單一的。其基礎架構與原理：
應用助手的基本原理是比較簡單的，其復雜性主要體現(xiàn)在大模型對自然語言轉API的能力，在實際使用中，其主要體現(xiàn)以下兩個方面：
能否根據(jù)上下文理解，精確匹配到需要使用的API（一個或者多個）
能否準確地提取或生成每個API的調用參數(shù)
在實際測試中我們發(fā)現(xiàn)不同的大模型在這方面的能力是有較大的差異的，而且即使是最優(yōu)秀的模型，也存在一定的不確定性，比如有時候無法判斷出正確的工具。
在構建企業(yè)基于大模型的應用助手時，有一些工程問題是需要考慮的，這些問題在做原型或者測試時容易被忽視：
企業(yè)中API過多的優(yōu)化方案。由于需要通過Prompt提示LLM這些API信息，過多的API描述可能會導致上下文溢出；而且大量的API相互干擾，會提高大模型推理時的錯誤率。之前我們介紹過一種優(yōu)化方案：借助向量庫語義搜索，每次只檢索出本次任務相關的API描述，再交給LLM處理。
需要設計一個標準化的、容易擴展、易于插拔的工具/插件架構。即能夠靈活快速地擴展Agent的“工具包”，在增加新的工具時，通過簡單的配置甚至自動化生成，即可給Agent動態(tài)賦予新的工具能力。
構建應用助手的一些工具和項目推薦：
LangChain：LangChain中的Agent組件，通過組裝多個Tools，封裝與簡化了大模型使用工具的過程，可以讓你專注于Tools的創(chuàng)建即可。
Assistants API：這是OpenAI官方最新放出構建AI助手的API，如果你條件具備，也可以基于此構建企業(yè)AI助手，充分利用其強大的gpt4模型。其中對工具的使用主要體現(xiàn)在其對Function Calling功能的支持。
OpenAgents：該項目中的Plugins Agent實現(xiàn)了對大量開放API的智能使用，并且可以靈活配置增加新的Plugin，可以參考其實現(xiàn)。
集簡云：類似海外Zapier的平臺。該平臺對接了國內大量的SaaS應用與互聯(lián)網(wǎng)平臺作為“工具”。因此，你可以通過簡單的配置后，在你的AI助手中通過API來對接這些工具，可以大大拓展你的AI助手的“工具庫”。
PART\
05
Web助手
一種類似RPA（機器人流程自動化）的AI智能體。其主要能力是自動化Web網(wǎng)絡瀏覽、操作與探索的動作與過程，以簡化web瀏覽訪問與操作。對于個人來說，可以作為個人數(shù)字助理，簡單對話即可讓AI幫你完成Web瀏覽與操作，比如在線訂票。而對于企業(yè)來說，則可以作為企業(yè)的數(shù)字員工，來簡化企業(yè)日常工作中重復性較高、流程與規(guī)則固定、大批量的前端操作性事務。比如批量訂單處理、批量客戶聯(lián)絡、批量網(wǎng)站抓取等，提高效率，降低錯誤率。
傳統(tǒng)的RPA機器人也是用來完成此類工作的AI形式，由于這種AI機器人工作在軟件的最上層即操作層面，好處是流程直觀、簡單、也可以配置化，且對應用無侵入性；但其缺點是與前端應用耦合性大，每個任務需要根據(jù)前端應用界面做精心配置與調試，自適應能力較差。
在大模型出現(xiàn)以后，給這一類RPA智能也帶來了新的優(yōu)化空間。利用大模型的理解與分析推理能力，可以讓AI更加智能的規(guī)劃與分解任務過程，然后借助瀏覽器完成執(zhí)行；且在未來可以利用像GPT-4V這樣的視覺模型，更智能的理解界面元素與功能，實現(xiàn)完全自主的智能操作，具備更強的自適應能力。
實現(xiàn)一個自主Web操作的Agent的基礎原理與架構：
構建一個真實應用的Web Agent需要借助瀏覽器自身能力。由于外部應用無法直接接管瀏覽器實現(xiàn)操作，一般需要借助瀏覽器插件，比如Chrom擴展，借助瀏覽器API完成網(wǎng)站導航與自動化網(wǎng)頁操作，比如點擊界面元素，或者輸入表單。
我們前面介紹到的OpenAgents項目中的Web Agent是一個基于Chrom瀏覽器與擴展而實現(xiàn)的一個LLM Agent，可以參考用作參考。
當然由于大模型的輸出不確定性，當前的Web Agent仍然處于探索實驗階段，具有較大的失敗或誤操作可能，實際應用中需要根據(jù)情況反復測試與評估。
PART\
06
自定義流程助手
最后一種AI Agent嚴格來說是上面的幾種基礎Agent能力的組合。
理想中的AI Agent是在丟給他一個工具包與一些知識以后，借助于大模型的理解、推理能力，完全自主的規(guī)劃與分解任務，設計任務步驟，并智能的使用各種工具，檢索知識，輸出內容，完成任務。但是在企業(yè)應用中，由于企業(yè)知識、應用、業(yè)務需求的千差萬別，以及大模型自身的不確定性，如果這么做，那么結果很可能是“開盲盒”一樣的不可控。所以這也是越來越多的Agents項目要強調可控性的原因，即能夠對AI智能體的執(zhí)行過程與細節(jié)進行更多的控制，來讓AI按照人類確認過的工作流程來完成任務。
比如之前我們介紹的HR簡歷自動化篩選的場景中，你可能需要更加細致的去定義整個自動化工作流程，包括：
主要的工作步驟與目標設定
每個步驟使用的大模型
每個步驟可以使用的工具
可以輸入與攜帶的知識與文檔
其他必要的限定與指令
在實際應用中，這樣基于LLM的工作流既可以是直接面向使用者的對話機器人來觸發(fā)；也可以是完全后臺觸發(fā)。
實現(xiàn)這樣的自動化工作流程AI智能體，除了借助Langchain/LlamaIndex這樣的LLM開發(fā)框架直接定制外，還可以參考或利用一些開源項目：
借助類似Flowise或者FastGPT這樣的具有LLM流程可視化編排能力的框架或平臺，可以更加直觀簡單地定制任務流程
借助類似SuperAGI這樣可快速簡單化定制LLM流程的Agent框架來實現(xiàn)
PART\
07
結束語
以上，我們對企業(yè)應用中的大模型AI Agent從技術原理層面區(qū)分的幾種類型做了簡單探討。實際上這里的每一種類型也都是一個可以深入的復雜話題，其中部分類型在之前的文章中也展開深入過，后續(xù)我們也會關注AI Agent技術趨勢與發(fā)展，并在未來做持續(xù)分享。
END
