近期閱讀了Anthropic發(fā)布的最新文章《Building effective Agents》, 文章分享了他們對于如何高效構(gòu)建Agents的相關(guān)思考, 看完后獲得了一些收獲, 與你分享。

01 Anthropic 對 Agent 的定義

Agent是一個架構(gòu)或者是系統(tǒng)

它即被定義為一個能夠較長時間自主獨立運行，通過調(diào)用各種工具來完成復(fù)雜任務(wù)的自主系統(tǒng)，也被定義為通過遵循預(yù)定義工作流的預(yù)設(shè)系統(tǒng)。

所以Anthropic對Agent系統(tǒng)進(jìn)行了兩類劃分：

1. Agents： 根據(jù)任務(wù)復(fù)雜程度，由LLM動態(tài)決定處理流程來自動完成任務(wù)，適用于“開放性與創(chuàng)造性場景”，如智能客服助理：能夠根據(jù)客戶提出的多樣化問題，動態(tài)選擇合適的知識庫和工具，提供個性化的解決方案。

2. Workflow： 基于預(yù)設(shè)的編排路徑，在每個節(jié)點中準(zhǔn)確地調(diào)用LLM節(jié)點和相關(guān)工具節(jié)點，從而完成復(fù)雜任務(wù)，適用于“標(biāo)準(zhǔn)化與流程化場景”，如客戶評論批量處理：通過預(yù)設(shè)的工作流程收集客戶評論，判斷評論的情緒，再自動生成評論的回復(fù)文案。

02 Workflow的構(gòu)建方法

1. Prompt chainning (提示鏈編排)

定義：提示鏈的方法是將任務(wù)分解為多個子任務(wù)，每一個節(jié)點輸入的信息都是前一個節(jié)點的輸出內(nèi)容。

B端产品经理的能力模型与学习提升

B端产品经理面临的第一大挑战，是如何正确的分析诊断业务问题。 这也是最难的部分，产品设计知识对这部分工作基本没有帮助，如果想做好业务分析诊断，必须具备扎实 ...

查看详情 >

典型場景：復(fù)雜文本生成，首先生成主題的大綱內(nèi)容，然后檢查大綱是否符合標(biāo)準(zhǔn)，接著根據(jù)大綱內(nèi)容逐段撰寫，每一段都基于前面的內(nèi)容，以確保主題連貫的一致性。

2. Routing (路由編排)

定義：路由的編排方式，類似于Coze的意圖識別節(jié)點，能夠?qū)⑤斎氲男畔⑦M(jìn)行分類，并將其定向?qū)５教囟ǖ奶幚砺窂焦?jié)點。

典型場景：智能客服系統(tǒng)，當(dāng)用戶提出問題時，系統(tǒng)先判斷問題的意圖，再將其分流至響應(yīng)的回復(fù)模塊，比如： 訂單查詢，技術(shù)支持，功能說明，投訴建議等處理路徑。

3. Parallelization (并行編排)

定義：并行編排的方式是將LLM同時處理同一項任務(wù)，并在聚合器中整合輸出結(jié)果，從而提高任務(wù)處理的準(zhǔn)確性和全面性。

如圖所示，開始節(jié)點為用戶輸入的信息，將用戶輸入的信息同時輸入至三個大語言模型節(jié)點進(jìn)行并行處理，并將每個節(jié)點的輸出結(jié)果進(jìn)行聚合匯總，最終進(jìn)行整體輸出。

典型場景：內(nèi)容合規(guī)審查，多個大語言模型分別檢測內(nèi)容中是否存在違規(guī)，敏感或不良信息，再由聚合器進(jìn)行綜合判斷，以提高審核的可靠性。

并行編排的優(yōu)勢：

• 將復(fù)雜任務(wù)拆分為子任務(wù)后，不僅提高輸出質(zhì)量，同時通過并行處理的方式，能夠提升輸出的響應(yīng)速度
• 支持同一個任務(wù)多次獲得不同的輸出結(jié)果，在聚合器中選擇重復(fù)輸出最高的結(jié)果為最終輸出的內(nèi)容，能夠有效提升輸出信息的可信度

4. Orchestrator-workers (協(xié)調(diào)器編排)

定義：協(xié)調(diào)器編排的方式是由前置的大語言進(jìn)行動態(tài)的任務(wù)分解，并將分解后的子任務(wù)派給其他的大語言模型進(jìn)行處理，最終通過整合子任務(wù)輸出結(jié)果的方式，進(jìn)行最終答案的輸出。

這個編排結(jié)構(gòu)是不是很像路由編排與并行編排的結(jié)合體，他們之間還是有很多本質(zhì)差異的，比如和路由編排的差異在于：

Routing(路由編排)主要是一種分類機制，對輸入的任務(wù)請求進(jìn)行分類，然后再將其導(dǎo)向?qū)ｉT的任務(wù)處理流程，核心是做子流程的分離，使不同類型的任務(wù)能夠被高效地分配到最適合處理的路徑上，提高系統(tǒng)的整體效率 (適用于明確不同任務(wù)類型的場景)。

Orchestrator-workers(協(xié)調(diào)器編排)核心是由模型對復(fù)雜任務(wù)進(jìn)行動態(tài)拆解與分配，適用于任務(wù)復(fù)雜，且任務(wù)的執(zhí)行順序不可預(yù)測的使用場景。

典型場景：合同審查，前置的大語言模型將合同審查任務(wù)拆解為： 條款識別，風(fēng)險評估，合規(guī)性審查，修改建議等多個子任務(wù)，并將這些子任務(wù)分配給擅長處理響應(yīng)任務(wù)的垂直模型，最后再通過大語言模型將輸出內(nèi)容進(jìn)行整合，生成全面的審查報告

03 Agent設(shè)計原則

最后和大家分享一下Anthropic總結(jié)的Agent編排原則，我認(rèn)為有價值的原則有兩點/

原則一，優(yōu)先用最簡單的方式搭建，減少Agent架構(gòu)的復(fù)雜性

這一點與做產(chǎn)品類似，先基于需求做最簡單的MVP，不需要一上來就構(gòu)建非常復(fù)雜的工作流，系統(tǒng)越復(fù)雜，不僅輸出的時長更久，而且成本也更高，所以優(yōu)先用簡單的方式來搭建，去解決核心需求/

原則二，將Agent規(guī)劃執(zhí)行的步驟展示給用戶，從而增加系統(tǒng)的可理解性和可信度

比如協(xié)調(diào)器的編排方式，可以讓用戶直觀地查看自動分解的任務(wù)結(jié)果和任務(wù)推理過程，從而增強輸出內(nèi)容的可信度。

參考資料

Building effective Agents，from： Anthropic

Url：https：//www.anthropic.com/research/building-effective-agents