在To B的公司里，如何在內(nèi)部落地大模型應(yīng)用？這篇文章分享的經(jīng)驗(yàn)，希望可以幫到大家。

如何在企業(yè)的內(nèi)部應(yīng)用中真正用起來大模型？

在廣大的業(yè)務(wù)實(shí)踐中，大家都知道“知識庫”是落地的好場景，

但是

實(shí)際業(yè)務(wù)中廣大的“口口相傳”“老師傅才懂的”到底如何沉淀為知識庫的內(nèi)容。

本系列關(guān)于如何探索企業(yè)內(nèi)部的大模型如何應(yīng)用，如何快速找到業(yè)務(wù)效果，以及產(chǎn)品的實(shí)操經(jīng)驗(yàn)。

我們一起從大模型知識反觀現(xiàn)在真正有價(jià)值卻被忽略的數(shù)據(jù)資產(chǎn)。

01 找到合適的業(yè)務(wù)線，找到最垂直的場景，找到landing最好的業(yè)務(wù)。

現(xiàn)在非常多是在應(yīng)用在AIGC行業(yè)，在這個(gè)行業(yè)和應(yīng)用場景中，大多數(shù)是提供給“專業(yè)”人士，所以在企業(yè)內(nèi)部的“賦能”場景中，如何讓不太了解大模型，不太了解AI的人，也一定得感受到“驚人的效果和魅力”。這樣在沒有外部的KPI驅(qū)動(dòng)情況下，也能讓人有“沖動(dòng)”使用的機(jī)會(huì)。

我設(shè)想了一下，在現(xiàn)在頭部的互聯(lián)網(wǎng)產(chǎn)業(yè)中，Agent能先行的業(yè)務(wù)大概會(huì)有這些。

1. 企業(yè)內(nèi)部的AI培訓(xùn)

包括：員工培訓(xùn)、運(yùn)營宣貫等等

過去非常廣泛的場景，出了一個(gè)新功能、新業(yè)務(wù)方案，需要從上至下的進(jìn)行培訓(xùn)，總部的產(chǎn)品經(jīng)理、運(yùn)營要向各個(gè)品類業(yè)務(wù)線，各個(gè)城市的子公司進(jìn)行培訓(xùn)，然后再逐級傳遞；

再者還見到過大幾千的項(xiàng)目公司，總部拉著幾千個(gè)項(xiàng)目負(fù)責(zé)人進(jìn)行培訓(xùn)，最后出一個(gè)培訓(xùn)效果試卷，大家普遍通過“傳閱”答案這件事情，讓大家都滿分學(xué)會(huì)。

但是想想這件事情的本質(zhì)是什么？是一定要大家拿高分嗎。必然不是。

總部業(yè)務(wù)同學(xué)是希望全國一盤棋，讓各崗位的同學(xué)達(dá)成共識，知道遇到這種事情怎么辦，知道如何使用工具等等，不要等真的出了什么事情之后，不知道如何處理對吧。

所以如何本質(zhì)不是學(xué)會(huì)，是“能解決，能處理”

所以如果有一個(gè)工具，他代替全緣上下達(dá)成一致認(rèn)知，等于是上下都有一個(gè)共同的“外掛腦子”。

知道遇到什么事情如何解決，遇到任何要宣傳的，給這個(gè)“腦子”學(xué)習(xí)一下，不知道如何解決，也是找到到腦子問問。

所以腦子的本質(zhì)就是知識庫+意圖理解識別，讓大家都有同樣的理解，認(rèn)知也就達(dá)成一致了。

同樣，還能保持實(shí)時(shí)更新和知識記憶。

這比人工做培訓(xùn)，并且每個(gè)人的理解還不一樣，導(dǎo)致業(yè)務(wù)動(dòng)作會(huì)出現(xiàn)變形等等。

所以通過大模型重構(gòu)企業(yè)內(nèi)部的培訓(xùn)體系，不僅僅是簡單的知識庫應(yīng)用，這里是一個(gè)非常好的場景。

所以這里的用戶action和產(chǎn)品形態(tài)有什么呢？

1）培訓(xùn)老師/運(yùn)營；

– 上傳并維護(hù)知識庫，

– 提供一些case說明具體的專業(yè)術(shù)語含義

– 監(jiān)督學(xué)習(xí)并對”腦子“進(jìn)行考核，達(dá)到90%的準(zhǔn)確率

– 確定準(zhǔn)出，全員使用

– badcase復(fù)盤，更新知識

2）其他使用員工：

-直接提問：；從原來還要聽培訓(xùn)課，做培訓(xùn)實(shí)體，但是出了問題還是要找人問，轉(zhuǎn)變?yōu)椋?“輸入場景描述，直接找腦子問，怎么辦”

-場景模擬，以練代學(xué)，有實(shí)時(shí)要求的場景：用“以練帶學(xué)”，讓“腦子”進(jìn)行場景模擬，一線員工、進(jìn)行模擬練習(xí)， 比如如何應(yīng)用xx的客戶要求，如何應(yīng)用xx的電話 這里也是借鑒了現(xiàn)在的AI教育的場景，如何把題目無限復(fù)制，如何精準(zhǔn)的對知識點(diǎn)進(jìn)行考核；

通過質(zhì)檢的結(jié)果，找到員工不合規(guī)的點(diǎn)，對細(xì)節(jié)點(diǎn)進(jìn)行場景模擬和考核。

2. 產(chǎn)品形態(tài)

知識庫、數(shù)據(jù)集、數(shù)據(jù)標(biāo)注、chatbot、模擬場景

所以再想一步，在過去的職業(yè)經(jīng)驗(yàn)中，很多一線的員工，包括客服、物業(yè)管家等類似的B端系統(tǒng)操作人員，總是在吐槽業(yè)務(wù)系統(tǒng)太復(fù)雜了，“我們只是想減免費(fèi)用，想收個(gè)款”；結(jié)果呢，要去n個(gè)系統(tǒng)，錄入n+1遍信息，然后才能做完，

“信息化系統(tǒng)”復(fù)雜和難用已經(jīng)被真正的業(yè)務(wù)人員吐槽很多年了。

客戶還嫌棄，我們慢，我們自己也很奇怪，為什么不能簡單點(diǎn)呢？

所以在過去的業(yè)務(wù)場景中，to B的產(chǎn)品經(jīng)理大部分在做“提效”的工作，讓用戶減少點(diǎn)擊，做了一大堆“一鍵”的功能等等。

但是現(xiàn)在呢，通過意圖識別，是可以實(shí)現(xiàn)多節(jié)點(diǎn)多流程的自動(dòng)化的。

02 B端業(yè)務(wù)系統(tǒng)自動(dòng)流轉(zhuǎn)

所有的員工只需要理解客戶的需求即可，不需要在“復(fù)雜”的系統(tǒng)中記清楚，我要先干嘛再干嘛。

通過一些bot、Agent的的形式，我要給xx用戶減xx元的訂單，系統(tǒng)記錄每個(gè)動(dòng)作的順序和判斷邏輯，最終直接給出結(jié)論。等于說是過去，所有的人員培訓(xùn)要培訓(xùn)如何從A點(diǎn)到B點(diǎn)，我要走過幾個(gè)路口，走過幾個(gè)大樹，然后到了。

現(xiàn)在只需要，你告訴我A，我自動(dòng)把你讓“空降”在B點(diǎn)。

所以在這個(gè)業(yè)務(wù)過程中，就需要對工作流程，進(jìn)行逐一“標(biāo)準(zhǔn)化”，簡直是大型“場景解構(gòu)”現(xiàn)場這件事情是非常痛苦的。過去的歷史緣故信息非常多，歷史數(shù)據(jù)廣大，所以現(xiàn)在很多RAG平臺工具出現(xiàn)了一些數(shù)據(jù)清洗的小工具。

但是要相信，這一定是“陣痛期”。

或者我猜測，很多標(biāo)準(zhǔn)化流程模版，應(yīng)該也是非常受歡迎的。

電商售后運(yùn)營手冊-退貨流程1.2.3，給一個(gè)標(biāo)準(zhǔn)化的模版，但是負(fù)責(zé)調(diào)整配置的人也可以進(jìn)行參數(shù)和節(jié)點(diǎn)的修正。

網(wǎng)約車司機(jī)客服運(yùn)營手冊，司機(jī)服務(wù)流程123等等。

這些頭部的幾家基本都是大差不差的。

所以，當(dāng)一家做好了，這就是非常有價(jià)值的數(shù)據(jù)資產(chǎn)了。

所以在這里的用戶action和產(chǎn)品形態(tài)

1）sop負(fù)責(zé)人（也可以是業(yè)務(wù)運(yùn)營）

– 辦事流程梳理

– 配置作業(yè)畫布

2）操作人員

– 直接通過自然語言說明要做的事情

產(chǎn)品形態(tài)：

流程Agent配置、外掛節(jié)點(diǎn)封裝（包括接口、插件、知識庫等等）、chat bot

03 大模型判責(zé)

在現(xiàn)在的多方+平臺的多種商業(yè)業(yè)態(tài)中，平臺如何做好判官，如何在商家和消費(fèi)者之間進(jìn)行糾結(jié)處理，如何處置商家、等等，都涉及了“判責(zé)”和“違規(guī)處置”這些邏輯，過去大部分的業(yè)務(wù)都是通過強(qiáng)“規(guī)則”這件事情進(jìn)行限制，通過且或非或者種種條件數(shù)據(jù)因子來進(jìn)行判斷。

在強(qiáng)條件約束下，總有一些異常情況。

這就像什么呢，我們在學(xué)習(xí)開車時(shí)，要學(xué)習(xí)各種道路法規(guī)、各種形式準(zhǔn)則等等

但是我們真實(shí)的開車過程中，什么時(shí)候會(huì)被交警判責(zé)，如何做到“適當(dāng)”違規(guī)，用幾個(gè)case來說明：

我們最普通的消費(fèi)者投訴外賣員沒送到指定位置，還沒打電話；這個(gè)時(shí)候，平臺需要核實(shí)一下具體的行為情況，

比如，我看下外賣員的呼叫記錄，看下行為軌跡，如果是要上樓的，是爬樓還是電梯，很多時(shí)候在垂直空間中l(wèi)bs是有些不準(zhǔn)的，所以能否通過時(shí)間來推理出，外賣員在11:00-12:00需要上12樓需要的時(shí)間，在該時(shí)間中看下lbs的變動(dòng)情況呢，

比如網(wǎng)約車司機(jī)被乘客投訴拒載，平臺要判定下司機(jī)的行為意圖，看看行為軌跡是否前往上車點(diǎn)，還是直接掉頭走的呢，半天不動(dòng)，是在等紅綠燈呢，還是惡意就是不動(dòng)呢，司機(jī)有沒有在車?yán)锿虏塾唵文?，有沒有聯(lián)系過乘客呢，以及司機(jī)過去有沒有被投訴過呢，等等。

這些都是過去通過強(qiáng)規(guī)則校驗(yàn)中，設(shè)定好的結(jié)構(gòu)化數(shù)據(jù)，人工在對司機(jī)行為進(jìn)行判責(zé)

所以這里的用戶action做法和產(chǎn)品形態(tài)

1）技術(shù)：

– 把我們過去的條件約束作為結(jié)構(gòu)化知識庫數(shù)據(jù)，投喂給到大模型作為知識庫文檔

2）運(yùn)營：

– 選擇場景，給prompt進(jìn)行框選和描述；

– 明確判責(zé)因子：采納人工的判責(zé)因子+結(jié)果：訂單詳情信息、行為軌跡（包含路徑、通話錄音、im）、

– 搭建workflow：通過標(biāo)簽因素先分大類，再逐步分小場景進(jìn)行判斷

– AI結(jié)果自檢：在AI執(zhí)行完畢workflow之后，會(huì)有一些小偏差，最后在結(jié)果確認(rèn)前，采用一道限制步驟

– 人工抽檢復(fù)核：人工對結(jié)果進(jìn)行定性和定量的抽檢，如何確實(shí)出現(xiàn)較大數(shù)據(jù)參數(shù)偏差，是可以對workflow進(jìn)行修正的。

系統(tǒng)規(guī)則判責(zé)==大模型意圖判責(zé)

但是不得不說，這些對于強(qiáng)數(shù)據(jù)的場景下有一定的局限性，只是在人工意圖上有非常好的時(shí)間，比如司機(jī)的拒載，到底是真車壞了，還是真拒載呢？這種場景下，大模型結(jié)合多種證據(jù)鏈來推理的效果還是不錯(cuò)的。

產(chǎn)品形態(tài)

數(shù)據(jù)庫訂閱、（過去的歷史規(guī)則數(shù)據(jù)結(jié)構(gòu)化）場景prompt說明

典型場景庫（提供進(jìn)行場景學(xué)習(xí)）

判責(zé)workflow、數(shù)據(jù)集、數(shù)據(jù)標(biāo)注

最后的，對各位實(shí)踐的產(chǎn)品技術(shù)同學(xué)的運(yùn)勢說明：

上上簽：

當(dāng)企業(yè)內(nèi)部要使用大模型進(jìn)行 業(yè)務(wù)嘗試的時(shí)候，分兩種大場景，然后提出具體的action

首先是第一種：

從上到下進(jìn)行宣貫，公司級戰(zhàn)略規(guī)劃，有核心的KPI指標(biāo)push大家進(jìn)行主動(dòng)接觸使用。

這種就非常容易，大家有KPI之后，所有人都積極起來，這個(gè)知識的內(nèi)容就是越用越好用，不斷沉淀數(shù)據(jù)資產(chǎn)，甚至還能舉辦一些內(nèi)部的PK賽。

上簽：

第二種：

沒有形成公司級的戰(zhàn)略規(guī)劃，但是是某個(gè)部門的KPI，比如客服部門，產(chǎn)品可以和部門老板拉齊觀點(diǎn)，確定我們的業(yè)務(wù)動(dòng)作和產(chǎn)品動(dòng)作保持一致，能夠達(dá)成什么樣子的業(yè)務(wù)效果。

這樣拿到業(yè)務(wù)部門的支持，landing的場景也會(huì)是非常豐富，從小的業(yè)務(wù)場景未來是有機(jī)會(huì)撬動(dòng)成為公司的重點(diǎn)項(xiàng)目。

中簽：

老板們不懂技術(shù)，偏傳統(tǒng)行業(yè)，需要產(chǎn)研內(nèi)部在夾縫中創(chuàng)新，提供好工具給業(yè)務(wù)同學(xué)進(jìn)行使用，需要產(chǎn)研向所有的業(yè)務(wù)同學(xué)安利自己的產(chǎn)品，但是這種情況也是好的，咱們畢竟有實(shí)操經(jīng)驗(yàn)了不是～

個(gè)人認(rèn)為能在現(xiàn)在的業(yè)務(wù)節(jié)點(diǎn)有機(jī)會(huì)初探并有機(jī)會(huì)在實(shí)際業(yè)務(wù)中用起來已經(jīng)不涉及下簽了。

嘿嘿，能看到這里的祝賀大家～