那么生成式AI要走進(jìn)辦公軟件中，需要解決哪些挑戰(zhàn)呢？

一、內(nèi)容安全性或成生成式AI最大阻力

生成式AI在內(nèi)容安全性方面，以及隱私保護(hù)方面都面臨著巨大的監(jiān)管挑戰(zhàn)。目前各國對(duì)生成式AI的監(jiān)管力度正在加強(qiáng)，從意大利數(shù)據(jù)保護(hù)局第一個(gè)禁用ChatGPT以后，法國、西班牙有關(guān)部門也對(duì)ChatGPT展開了調(diào)查。美國商務(wù)部下屬的國家電信與信息管理局，則正在調(diào)查對(duì)于企業(yè)和監(jiān)管機(jī)構(gòu)如何確保人工智能系統(tǒng)是值得信賴、合法及合乎道德。

“產(chǎn)品有很多，成熟一個(gè)上線一個(gè)”葉軍對(duì)釘釘AI產(chǎn)品的上線規(guī)劃非常有信心，但他表示目前具體的上線時(shí)間，還要等待監(jiān)管部門的審批。葉軍說：“AI生成的內(nèi)容，不知道誰寫的，一分鐘生成無數(shù)條，可能一下子就會(huì)破壞整個(gè)網(wǎng)絡(luò)純潔的環(huán)境?！?/p>

4月11日，就在阿里通義千問發(fā)布會(huì)的同一天，國家互聯(lián)網(wǎng)信息辦公室下發(fā)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》的通知。目前我國已經(jīng)出臺(tái)的AI相關(guān)監(jiān)管條例，包括《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并均已開始生效。除此以外，還有一些分散在《民法典》、《數(shù)據(jù)安全法》、《網(wǎng)絡(luò)安全法》等法律法規(guī)中。

對(duì)于安全問題，OpenAI首席執(zhí)行官Sam Altman就在最近的一次公開講話中表示，隨著模型的能力越來越強(qiáng)，與之對(duì)應(yīng)的安全措施也需要增加。在GPT-4發(fā)布后，OpenAI一直致力于處理各種亟待解決的安全性問題。OpenAI的總裁兼聯(lián)合創(chuàng)始人Greg Brockman則發(fā)推稱，“OpenAI花了6個(gè)月的時(shí)間測試GPT-4，力圖讓這個(gè)AI更加安全?！?/p>

“AI其實(shí)是黑盒，是煉丹爐，煉出來什么不知道?！比~軍表示，AI生成的內(nèi)容，有些是不可控的，對(duì)于生成的結(jié)果還要做二次處理，二次處理相關(guān)的機(jī)制和安全審批的能力，比UGC（User Generated Content，用戶生成內(nèi)容）更難控制。

“通常情況下，AI技術(shù)供應(yīng)商，對(duì)于AI生成的不安全內(nèi)容也負(fù)有責(zé)任。”觀韜中茂律師事務(wù)所合伙人王渝偉律師告訴虎嗅，AI技術(shù)供應(yīng)商，包括深度合成服務(wù)提供者和技術(shù)支持者，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)其規(guī)定了較高的監(jiān)督管理義務(wù)和完善數(shù)據(jù)和技術(shù)管理規(guī)范義務(wù)，若因未盡到這些義務(wù)，AI生成內(nèi)容不符合法律規(guī)定，則需要承擔(dān)一定的法律責(zé)任。

“生成式大模型的不準(zhǔn)確問題，可能會(huì)在很多不容馬虎的細(xì)節(jié)問題上出錯(cuò)?！痹诎踩珕栴}上，某AI大模型業(yè)內(nèi)人士以文生圖的Diffusion（擴(kuò)散式）模型給虎嗅舉了一個(gè)例子，擴(kuò)散式生成模型的核心是通過逐步“擴(kuò)散”噪聲信號(hào)來生成所需數(shù)據(jù)，同時(shí)不需要使用顯式的先驗(yàn)概率分布。也就是通過“猜”把一張模糊的圖片一步步銳化成一張清晰的圖片。而在這個(gè)“清晰化”的過程中，很難把控圖片的精細(xì)之處。比如五星紅旗上有幾顆星，地圖的邊界線究竟在哪等在細(xì)節(jié)上要求非常嚴(yán)格的問題，對(duì)于AI來說，都是很難保證正確的。由于文生文模型也采用了讀上一個(gè)詞“猜”下一個(gè)詞的機(jī)制，因此很難在細(xì)節(jié)上把控安全性。

就安全問題，虎嗅從某國內(nèi)大型語言模型（LLM）創(chuàng)業(yè)公司處了解到，目前國內(nèi)已有一些基于大模型的Chatbot（聊天機(jī)器人）產(chǎn)品，但多數(shù)都受到安全問題限制，正在按要求自查，并等待審批。

二、大模型是底座，還需要小模型

不穩(wěn)定，是生成式AI天生的缺陷，當(dāng)面對(duì)C端用戶時(shí)，AI只是一個(gè)聊天機(jī)器人，不穩(wěn)定的因素在于內(nèi)容安全性。在大模型與用戶之間添加一個(gè)過濾機(jī)制即可，很多傳統(tǒng)的關(guān)鍵詞過濾技術(shù)都可以解決這種問題，在AI技術(shù)加持下，也可以用一個(gè)過濾不安全內(nèi)容的AI小模型實(shí)現(xiàn)更好的過濾效果。

B端用戶的業(yè)務(wù)壁壘在于其所在領(lǐng)域或行業(yè)中的實(shí)踐經(jīng)驗(yàn)、技能和知識(shí)行業(yè)，也就是人們常說的KnowHow，而要讓AI大模型在實(shí)際業(yè)務(wù)中發(fā)揮作用，則需要利用這些行業(yè)型KnowHow對(duì)AI進(jìn)行專門的訓(xùn)練。在這方面，AI業(yè)界和應(yīng)用產(chǎn)業(yè)似乎已經(jīng)有了一些共識(shí)：AI大模是底座，是導(dǎo)航，而要真正把AI能力落地到業(yè)務(wù)中，還需要專門訓(xùn)練聚焦行業(yè)的中、小模型。

AI大模型在面對(duì)B端用戶時(shí)，生成的內(nèi)容不僅要安全，還要可靠，要對(duì)用戶的業(yè)務(wù)負(fù)責(zé)，甚至每個(gè)字都容不得馬虎。不過，AI大模型的效率提升對(duì)于B端用戶來說，吸引力很大，在很多垂直行業(yè)都已有先驅(qū)廠商開始探索了。

在工業(yè)領(lǐng)域，西門子日前剛剛宣布將和微軟合作，借助OpenAI的ChatGPT幫助軟件開發(fā)人員和自動(dòng)化工程師使用自然語言輸入生成PLC（可編程邏輯控制器）代碼，從而減少時(shí)間成本并降低錯(cuò)誤率。同時(shí)，這些能力還有助于維護(hù)團(tuán)隊(duì)以更快的速度識(shí)別錯(cuò)誤，并逐步生成解決方案。

“利用AI編寫PLC代碼肯定會(huì)在流程上減少工程師的工作量?！鄙虾?yōu)也信息科技有限公司首席科學(xué)家郭朝暉認(rèn)為，利用AI編寫PLC代碼在工業(yè)上很有可行性，但從安全角度出發(fā)，在代碼生成之后，還應(yīng)該有人類參與檢查。

作為一個(gè)電腦程序，ChatGPT發(fā)布以來，編程能力就一直受到工程師們的重點(diǎn)關(guān)注，微軟在GitHub中也推出了AI編程助手Copilot。同為“寫代碼”，在工業(yè)領(lǐng)域自然也已經(jīng)有PLC工程師嘗試用ChatGPT編寫代碼。一位PLC工程師告訴虎嗅，“目前來看ChatGPT的PLC編碼能力不比普通工程師弱，但對(duì)于輸入prompt（提示詞）的理解能力還有優(yōu)化空間，且生成的最終代碼有些需要人工修改?！?/p>

不過，郭朝暉也認(rèn)為ChatGPT要在工業(yè)領(lǐng)域推廣，還需要解決工程師使用習(xí)慣和數(shù)據(jù)基礎(chǔ)等問題，同時(shí)在工業(yè)設(shè)備中使用ChatGPT的條件也還有需要進(jìn)一步優(yōu)化。

在另一個(gè)嚴(yán)肅行業(yè)醫(yī)療領(lǐng)域中，ChatGPT的應(yīng)用常被人認(rèn)為更加馬虎不得。但研發(fā)醫(yī)療行業(yè)大模型的左手醫(yī)生團(tuán)隊(duì)CEO張超認(rèn)為，雖然醫(yī)療行業(yè)的內(nèi)容需要非常嚴(yán)謹(jǐn)，但是不同場景，對(duì)于生成式內(nèi)容的風(fēng)險(xiǎn)接受度也不同。“我們把醫(yī)療行業(yè)分成4個(gè)象限，對(duì)于生產(chǎn)式AI的風(fēng)險(xiǎn)，我們可以從這4個(gè)象限的角度來分析?！?/strong>