大模型落地，釘釘從高頻場景突破

　　文|徐鑫 游勇

　　編|周路平

　　AI不是玩具，而是生產(chǎn)力工具，這一判斷在當(dāng)下越來越成為業(yè)界共識。

　　“你不必再為不同的任務(wù)使用不同的應(yīng)用程序。只需要用日常語言告訴你的設(shè)備你想要做什么。根據(jù)你選擇與它共享的信息量，軟件將能夠給出個性化的回應(yīng)。不久的將來，任何上網(wǎng)的人都能擁有一個由人工智能驅(qū)動的個人助理。”比爾·蓋茨在最新的一篇博客指出，五年內(nèi)一個全新的AI時代正在到來。AI將徹底改變個體使用計算機的方式，并顛覆軟件行業(yè)。

　　硬幣的另一面是，傳統(tǒng)行業(yè)里的大量企業(yè)要到達(dá)智能化彼岸，需要跨越重重阻礙。為了降低大模型在企業(yè)端的應(yīng)用落地門檻，AI能力平臺和有場景的企業(yè)已經(jīng)開始共創(chuàng)和探索。高頻應(yīng)用且存在剛需痛點的領(lǐng)域，如智能知識問答，正成為它們探索大模型落地的先行場景。

　　芯片設(shè)計廠商艾為電子和農(nóng)牧食品公司鐵騎力士等一批數(shù)字化先鋒企業(yè)為例，它們與釘釘AI PaaS及Chat AI解決方案團隊共創(chuàng)，著眼應(yīng)用層，正在打造具有更強的語義識別和判斷推理能力的智能問答應(yīng)用。在這些共創(chuàng)企業(yè)里，大模型加持的智能產(chǎn)品，正解放一線技術(shù)工程師，實現(xiàn)了降本提效。

　　“再復(fù)雜的機械系統(tǒng)也是簡單的系統(tǒng)，再簡單的認(rèn)知系統(tǒng)也是復(fù)雜系統(tǒng)。”這些簡單的應(yīng)用探索，正在為企業(yè)更深入應(yīng)用AI提供支撐。大模型ToB，已經(jīng)邁開步伐。

　　01

　　痛點：傳統(tǒng)智能問答為何不智能?

　　“XX產(chǎn)品的XX(指標(biāo))是什么要求?”這個問題很常見，在電商體系里，消費者發(fā)起這樣的咨詢時，客服甚至需要15秒內(nèi)有回應(yīng)。

　　但如果產(chǎn)品SKU有幾千，涉及的子類別有幾十種，包含不同領(lǐng)域的專業(yè)知識，同時每款產(chǎn)品參數(shù)也有幾十個，客服該如何回復(fù)得快速、準(zhǔn)確又專業(yè)?

　　這就是艾為電子的技術(shù)服務(wù)團隊在日常工作里經(jīng)常遇到的問題。作為國內(nèi)知名芯片設(shè)計商，艾為電子的產(chǎn)品分聲、光、電、射、手五大類別，產(chǎn)品廣泛應(yīng)用于消費電子、物聯(lián)網(wǎng)、工業(yè)企業(yè)以及智能設(shè)備領(lǐng)域。

　　如果你見過芯片產(chǎn)品說明書，就會知道要熟悉幾千種芯片的細(xì)節(jié)多么有挑戰(zhàn)。通常情況下它由英文撰寫，文件長度在幾十上百頁不等。但最大難度還不是體量大，而在于它涉及的知識門檻，里面包含了大量的技術(shù)專有名詞、表格、電路圖和各種技術(shù)參數(shù)。有時候一些表格之間還會互相關(guān)聯(lián)，同時一些詞匯在芯片產(chǎn)品說明書里的意思與通用的含義還會出現(xiàn)不一致。要準(zhǔn)確回答海量的與產(chǎn)品參數(shù)相關(guān)的問題，非常考驗回答者的行業(yè)知識，一般的客服人員根本無法應(yīng)對這類問題。

　　艾為電子目前配置了七八十名技術(shù)專家，每天在本職技術(shù)工作之外，平均要花大量時間從產(chǎn)品說明書中來確認(rèn)細(xì)節(jié)，回答這些復(fù)雜的專業(yè)問題。

　　在許多行業(yè)，企業(yè)通常會選擇建一個智能客服系統(tǒng)來解決問題。但傳統(tǒng)的客服方案會預(yù)先設(shè)置關(guān)鍵詞，列好各種問題的答案。客戶的問題觸及關(guān)鍵詞，系統(tǒng)會彈出提前準(zhǔn)備好的答案。

　　這個模式也有弊端。如果沒按預(yù)先準(zhǔn)備的表述來提問，觸發(fā)不了關(guān)鍵詞，系統(tǒng)就識別不了問題。例如問題里提某項參數(shù)“不大于”某個值，而FAQ(常見問題解答)是按照“小于”這一關(guān)鍵詞預(yù)備問題，就無法彈出準(zhǔn)備好的答案。

　　一位資深技術(shù)人士告訴數(shù)智前線，命中關(guān)鍵詞的模式下，系統(tǒng)通常還很難完成判別類任務(wù)。例如詢問“71001這款產(chǎn)品支持2.7V的環(huán)境嗎?”智能客服大概率會回答出產(chǎn)品所支持的電壓環(huán)境區(qū)間如“0.3V～6V之間”。但這個回答依然不是客戶提問的問題的答案，互動體驗比較差。

　　農(nóng)牧產(chǎn)業(yè)里的龍頭企業(yè)鐵騎力士也與艾為電子一樣，需要處理來自外部客戶的知識咨詢和企業(yè)內(nèi)的業(yè)務(wù)系統(tǒng)使用的培訓(xùn)需求。這是一家成立30多年的大型農(nóng)牧企業(yè)，在全國有150余家分公司，在全國范圍內(nèi)有上百家合作的養(yǎng)殖戶。

　　養(yǎng)殖戶向他們采購飼料和養(yǎng)殖技術(shù)，最后養(yǎng)殖的生豬由他們回收。養(yǎng)殖期間，分散在各地的農(nóng)戶經(jīng)常會向鐵騎力士的技術(shù)人員咨詢養(yǎng)豬過程中遇到的難題。例如豬拉肚子怎么辦，有異常行為模式要怎么解決。有時候母豬半夜生產(chǎn)，農(nóng)戶也希望咨詢公司的技術(shù)人員遠(yuǎn)程指導(dǎo)和幫助。而在企業(yè)內(nèi)部，由于分公司眾多，員工數(shù)量多，考慮到人員流動等多重原因，企業(yè)內(nèi)此前建設(shè)25套業(yè)務(wù)系統(tǒng)的使用培訓(xùn)工作也頗為繁重。

　　之前這些工作要么靠人力、要么靠傳統(tǒng)的問答工具來完成。但靠人力時工作太簡單機械，靠傳統(tǒng)客服問答系統(tǒng)來服務(wù)，也會碰到艾為電子遇到的客服智能程度不高的問題。這也是小模型時代AI應(yīng)用碰到的普遍問題。超出知識庫以外或者遇到新的環(huán)境及場景，模型和算法就無法適應(yīng)新情境，應(yīng)用的智能程度普遍顯得不高。

　　大模型時代，事情正在起變化。大語言模型具備的語義理解能力大大增強了問答場景里的互動性，疊加企業(yè)已有的知識庫沉淀，傳統(tǒng)的客服問答場景里“命中”模式帶來的智能程度不高等問題，正逐漸被解決。

　　艾為電子和鐵騎力士等一批傳統(tǒng)行業(yè)里的數(shù)字化先鋒應(yīng)用企業(yè)正嘗試?yán)�用大模型技術(shù)，來解決企業(yè)固有的痛點。

　　02

　　尋找大模型落地的先行場景

　　但實際上，傳統(tǒng)企業(yè)要把大模型技術(shù)在企業(yè)內(nèi)變成真正的生產(chǎn)力工具，從底層技術(shù)支持到行業(yè)場景都需要經(jīng)過漫長打磨。

　　鐵騎力士CIO熊峰今年年初就嘗試把大模型落地到企業(yè)內(nèi)場景，此前這家企業(yè)在企業(yè)內(nèi)知識培訓(xùn)和問答場景，使用傳統(tǒng)智能客服產(chǎn)品已有2年多。

　　ChatGPT大火后，國內(nèi)的大模型廠商紛紛推出大模型相關(guān)產(chǎn)品和應(yīng)用，過去大半年來，各行業(yè)里的數(shù)字化先鋒也積極探索將新技術(shù)應(yīng)用到業(yè)務(wù)場景。今年4月，釘釘開始內(nèi)測AI魔法棒產(chǎn)品，并發(fā)布了一些場景。經(jīng)過幾個月打磨，釘釘把與大模型相關(guān)的能力沉淀為AI PaaS對外提供服務(wù)。同時一些基于具體場景的解決方案如智能問答也雛形初現(xiàn)。有一批早已用釘釘作為數(shù)智化底座的企業(yè)，順勢開始在釘釘探索大模型落地。

　　鐵騎力士于兩個月前開始與釘釘?shù)腁I PaaS及Chat AI產(chǎn)品合作共創(chuàng)。與鐵騎力士類似，今年大模型熱潮開啟之際，艾為電子就對這項技術(shù)產(chǎn)生了濃厚的興趣。5月，釘釘智能應(yīng)用解決方案相關(guān)團隊向艾為電子表達(dá)與大客戶共創(chuàng)大模型應(yīng)用場景的意向時，雙方一拍即合。

　　實際上企業(yè)內(nèi)圍繞管理及業(yè)務(wù)發(fā)展的痛點非常多。過去大半年來，業(yè)界觀察到，經(jīng)歷場景的篩選和摸索，問答類應(yīng)用成為不少企業(yè)率先嘗試大模型落地的先行場景之一。

　　這與這類場景的特性有關(guān)。艾為電子CIO陸軼分享過，他們選擇智能問答場景原因有三：一是企業(yè)切實存在痛點。二是這個領(lǐng)域里數(shù)據(jù)相對公開，不涉及到更多的隱私及保密需求。三是經(jīng)過大模型的升級，可以把以往準(zhǔn)備的知識資產(chǎn)更好利用起來。企業(yè)此前有接近幾百個FAQ。大模型的語義理解能力大幅提升后，問題與企業(yè)內(nèi)對應(yīng)的FAQ能更好被提取出來，從而節(jié)省人力成本，提升用戶體驗。

　　這種篩選過程也反映了企業(yè)在探索大模型落地場景時的態(tài)度和思路。釘釘?shù)腃hat AI解決方案工程師王俊杰告訴數(shù)智前線，一方面企業(yè)的態(tài)度比較理性，在場景共創(chuàng)階段，先有比較天馬行空的設(shè)想階段，之后很快會框定到能夠帶來切實效果的場景里。“如果是玩具，技術(shù)就沒法落地，所以企業(yè)會很重視能帶來生產(chǎn)力提升的場景。”

　　另外，通過POC驗證，企業(yè)也看到原來無法突破的點有了明顯改善。比如電壓范圍，之前產(chǎn)品表格上顯示支持0.3伏~6伏，去問2.7伏支不支持，模型能夠回答。問它7伏支不支持，它就能給出明確的答案是不支持。這些立竿見影的效果，也會激發(fā)企業(yè)對新技術(shù)應(yīng)用的興趣和擁抱大模型的熱情。

　　過程里，釘釘?shù)腃hat AI解決方案團隊、AI PaaS層以及應(yīng)用共創(chuàng)企業(yè)都需要做不少細(xì)致的工程工作，才能讓問答類產(chǎn)品回答能更準(zhǔn)確。例如，問答類場景里，用文檔的數(shù)據(jù)喂模型時窗口界面對文檔的大小有限制。通常情況下不能一股腦把整個文檔喂給模型，而是要采取切片的方式，讓模型能一段一段去做閱讀理解。切斷的策略不一樣，可能上下文的連貫程度就會有差異。

　　通過與企業(yè)在場景里的共創(chuàng)，釘釘?shù)募夹g(shù)人員沉淀出了切片的策略經(jīng)驗。除此之外，釘釘?shù)腃hat AI解決方案團隊還與共創(chuàng)的企業(yè)打磨了召回、相鏈等能力，通過相應(yīng)的策略調(diào)整和大量綜合性工程工作，讓問答的結(jié)果能更準(zhǔn)確，應(yīng)用更為智能。

　　共創(chuàng)的企業(yè)也需要做細(xì)致的行業(yè)知識輸入，來提升問答的準(zhǔn)確性。不同于小模型時代針對專業(yè)領(lǐng)域的知識要做大量的標(biāo)注工作，大模型時代的數(shù)據(jù)標(biāo)注工作大幅減少。企業(yè)要做的是針對各類知識庫和文檔的專有名詞的縮寫做專門配置，例如，產(chǎn)品文檔里的英文縮寫指代的意義等需要企業(yè)去完成名詞解釋。“企業(yè)不需要去做完整的提示詞工程，Chat AI解決方案盡量把一些復(fù)雜的邏輯和技術(shù)應(yīng)用收掉，降低大模型的應(yīng)用門檻。”王俊杰告訴數(shù)智前線。

　　經(jīng)過幾個月打磨，艾為電子的智能問答目前已經(jīng)在官網(wǎng)上線，陸軼介紹，這帶來了7×24小時更加及時準(zhǔn)確的響應(yīng)快的服務(wù)，能大幅提升用戶滿意度，同時還能解放一線技術(shù)人員的時間。

　　03

　　企業(yè)用AI，釘釘提供更優(yōu)解

　　釘釘總裁葉軍此前曾談到，大模型甚至多模態(tài)的能力，能從一個實驗室進入大眾視野必須要經(jīng)過一個高頻應(yīng)用場景。探索高頻應(yīng)用場景是接下來這個行業(yè)必須面對的一個情況。

　　無獨有偶，比爾蓋茨在最新的博客里也提到了無處不在的個人AI將在科技行業(yè)和社會中掀起一場“沖擊波”。

　　智能客服和問答場景被業(yè)界認(rèn)為是大模型能率先落地的場景之一。沙利文最新發(fā)布的《2023年中國智能客服市場報告》顯示，2022年中國智能客服市場規(guī)模已達(dá)到66.8億元，預(yù)計到2027年市場規(guī)模有望增長至181.3億元，預(yù)計五年內(nèi)復(fù)合增長率可達(dá)到20%以上。

　　目前，艾為電子和鐵騎力士等企業(yè)與釘釘共創(chuàng)探索的數(shù)字員工和智能問答等都從業(yè)界認(rèn)為更能落地的場景切入。釘釘自身的能力建設(shè)也抓住了貼近企業(yè)業(yè)務(wù)場景和應(yīng)用等特征，著重從應(yīng)用層發(fā)力。

　　釘釘?shù)募夹g(shù)團隊向數(shù)智前線介紹，目前與艾為電子和鐵騎力士共創(chuàng)的應(yīng)用場景，正在打磨形成一款名為Chat AI的智能解決方案。它包含了三類應(yīng)用，一是面向企業(yè)數(shù)字資產(chǎn)的解決方案Chat BI，二是面向知識資產(chǎn)的Chat Memo，三是面向軟件資產(chǎn)的Chat Form，支持一句話生成和提交表單。通過相對標(biāo)準(zhǔn)的應(yīng)用層交付，一些不具備條件的企業(yè)可以不必從頭開始訓(xùn)模型找場景。

　　“其實我們不喜歡通用模型”，熊峰說，作為一家主業(yè)為農(nóng)牧業(yè)的大型企業(yè)，前沿的AI技術(shù)并非鐵騎力士的強項。如何讓前沿的大模型技術(shù)能夠真正被用起來，熊峰和團隊經(jīng)歷了幾個月的摸索。通用模型在當(dāng)前很難去解決企業(yè)業(yè)務(wù)的需求，鐵騎力士嘗試過智譜科技的開源大模型ChatGLM，按照自己的方式來訓(xùn)練一個本地部署的模型。

　　但鐵騎力士在模型訓(xùn)練過程遇到了兩個問題：一是大模型對硬件資源要求高，鐵騎力士專門花了20萬元，買了兩臺GPU服務(wù)器做訓(xùn)練，“效果相對滿意”，但超過10個人同時在線就會很卡，而鐵騎力士整個集團有數(shù)千人規(guī)模。熊峰算過一筆賬，如果要完全滿足需求，要投入200萬元建基礎(chǔ)設(shè)施。對于他們這種主業(yè)不是做AI的公司而言，風(fēng)險很大。另外，開源的軟件雖然不花錢，但模型本身還需要進行精調(diào)，需要專業(yè)且昂貴的AI人才。

　　另外，鐵騎力士已經(jīng)全員上釘釘，也給Chat AI的產(chǎn)品有了更好對接的機會。如果去采用第三方的大模型服務(wù)，要想將大模型的能力應(yīng)用到業(yè)務(wù)流程中，意味著還需要想方設(shè)法與釘釘打通，而現(xiàn)在接入成熟平臺的AI PaaS層能力，與企業(yè)內(nèi)部的知識庫結(jié)合，來提升已有場景痛點的產(chǎn)品體驗是更合適的路徑。

　　企業(yè)也看到，大模型應(yīng)用初期產(chǎn)品和界面仍有待打磨和完善。例如，釘釘和企業(yè)的共創(chuàng)團隊們就發(fā)現(xiàn)模型主動反問和確認(rèn)問題，可能有助于提升回答的準(zhǔn)確性。

　　智能問答有時效果不夠理想，并非模型能力不行，有可能是用戶描述的問題過于籠統(tǒng)。王俊杰介紹，人腦的工作原理是多步驟，但現(xiàn)在絕大部分大語言模型的交互都是單步驟，“未來這個能力會讓智能水平大幅度提升。”

　　業(yè)界人士也普遍關(guān)注企業(yè)內(nèi)應(yīng)用場景里大模型如何克服幻覺問題。一位業(yè)內(nèi)人士告訴數(shù)智前線，如果只是C端用戶自娛自樂，準(zhǔn)確性的要求往往不會太苛刻。但智能客服是嚴(yán)肅場景，給用戶錯誤的信息會帶來很麻煩的后果。艾為電子CIO陸軼透露，雙方的團隊也在持續(xù)迭代，給大模型產(chǎn)品提供更多的專業(yè)知識輸入，讓企業(yè)內(nèi)的專業(yè)技術(shù)人員持續(xù)調(diào)試產(chǎn)品，保證智能客服產(chǎn)品回答更準(zhǔn)確。另外，智能客服都會有一個托底方案，客戶覺得沒有滿足需求，可以一鍵轉(zhuǎn)人工客服。

　　熊峰還從業(yè)務(wù)閉環(huán)的角度提出了一些暢想。例如，智能問答當(dāng)前更多停留在問答本身，尚沒有與企業(yè)的業(yè)務(wù)流形成閉環(huán)。例如，一些客戶進入問答界面，如果數(shù)據(jù)能與CRM打通，能夠?qū)τ脩羯矸萦斜孀R，未來才形成對這些人群的針對性運營。在熊峰看來，將這些問答與客戶數(shù)據(jù)做關(guān)聯(lián)，與企業(yè)經(jīng)營形成閉環(huán)，才能真正賦能業(yè)務(wù)。

　　04

　　結(jié) 語

　　大模型正在企業(yè)應(yīng)用場景里成為生產(chǎn)力工具。

　　艾為電子CIO陸軼認(rèn)為，“共創(chuàng)探索的初步成功，為我們進一步用AI技術(shù)，在數(shù)字化轉(zhuǎn)型深入階段賦能業(yè)務(wù)提供了很好的支撐”。下一步艾為電子希望利用AI進一步挖掘非結(jié)構(gòu)化的數(shù)據(jù)資產(chǎn)的價值，同時讓企業(yè)內(nèi)結(jié)構(gòu)化數(shù)據(jù)的提取變得更簡單。另外，現(xiàn)在行業(yè)已經(jīng)開始討論AI Agent的應(yīng)用，艾為電子也在思考未來與釘釘共創(chuàng)場景，利用數(shù)字員工去完成更多類任務(wù)。

　　而熊峰則看到，這一技術(shù)已經(jīng)產(chǎn)生了一些意想不到的結(jié)果，例如發(fā)現(xiàn)企業(yè)內(nèi)沖突的規(guī)章制度，把企業(yè)內(nèi)部的一些管理問題暴露出來。

　　企業(yè)應(yīng)用AI的能力在過程里則逐漸深化。葉軍認(rèn)為，大模型不只是有趣好玩的東西。“它能夠和業(yè)務(wù)進行關(guān)聯(lián)，能夠在生產(chǎn)、供應(yīng)、銷售、設(shè)計、管理研發(fā)等等過程中把大模型真正應(yīng)用下去，這樣智能化才會有價值。”