智能客服行業(yè)掀起了一股大模型熱。

　　文|徐鑫

　　編|任曉漁

　　“現(xiàn)在客戶上來(lái)就問(wèn)能用大模型打電話嗎?如果沒(méi)有大模型能力，客戶就不跟你聊了”，云蝠智能CEO魏佳星告訴數(shù)智前線，市場(chǎng)對(duì)大模型客服的認(rèn)知度在加速。

　　行業(yè)內(nèi)也把智能客服視作大模型率先落地的典型場(chǎng)景之一。大模型能更好地理解用戶問(wèn)題，生成與用戶需求匹配的回復(fù)，甚至預(yù)測(cè)用戶行為、提供個(gè)性化推薦。這極大提高了客服效率和質(zhì)量，還為企業(yè)節(jié)省了大量人力和時(shí)間成本。

　　IDC中國(guó)研究經(jīng)理程蔭告訴數(shù)智前線，這一領(lǐng)域，企業(yè)投資大模型預(yù)期是做到替代人，而不是輔助人。而很多客服以外的場(chǎng)景落地成熟度不高，一個(gè)極大原因在大模型只能輔助人，不能很好地測(cè)算ROI。

　　技術(shù)的快速進(jìn)步和大模型推理成本急劇降低，無(wú)疑是大模型落地智能客服的加速劑。“去年年初ChatGPT的一次調(diào)用成本還在幾美分，一通客服電話對(duì)客戶的報(bào)價(jià)1.2毛，當(dāng)時(shí)商業(yè)模式根本跑不通�，F(xiàn)在推理成本急劇下降，一次外呼調(diào)用大模型只需要0.2分”，商業(yè)應(yīng)用一下子加速。魏佳星提到，目前這股技術(shù)升級(jí)和成本下降的趨勢(shì)還在持續(xù)。

　　熱潮下，市場(chǎng)上正呈現(xiàn)出兩種應(yīng)用路徑，老牌的智能客服企業(yè)積極疊加大模型能力，而大模型企業(yè)也快速切進(jìn)智能客服賽道。

　　但還處于發(fā)展初期的大模型智能客服仍要攻克一系列難題。比如文本客服如何克服幻覺(jué)以及語(yǔ)音客服面臨的時(shí)延及擬人度的挑戰(zhàn)。一些企業(yè)正采取漸進(jìn)策略，在一些要求不高的場(chǎng)景率先讓產(chǎn)品落地。

　　不再智障的智能客服可能正在到來(lái)。

　　01

　　推理成本下降，大模型進(jìn)智能客服提速

　　魏佳星進(jìn)入智能客服市場(chǎng)已有七年，他看到，去年以來(lái)大模型技術(shù)快速演進(jìn)，越來(lái)越多智能客服領(lǐng)域的商機(jī)、需求與大模型相關(guān)。“就跟汽車的智駕功能一樣，不管客戶最后用不用，但是沒(méi)有它就不行。”

　　蓬勃的市場(chǎng)需求，從央國(guó)企的大模型招投標(biāo)數(shù)據(jù)中也能窺見(jiàn)一些端倪。數(shù)智前線此前統(tǒng)計(jì)，今年Q3的大模型相關(guān)項(xiàng)目的招投標(biāo)，僅項(xiàng)目名稱中與智能客服相關(guān)的項(xiàng)目就有9個(gè)。雖然在總量超360的大盤里占比不算很高，但大模型智能客服的需求已經(jīng)浮出水面，并形成了一定規(guī)模。

　　一家關(guān)乎國(guó)計(jì)民生領(lǐng)域的央企相關(guān)人士此前也告訴數(shù)智前線，他們正為旗下某超級(jí)應(yīng)用里的大模型智能客服尋找合作供應(yīng)商，預(yù)計(jì)項(xiàng)目規(guī)模在千萬(wàn)元級(jí)別。他們已經(jīng)摸排了市面上包括阿里、訊飛等多個(gè)廠商的智能客服產(chǎn)品能力，當(dāng)下正在產(chǎn)品選型階段。

　　IDC今年八月的報(bào)告數(shù)據(jù)里能看到市場(chǎng)空間正在加速打開(kāi)。2023年智能客服解決方案整體市場(chǎng)規(guī)模達(dá)到了30.8億人民幣，較2022年增長(zhǎng)了近36.9%。

　　業(yè)界觀察，蓬勃的需求，首先與過(guò)去近兩年，大模型技術(shù)快速進(jìn)步，對(duì)智能客服能力帶來(lái)了明顯的升級(jí)有關(guān)。

　　“大模型驅(qū)動(dòng)的智能客服，企業(yè)不需要非常多的NLP小模型，靠大模型能解決NLP的關(guān)鍵性任務(wù)，同時(shí)機(jī)器人的理解力、語(yǔ)言生成能力都有很大的躍遷。”百度智能云智能客服與智能內(nèi)容產(chǎn)品部總經(jīng)理張紅光在今年9月的一場(chǎng)媒體溝通會(huì)上說(shuō)。

　　當(dāng)下，大模型改善客服體驗(yàn)，場(chǎng)景并不局限在直接跟用戶溝通場(chǎng)景里的語(yǔ)音機(jī)器人和文本機(jī)器人上。比如在智能質(zhì)檢和分析的場(chǎng)景里，大模型可以用于確認(rèn)人工客服或者機(jī)器人客服的服務(wù)是否符合企業(yè)定義的SOP，還能給對(duì)話打結(jié)構(gòu)化標(biāo)簽，去改善客服服務(wù)。

　　程蔭告訴數(shù)智前線，除了文本/語(yǔ)音機(jī)器人、智能質(zhì)檢、坐席輔助、數(shù)字人客服、視頻客服、智能分析、座席培訓(xùn)等傳統(tǒng)智能客服場(chǎng)景外，和客服強(qiáng)相關(guān)的其他領(lǐng)域，如營(yíng)銷、培訓(xùn)、運(yùn)營(yíng)、決策等存在用戶交互需求的里，對(duì)大模型智能客服的需求也在提升。

　　魏佳星觀察到，技術(shù)進(jìn)步使得語(yǔ)音機(jī)器人在解鎖一些原來(lái)做不了的場(chǎng)景，比如云蝠智能就在開(kāi)拓基于大模型的智能體去做電話面試業(yè)務(wù)。這個(gè)新場(chǎng)景，對(duì)機(jī)器人的理解能力、語(yǔ)言表達(dá)自然程度都要有求，服務(wù)的報(bào)價(jià)也相比傳統(tǒng)場(chǎng)景有倍數(shù)級(jí)的提升。

　　智能客服與大模型快速結(jié)合，還與模型的調(diào)用成本快速下降密切相關(guān)。

　　去年年初，GPT3.5的接口調(diào)用成本一次還在幾美分的水平，當(dāng)時(shí)魏佳星判斷它只有單次調(diào)用成本下降到1分錢左右，行業(yè)里的成本賬才能算得過(guò)來(lái)�，F(xiàn)在，差不多18個(gè)月過(guò)后，語(yǔ)音機(jī)器人單次調(diào)用大模型接口的成本早已跌破了這個(gè)數(shù)字。

　　這不只發(fā)生在海外，國(guó)內(nèi)的模型廠商們?cè)诮衲晟习肽暌查_(kāi)啟了激烈的降價(jià)行動(dòng)。阿里CEO吳泳銘今年9月提到，模型推理成本指數(shù)級(jí)下降，已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)摩爾定律。零一萬(wàn)物CEO李開(kāi)復(fù)幾天前參加活動(dòng)時(shí)提到了一個(gè)很激進(jìn)的數(shù)字，過(guò)去一年半的時(shí)間內(nèi)，大模型推理成本的價(jià)格差了500倍，同時(shí)模型能力還有很大程度的提升。

　　其他大模型廠商也有各種降價(jià)動(dòng)作。推理成本明顯的下降趨勢(shì)，使得今年智能客服行業(yè)服務(wù)商們應(yīng)用大模型的進(jìn)程在提速。

　　02

　　可測(cè)算ROI VS仍待克服的障礙

　　去年以來(lái)，頭部企業(yè)都把智能客服領(lǐng)域視作大模型落地的先行場(chǎng)景。

　　阿里云在去年云棲大會(huì)上首次發(fā)布的8款基于通義打造的行業(yè)大模型里就有智能客服通義曉蜜，它能基于企業(yè)需求定制客服對(duì)話機(jī)器人。網(wǎng)易數(shù)智則在去年9月推出了面向客戶服務(wù)的商和大模型，用于智能質(zhì)檢、客服機(jī)器人、智能外呼、精準(zhǔn)洞察等客服場(chǎng)景。

　　今年百度智能云從3月開(kāi)始對(duì)外推出，并持續(xù)在升級(jí)的三款標(biāo)桿應(yīng)用里，就有基于大模型重構(gòu)、升級(jí)的智能客服產(chǎn)品客悅。

　　騰訊集團(tuán)副總裁、政企業(yè)務(wù)總裁李強(qiáng)也在今年騰訊數(shù)字生態(tài)大會(huì)的媒體溝通環(huán)節(jié)提到，相比應(yīng)用到生產(chǎn)研發(fā)等復(fù)雜場(chǎng)景，在容錯(cuò)率相對(duì)高一些的場(chǎng)景，比如智能客服領(lǐng)域，大模型的落地應(yīng)用進(jìn)展會(huì)更快。

　　基于客服領(lǐng)域去落地及探索大模型應(yīng)用的企業(yè)還有很多，技術(shù)服務(wù)商們紛紛進(jìn)場(chǎng)，與這一場(chǎng)景里大模型帶來(lái)的降本增效效果比較明顯有關(guān)。

　　IDC程蔭介紹，他們通過(guò)很多深度訪談發(fā)現(xiàn)，引入智能客服確實(shí)極大地提高了客戶服務(wù)的效率和質(zhì)量，還為企業(yè)節(jié)省了大量的人力和時(shí)間成本，帶來(lái)的收益是能測(cè)算的。

　　百度集團(tuán)執(zhí)行副總裁、百度智能云總裁沈抖在云智大會(huì)上提到，客悅在客服自助解決率上有大幅提升。這是客服服務(wù)領(lǐng)域里的一個(gè)重要指標(biāo)，“業(yè)界自助解決率普遍在80%左右，大模型重構(gòu)升級(jí)后，客悅自助解決率突破了92%，客服變得更聰明、更擬人、更懂用戶。”

　　快遞物流信息服務(wù)商快遞100，今年將大模型技術(shù)應(yīng)用到客服場(chǎng)景。該公司CEO陳登坤告訴數(shù)智前線，“大模型與客戶反饋及系統(tǒng)規(guī)則的協(xié)同效應(yīng)顯著增強(qiáng)，共同解決了高達(dá)90%的工單問(wèn)題，僅10%的問(wèn)題需人工干預(yù)，客訴一次性解決率高達(dá)99.4%。”

　　容聯(lián)云大模型產(chǎn)品人士則提到，他們?cè)诒ｋU(xiǎn)服務(wù)場(chǎng)景里，基于大模型，實(shí)現(xiàn)了對(duì)400電銷電話大量錄音內(nèi)容的洞察和挖掘。應(yīng)用后，降低潛在客訴量達(dá)到10%左右。

　　電銷電話以前只能圍繞電話數(shù)量和時(shí)長(zhǎng)去分析，但實(shí)際上電話內(nèi)容里蘊(yùn)含很多用戶的潛在需求。有了大模型后，大模型能提取到用戶的潛在需求，還能從電話內(nèi)容里挖掘出資深服務(wù)人員的優(yōu)質(zhì)回復(fù)，為后續(xù)服務(wù)提供話術(shù)建議和參考。

　　這些都是大模型提升智能客服體驗(yàn)的進(jìn)展。但硬幣的另一面，依然還有很多難題需要解決。

　　IDC告訴數(shù)智前線，從2023年以來(lái)，頭部的技術(shù)供應(yīng)商還在進(jìn)行一些產(chǎn)品化，商業(yè)化進(jìn)展還不是很顯著，市場(chǎng)還是以AI傳統(tǒng)客服為主。大模型賦能的客服產(chǎn)品在行業(yè)的普遍應(yīng)用中還存在與原有系統(tǒng)的耦合、理解能力有限、缺乏上下文感知、交互性和靈活性不足、個(gè)性化服務(wù)不足等挑戰(zhàn)，需要根據(jù)具體場(chǎng)景持續(xù)的訓(xùn)練調(diào)優(yōu)，投入數(shù)據(jù)、算力資源。

　　一位企服行業(yè)資深人士就感慨，在驚嘆于技術(shù)的突破時(shí)，行業(yè)也切實(shí)需要去解決許多問(wèn)題，比如真實(shí)溝通場(chǎng)景的幻覺(jué)控制，新技術(shù)融入到企業(yè)業(yè)務(wù)流程里的改造和管理成本等。

　　以語(yǔ)音場(chǎng)景里大模型驅(qū)動(dòng)的智能體為例，當(dāng)下語(yǔ)音的擬人度不夠，客戶很容易能聽(tīng)出來(lái)實(shí)時(shí)生成的聲音不是真人。同時(shí)由于電話場(chǎng)景對(duì)時(shí)延要求高，幻覺(jué)問(wèn)題也很難解決。

　　一些大型的項(xiàng)目，還涉及到后續(xù)建設(shè)和運(yùn)維的成本。前文提及的某央企千萬(wàn)級(jí)智能客服項(xiàng)目，相關(guān)人士提到他們產(chǎn)品選型十分慎重，原因在于項(xiàng)目的后續(xù)建設(shè)和運(yùn)維成本高。因此，他們雖然對(duì)各家廠商的能力特點(diǎn)如數(shù)家珍，卻遲遲沒(méi)有敲定合作對(duì)象。

　　另外，一位智能客服行業(yè)資深人士提到，除了技術(shù)層面的各種限制，她也看到一些場(chǎng)景并不鼓勵(lì)完全“去人化”的客服。“現(xiàn)在AI可能解語(yǔ)文題的能力提升了，可能也能解數(shù)學(xué)題。但是客服場(chǎng)景里很多是客訴，它可能是法律題、心理題和社會(huì)題，很多時(shí)候用戶還是更愿意接聽(tīng)電話的是真人。”

　　03

　　漸進(jìn)式路線：在能落地的場(chǎng)景里先用起來(lái)

　　基于大模型去升級(jí)產(chǎn)品有一大特性，基礎(chǔ)模型能力的躍升，會(huì)帶來(lái)產(chǎn)品性能和體驗(yàn)的提升。但在能力更強(qiáng)的模型到來(lái)之前，技術(shù)服務(wù)商們需要基于當(dāng)下的技術(shù)局限，找到產(chǎn)品化、商業(yè)化的合適節(jié)奏。

　　魏佳星提到，他們的策略是，在時(shí)延和擬人度問(wèn)題沒(méi)有理想的解決方案前，先找對(duì)這些指標(biāo)要求比較低的業(yè)務(wù)場(chǎng)景先用起來(lái)，“比如400電話，你能接受它的時(shí)延問(wèn)題，可以接受它的擬人度不夠，聽(tīng)起來(lái)像機(jī)器人，現(xiàn)在這些場(chǎng)景里用起來(lái)。”

　　一家服務(wù)汽配行業(yè)的軟件服務(wù)商用智能體來(lái)服務(wù)車廠及終端車主的特殊車型維修零配件報(bào)價(jià)，目前有80%的客服詢價(jià)由智能體完成。

　　針對(duì)智能體有一些幻覺(jué)等不可控因素，他們也采取了智能體加上真人監(jiān)管結(jié)合的服務(wù)模式，來(lái)更好服務(wù)客戶。“詢報(bào)價(jià)智能體在客戶群里溝通，但是這個(gè)里面群里還是有銷售在做一些監(jiān)管的動(dòng)作”，該服務(wù)商說(shuō)。

　　容聯(lián)云產(chǎn)業(yè)數(shù)字云VP孔淼則提到，針對(duì)大模型全面替代帶來(lái)的算力成本及幻覺(jué)等問(wèn)題，可以先用大模型解決局部問(wèn)題。

　　“比如用它解決前端的泛化問(wèn)題，轉(zhuǎn)化成具體的任務(wù)后，再用高效的小模型來(lái)解決，采取大小模型結(jié)合的策略。”孔淼在幾個(gè)月前的一場(chǎng)產(chǎn)業(yè)論壇中提到。

　　正如IDC所說(shuō)，大模型賦能的智能客服發(fā)展還在初始階段，商業(yè)化仍有待推進(jìn)。不過(guò)，一些企業(yè)也看到了當(dāng)下市場(chǎng)偏好的一些特征，并嘗試找到一些商業(yè)化的策略。

　　魏佳星發(fā)現(xiàn)，許多企業(yè)雖然對(duì)大模型功能有認(rèn)知，但相比大模型原生的智能體產(chǎn)品，他們更偏好上一代的具備可解釋性的產(chǎn)品，“短期里大模型是一個(gè)銷售型功能”。

　　而大模型原生的Agent類型產(chǎn)品探索價(jià)值在于，一方面這是未來(lái)的發(fā)展方向，另外，它可以解耦出一部分能力，用于升級(jí)上一代產(chǎn)品，從而提升用戶體驗(yàn)和留存，最終實(shí)現(xiàn)間接的商業(yè)轉(zhuǎn)化。

　　以電話面試場(chǎng)景為例，這里面可能涉及到N個(gè)智能體協(xié)同工作。比如第一個(gè)AI對(duì)非結(jié)構(gòu)化簡(jiǎn)歷進(jìn)行讀取，讓簡(jiǎn)歷變成標(biāo)準(zhǔn)的小字段便于其后的AI閱讀。第二個(gè)AI要調(diào)取GPT級(jí)別的最高級(jí)模型，教打電話的AI去訓(xùn)練它的緩存體系。第三個(gè)AI負(fù)責(zé)打電話，發(fā)起呼叫。第四個(gè)AI把通話記錄抽取成標(biāo)準(zhǔn)的結(jié)論。

　　這個(gè)過(guò)程里四個(gè)AI能力可以被解耦，其中的一部分技術(shù)方案賦能給上一代產(chǎn)品，“目前商業(yè)化收入里很多來(lái)自技術(shù)方案復(fù)用給上一代之后帶來(lái)的收入增長(zhǎng)。”魏佳星說(shuō)。

　　當(dāng)下，無(wú)論是AI傳統(tǒng)客服企業(yè)帶著場(chǎng)景接入大模型能力，還是大模型企業(yè)帶著錘子進(jìn)入智能客服賽道，這一領(lǐng)域的熱度正在提升。

　　“以云服務(wù)為代表的平臺(tái)級(jí)公司在底層大模型、新一代智能客服產(chǎn)品上有研發(fā)優(yōu)勢(shì)，且有的云廠商旗下有一部分業(yè)務(wù)和客服強(qiáng)相關(guān)。它們有一定的品牌知名度和用戶基數(shù)，需要加強(qiáng)的是中小企業(yè)的定制化服務(wù)。而較早進(jìn)入市場(chǎng)的傳統(tǒng)客服企業(yè)也有市場(chǎng)認(rèn)知度，積攢了一定量客戶，這些企業(yè)需要加強(qiáng)的則是大模型技術(shù)底層研發(fā)能力。”IDC程蔭說(shuō)。

　　一位AI客服領(lǐng)域的創(chuàng)業(yè)企業(yè)則認(rèn)為，它們和巨頭在定價(jià)能力及服務(wù)能力上有差異，小公司有靈活性，而大廠由于人力成本，涉及到交付團(tuán)隊(duì)后它很難服務(wù)報(bào)價(jià)低于五十萬(wàn)元的項(xiàng)目。

　　不管怎么樣，競(jìng)爭(zhēng)正變得激烈起來(lái)。不過(guò)市場(chǎng)也并非存量競(jìng)爭(zhēng)。

　　上個(gè)月初，OpenAI的GPT-4o Realtime API公開(kāi)測(cè)試版上線，魏佳星馬上在內(nèi)部推進(jìn)基于這一接口開(kāi)發(fā)新一代智能客服產(chǎn)品。

　　對(duì)語(yǔ)音場(chǎng)景的智能客服而言，這是一次重要的模型能力升級(jí)，它能大大解決語(yǔ)音機(jī)器人的時(shí)延問(wèn)題。之前的模型要將語(yǔ)音轉(zhuǎn)文本和文本轉(zhuǎn)語(yǔ)音功能拼接在一起，而Realtime API是端到端模型，在語(yǔ)音交互時(shí)，表現(xiàn)會(huì)更自然。

　　這也是大模型賦能的智能客服產(chǎn)品的一大利好，長(zhǎng)期來(lái)看，技術(shù)的進(jìn)步和成本的下降，將會(huì)給產(chǎn)品帶來(lái)質(zhì)的突破，而新的市場(chǎng)空間也將進(jìn)一步打開(kāi)。