文|姚 悅  編|王一粟

　　百模大戰(zhàn)，到了真正的亮劍時(shí)刻。

　　“京東一直在探索哪些產(chǎn)品、技術(shù)、場景可以真正把大模型用起來，在我們內(nèi)部的場景中反復(fù)驗(yàn)證后，才決定在7月份對外發(fā)布，現(xiàn)在我們在零售、健康、物流、金融等業(yè)務(wù)場景里已經(jīng)積累了一些經(jīng)驗(yàn)。”京東集團(tuán)技術(shù)委員會(huì)主席、京東云事業(yè)部總裁曹鵬在群訪中，對光錐智能表示。

　　大模型火熱半年，自2月官宣聚焦“產(chǎn)業(yè)大模型”后，一直相對低調(diào)的京東，也終于展示了自己的言犀大模型。但與此同時(shí)，大模型的競爭已經(jīng)趨于白熱化。據(jù)不完全統(tǒng)計(jì)，當(dāng)前國內(nèi)已發(fā)布超過80個(gè)大模型產(chǎn)品，并已經(jīng)開始對應(yīng)不同行業(yè)、不同應(yīng)用場景頻繁發(fā)力。

　　究竟什么樣的大模型，才能在這番激烈的競爭中突出重圍?

　　一方面，大模型亟需尋找到場景快速落地，另一方面，中國實(shí)體產(chǎn)業(yè)需要技術(shù)驅(qū)動(dòng)來降本增效。

　　于是，從產(chǎn)業(yè)中來，到產(chǎn)業(yè)中去，就成了京東大模型自然的選擇。

　　“大模型，讓技術(shù)幫助產(chǎn)業(yè)降本增效的可能性成倍遞增。”京東集團(tuán)CEO許冉認(rèn)為，從產(chǎn)業(yè)切入大模型，如同從北坡攀爬技術(shù)珠峰。道路雖然更加艱難，卻有更波瀾壯闊的風(fēng)景。

　　長于產(chǎn)業(yè)的大模型

　　“言犀大模型訓(xùn)練時(shí)，融合70%的通用數(shù)據(jù)與30%數(shù)智供應(yīng)鏈原生數(shù)據(jù)”，IEEE Fellow、京東探索研究院院長、京東科技智能服務(wù)與產(chǎn)品部總裁何曉冬告訴光錐智能。

　　這種大模型訓(xùn)練方式，與此前業(yè)界早期普遍認(rèn)為的并不相同。

　　“目前，基礎(chǔ)模型有三種不同的應(yīng)用模式：第一種是通用基礎(chǔ)模型訓(xùn)練好后，遷移至行業(yè)基礎(chǔ)模型中，進(jìn)而做產(chǎn)業(yè)(垂直)應(yīng)用;第二種是通用基礎(chǔ)模型進(jìn)行微調(diào);第三種，則是利用通用大模型+‘知識(shí)庫和搜索引擎’。”業(yè)內(nèi)人士道。

　　由于前兩種的訓(xùn)練成本偏高，且用于通用大模型訓(xùn)練的公開數(shù)據(jù)“噪聲”過大，容易出現(xiàn)錯(cuò)誤、謠言、偏見等問題，以至于讓AI 存在“幻覺”“一本正經(jīng)的胡說八道”，無法保障內(nèi)容真實(shí)可信，進(jìn)而阻礙大模型落地行業(yè)。

　　近期，從OpenAI到國內(nèi)部分公司，都開始偏向第三種應(yīng)用路徑，而京東也正是走的這條路。“知識(shí)庫+搜索引擎”，大致可以理解為是產(chǎn)業(yè)(垂類)領(lǐng)域的向量數(shù)據(jù)庫，這樣的向量數(shù)據(jù)庫與通用大模型結(jié)合，被業(yè)界稱之為“黃金搭檔”。

　　通過這樣的路徑，“言犀大模型一開始就既具備常識(shí)，又具備專業(yè)性。相當(dāng)于是既做了通識(shí)教育，又做了四年本科教育”，何曉冬形象地描述言犀大模型的差異性。

　　京東找到這樣的路徑，并不是偶然。

　　從事AIGC領(lǐng)域研究20余年的何曉冬，在2020年開始通過注意力機(jī)制、深度學(xué)習(xí)、Transformer 生成文檔、文案，他注意到，用大語言模型直接生成的文案、文字和報(bào)告總會(huì)出現(xiàn)一些“胡說八道”“玄幻”的現(xiàn)象。

　　于是，何曉冬和團(tuán)隊(duì)提出了知識(shí)注入的預(yù)訓(xùn)練語言模型(K-Plug)，并于2021年發(fā)布了相關(guān)論文。“京東內(nèi)部用上更早一點(diǎn)”，何曉冬說，通過K-Plug，讓Transformer和行業(yè)知識(shí)結(jié)合，讓生成式語言模型的內(nèi)容生成正確率從83%、85%左右，直接提升到95%以上，才能達(dá)到商用程度。

　　“83%的正確率在to C 用戶的聊天中，也可以接受。但是，商用是不可接受的。”何曉冬提到。

　　GPT能出現(xiàn)智能涌現(xiàn)，依靠的不是數(shù)據(jù)，而是文本數(shù)據(jù)中的知識(shí)。所以，相比一味的追求超大參數(shù)量，數(shù)據(jù)中的“知識(shí)”含量更為重要。

　　基于20年的行業(yè)“知識(shí)”積累，京東言犀可以說是“長”在了數(shù)智供應(yīng)鏈上。

　　供應(yīng)鏈?zhǔn)钱a(chǎn)業(yè)中數(shù)據(jù)最集中、結(jié)構(gòu)最復(fù)雜、相關(guān)度最密切的環(huán)節(jié)。在零售、物流，到健康、保險(xiǎn)、工業(yè)等場景中，京東沉淀了從采購、分銷、交易、物流等產(chǎn)業(yè)鏈條中的巨量數(shù)據(jù)，并且每天還會(huì)源源不斷產(chǎn)生大量“活”的交互數(shù)據(jù)。

　　在行業(yè)中長期積累的“知識(shí)”，保障了大模型的可信，極大的幫助大模型落地。

　　“只有自己的場景才能培養(yǎng)適合自己的大模型應(yīng)用”，京東集團(tuán)副總裁、京東科技產(chǎn)品與解決方案總裁高禮強(qiáng)如此說道。

　　30%的京東數(shù)智供應(yīng)鏈數(shù)據(jù)，訓(xùn)練出了產(chǎn)業(yè)可用的大模型，而大模型在應(yīng)用過程中要落地，還需要在具體場景中繼續(xù)打磨。

　　在場景中歷練，算法與數(shù)據(jù)的飛輪

　　“大模型不是我們的目標(biāo)，而是(產(chǎn)業(yè)服務(wù)的)工具。”曹鵬表示，大模型不能只用來聊天、畫畫、吟詩作賦，最終還是要在產(chǎn)業(yè)中創(chuàng)造價(jià)值。

　　所以，在語言大模型火熱的半年里，京東選擇了埋頭摸索和嘗試，讓大模型先在京東的多項(xiàng)業(yè)務(wù)中歷練。

　　由于AIGC在生成和交互中表現(xiàn)優(yōu)異，所以在京東健康中落地較快。

　　在京東健康的諸多業(yè)務(wù)流程中，大模型首先在AI問診中落地。用戶輸入“我可以吃阿司匹林嗎?”的訴求后，接下來在AI的引導(dǎo)下，通過多輪對話逐步判斷病因，給出診斷、用藥參考，并進(jìn)行生活建議，醫(yī)療風(fēng)險(xiǎn)提示。

　　這就是在言犀大模型3.0的基礎(chǔ)上，通過醫(yī)療知識(shí)和經(jīng)驗(yàn)訓(xùn)練的“慧醫(yī)千詢”大模型，在現(xiàn)場輔助診療場景下的具體表現(xiàn)。這背后，是京東健康累計(jì)線上問診數(shù)據(jù)2.8億，超3千萬高質(zhì)量臨患對話，140余科室醫(yī)療專家等數(shù)據(jù)積累。

　　如果是一般通用大模型，在遇到患者問題時(shí)，更傾向于直接把答案給出。“但是在實(shí)際的醫(yī)療場景下，是需要多輪對話，才能更深入了解用戶病史信息，這樣才能給出更適合用戶自身特點(diǎn)的方案。”京東集團(tuán)副總裁、京東健康技術(shù)產(chǎn)品部負(fù)責(zé)人李欣表示。

　　醫(yī)療是和百姓生活息息相關(guān)一個(gè)行業(yè)，其中存在一個(gè)著名的“不可能三角”，即醫(yī)療服務(wù)不可能同時(shí)實(shí)現(xiàn)高質(zhì)量、高覆蓋、低成本，這本質(zhì)上是由于優(yōu)質(zhì)醫(yī)療資源的供給不足造成。

　　“慧醫(yī)千詢”的出現(xiàn)，目標(biāo)就是通過遠(yuǎn)程醫(yī)療全流程方案，解決這個(gè)“不可能三角”。

　　李欣透露，“慧醫(yī)千詢”重點(diǎn)會(huì)做兩個(gè)核心場景，“首先是藥師的問答，這個(gè)非常專業(yè)化、具體，是醫(yī)療大模型最容易發(fā)揮作用的地方，AI自動(dòng)化可以省去90%的人工工作量。再在這個(gè)基礎(chǔ)上，推全場景醫(yī)患問答。”

　　除了京東健康，大模型在京東物流、零售等方面也大展拳腳。

　　“電商的產(chǎn)品視頻、照片直接由人去拍攝非常貴，少則幾百塊，多則幾千塊。”京東集團(tuán)副總裁、京東科技產(chǎn)品與解決方案總裁高禮強(qiáng)表示，AIGC可以極大的降低商品營銷的成本。

　　目前，基于言犀的AIGC內(nèi)容營銷平臺(tái)，已經(jīng)能很好地理解商品特征，自動(dòng)幫助商家生成商品圖片、賣點(diǎn)等營銷素材。以每套圖為例，成本降低90%，周期從7天縮短到半天。

　　通過對營銷的理解，以及用戶運(yùn)營經(jīng)驗(yàn)的持續(xù)積累，大模型解決了諸如關(guān)鍵性任務(wù)，動(dòng)態(tài)適應(yīng)性、用戶體驗(yàn)等問題。本次發(fā)布的AI增長營銷平臺(tái)是京東科技市場和平臺(tái)運(yùn)營團(tuán)隊(duì)依托日常的金融營銷工作結(jié)合大模型應(yīng)用的探索，能大幅優(yōu)化了營銷運(yùn)營流程，降低運(yùn)營人員的學(xué)習(xí)成本與操作成本，實(shí)現(xiàn)方案生產(chǎn)效率上百倍提高。將過去涉及產(chǎn)品/研發(fā)/算法/設(shè)計(jì)/分析師等5類以上職能才能完成的流程，壓縮至1人。同時(shí)，一個(gè)入口的全新交互模式，讓人機(jī)交互次數(shù)從2000次降低至少于50次，將操作效率提升了超過40倍。

　　另外，數(shù)字人在主播方面的落地也是行業(yè)熱點(diǎn)，基于京東在電商領(lǐng)域知識(shí)增強(qiáng)模型K-PLUG，僅需在直播后臺(tái)上傳商品鏈接，數(shù)字人就能“閱讀”商品詳情，找到關(guān)鍵的規(guī)格、賣點(diǎn)等信息，并自動(dòng)生成真實(shí)、生動(dòng)、可閱讀性強(qiáng)的直播文案。

　　例如，商家原先寫出50個(gè)SKU的直播腳本需要至少五小時(shí)，使用K-PLUG模型只需要“一鍵生成”。目前K-PLUG商品文案寫作能力已經(jīng)覆蓋3000多個(gè)京東的品類，累計(jì)生成文案30多億字。

　　通過上面場景就可以看到，大模型在產(chǎn)業(yè)(垂類)場景中的降本增效非常明顯。

　　當(dāng)大模型在海量具體場景中使用時(shí)，人類真實(shí)反饋就會(huì)讓數(shù)據(jù)和算法的形成飛輪效應(yīng)。這期間，高質(zhì)量數(shù)據(jù)不斷生成，垂直行業(yè)的智能涌現(xiàn)才有可能出現(xiàn)。

　　為了支撐大模型在場景中的歷練，京東需要不斷在產(chǎn)品和算力方面提升能力。產(chǎn)品方面，日前，京東將積累高質(zhì)量行業(yè)數(shù)據(jù)的兩個(gè)平臺(tái)——數(shù)智平臺(tái)優(yōu)加DaaS和言犀智能服務(wù)都已升級到了3.0版本，進(jìn)一步提升了交互能力，以及更好地將數(shù)據(jù)用起來;算力方面，已經(jīng)布局了全國首個(gè)基于SuperPOD架構(gòu)的超大規(guī)模計(jì)算集群——天琴α，算力總規(guī)模達(dá)到135TFLOPS(每秒浮點(diǎn)運(yùn)算次數(shù))。

　　六年AI路，三年大模型

　　種樹最好的時(shí)間是在十年前。

　　在大模型突然爆火之前，京東很早已經(jīng)開始“栽樹”。

　　“技術(shù)、技術(shù)、技術(shù)”，2017年初，京東開始全面向 AI 技術(shù)轉(zhuǎn)型。

　　第一個(gè)技術(shù)，主要用于解決內(nèi)部大規(guī)模人力帶來的效率問題;第二個(gè)技術(shù)，是組件化、模塊化的技術(shù)服務(wù)對外輸出;第三個(gè)技術(shù)，則是對前沿技術(shù)進(jìn)行探索和有秩序地創(chuàng)新。

　　2017年底，京東在人工智能的布局就開始落地，一方面聚集團(tuán)隊(duì)，通過人才、研究、專利等打造技術(shù)護(hù)城河;但與此同時(shí)，京東也一直在思考一個(gè)問題——怎樣將這些技術(shù)落地產(chǎn)生閉環(huán)的商業(yè)價(jià)值和產(chǎn)品價(jià)值?

　　2018年，人工智能領(lǐng)域科學(xué)家何曉冬正式加入京東。2020年，何曉冬團(tuán)隊(duì)就開始關(guān)注如何利用深度學(xué)習(xí)的模型。2021年京東開始組建大模型團(tuán)隊(duì)，探索深度學(xué)習(xí)及語音和語言技術(shù)在新興領(lǐng)域等應(yīng)用場景的落地。

　　早在2022年，京東就推出了百億參數(shù)的大模型Vega。但直到今年上半年ChatGPT大火，京東雖然在2月份宣布要做服務(wù)產(chǎn)業(yè)的大模型，但遲遲沒有對外公布。

　　“百模大戰(zhàn)”白熱化升級，外界都替京東著急了。“有無數(shù)的朋友，最近都會(huì)跑過來問我，你們京東有沒有大模型?什么時(shí)候發(fā)大模型?”曹鵬在2023京東全球科技探索者大會(huì)暨京東云峰會(huì)上打趣道。

　　但這背后，其實(shí)回到一個(gè)很嚴(yán)肅的問題上，就是京東最初就思考的那個(gè)問題——技術(shù)的價(jià)值，也可以說成是大模型的價(jià)值。

　　“大模型本身是沒有辦法直接產(chǎn)生價(jià)值的，只有放到場景里才能夠產(chǎn)生實(shí)際的價(jià)值。”曹鵬說，“在京東我們真正講大模型本身會(huì)比較少，更多會(huì)講在產(chǎn)業(yè)里面、場景里面，怎么能夠利用新的技術(shù)帶來產(chǎn)業(yè)變化，真的給產(chǎn)業(yè)不斷提升效率、改善體驗(yàn)、降低成本，這才是一個(gè)技術(shù)真正核心的價(jià)值所在。”

　　關(guān)于大模型，京東制定了“三步走”戰(zhàn)略。第一步，基于內(nèi)部實(shí)踐構(gòu)建言犀大模型和言犀AI開發(fā)計(jì)算平臺(tái);第二步，在零售、金融、健康、物流等京東內(nèi)部高復(fù)雜場景大規(guī)模錘煉，并針對重點(diǎn)場景的標(biāo)桿客戶進(jìn)行對外服務(wù)，主要目的是發(fā)現(xiàn)那些看起來“不起眼”，但產(chǎn)業(yè)應(yīng)用中又非常關(guān)鍵的問題;第三步，針對嚴(yán)肅商業(yè)場景將大模型能力對外開放。

　　今年上半年，京東大模型走過了第一步，并在第二個(gè)階段有了初步嘗試，處于在第二個(gè)階段的深化和逐步向第三步邁進(jìn)的狀態(tài)。

　　大模型不是一天能煉成的。

　　在 ChatGPT 證明 AGI(通用人工智能)的可能性之前，AI技術(shù)長期面臨著技術(shù)突破遙遙無期、商業(yè)落地困難等問題，甚至AI行業(yè)自己也一度質(zhì)疑過人工智能的價(jià)值。

　　但在今年光錐智能觀察到一個(gè)現(xiàn)象，就是：

　　人工智能，已經(jīng)不再是獨(dú)立的人工智能實(shí)驗(yàn)室，而是泛化到所有業(yè)務(wù)當(dāng)中。

　　當(dāng) AI 離開實(shí)驗(yàn)室，才是價(jià)值綻放的開始。

　　京東對大模型的價(jià)值，有自己的理解。許冉在峰會(huì)上提出，“大模型的價(jià)值=算法×算力×數(shù)據(jù)×產(chǎn)業(yè)厚度的平方”的公式，她強(qiáng)調(diào)，當(dāng)產(chǎn)業(yè)效率和產(chǎn)業(yè)的邊界得到質(zhì)的提升后，大模型才有了更重要的實(shí)際價(jià)值和意義，將不亞于又一次工業(yè)革命。