國產(chǎn)GPU對決！清華經(jīng)管聯(lián)合Plaso伯索，“AI+教育”5大場景橫評

　　人工智能技術(shù)的迅猛發(fā)展，正深刻重塑著教育形態(tài)。清華大學(xué)經(jīng)濟(jì)管理學(xué)院(下稱“清華經(jīng)管”)作為國內(nèi)頂尖院校，積極推動人工智能技術(shù)與教育教學(xué)的深度融合與應(yīng)用，聚焦實際業(yè)務(wù)場景，追求落地實效，借助AI技術(shù)創(chuàng)新人才培養(yǎng)模式、改革教學(xué)方式。清華經(jīng)管采用Plaso伯索旗下“英飛 AI WorkSpace”平臺，在教學(xué)、科研、行政管理等場景開展了深入實踐，其“交互式數(shù)字畫布+AI智能體”的核心技術(shù)和產(chǎn)品理念，高度契合清華經(jīng)管對AI場景的需求，探索出了一條基于實際業(yè)務(wù)場景、真正可落地的創(chuàng)新實踐路徑，并取得了顯著成效。隨著探索的拓展和深入，AI大模型在處理教育場景中特有的短文本對話交互、長文本總結(jié)摘要、長文本生成擴(kuò)寫、長文本翻譯解讀、高并發(fā)等場景時，對高性能GPU支撐的需求正愈發(fā)凸顯�？梢哉f，GPU作為大模型應(yīng)用的基礎(chǔ)設(shè)施，其性能直接關(guān)系到“AI+教育“場景的落地效率、應(yīng)用深度和用戶體驗，是支撐高質(zhì)量、多元化“AI+教育“場景的基石。

　　與此同時，在面對復(fù)雜的國際環(huán)境與國家關(guān)鍵核心技術(shù)自主可控的時代要求下，肩負(fù)“服務(wù)國家戰(zhàn)略與引領(lǐng)教育創(chuàng)新”雙重使命的清華經(jīng)管展現(xiàn)出了責(zé)任擔(dān)當(dāng)和示范引領(lǐng)，在教育領(lǐng)域率先部署國產(chǎn)GPU方案，并進(jìn)行性能驗證。

　　為此，清華經(jīng)管聯(lián)合Plaso伯索，聚焦5大“AI+教育”應(yīng)用場景，對相關(guān)國產(chǎn)GPU展開了全面深度測試。

　　清華經(jīng)管“AI+教育”落地實踐清華經(jīng)管依托Plaso伯索旗下“英飛 AI WorkSpace”打造AI體驗中心，通過實際應(yīng)用場景的搭建，全方位、多維度落地AI場景，融入教學(xué)、科研和行政管理等各個主要場景。

　　在教學(xué)領(lǐng)域，AIGC可生成課程的知識圖譜、能力圖譜，構(gòu)建賦能“知識傳授、能力培養(yǎng)、價值塑造”的三位一體的多智能體協(xié)同育人空間，教師在知識傳授過程可以使用AI用具體示例對某一晦澀難懂的概念提供清晰的多段式解釋，并給出不同角度的理解。此外，AIGC還能根據(jù)學(xué)生的學(xué)習(xí)數(shù)據(jù)生成個性化學(xué)情報告，有助于提升教學(xué)的針對性和有效性，為教師提供精準(zhǔn)教學(xué)參考，為學(xué)生提供更優(yōu)質(zhì)的教育資源。

　　在科研方面，清華經(jīng)管重點聚焦將AI技術(shù)應(yīng)用于科研與學(xué)科數(shù)據(jù)的采集、分析與應(yīng)用領(lǐng)域，系統(tǒng)性探索學(xué)科交叉創(chuàng)新路徑，實現(xiàn)異質(zhì)知識體系的高效融合。學(xué)院將于近期推出AI科研工作臺，為科研工作者提供全新的智能協(xié)作范式。

　　在行政管理領(lǐng)域，英飛 AI WorkSpace也有諸多實踐應(yīng)用。例如清華經(jīng)管教師人事管理部門使用多智能體技術(shù)重構(gòu)了海外人才引進(jìn)的流程，構(gòu)建了“AI人才引進(jìn)空間”和“人才引進(jìn)AI檔案袋”，通過使用AI對應(yīng)聘教師的簡歷和CV進(jìn)行關(guān)鍵信息提取，自動篩選和匹配符合要求的人才簡歷，簡化人才招聘流程，提高招聘效率和準(zhǔn)確性。減少招聘過程中的人力和時間成本，提高招聘質(zhì)量。

　　此外，Plaso伯索配合清華經(jīng)管已經(jīng)完成了諸如“三會一課AI黨建空間”、“青年教師顧問組空間”、“學(xué)生職業(yè)發(fā)展空間”等多個AI賦能的場景規(guī)劃和設(shè)計，隨著2025年秋季學(xué)期的展開，將陸續(xù)上線與應(yīng)用。

　　測試方法及指標(biāo)體系構(gòu)建考慮到AI在教學(xué)、科研、行政管理等業(yè)務(wù)場景的實際應(yīng)用中，涉及到大量的學(xué)院本地化數(shù)據(jù)處理，為滿足數(shù)據(jù)安全與合規(guī)要求，清華經(jīng)管采用私有化部署GPU來實現(xiàn)�；�于上述具體業(yè)務(wù)場景的需求，清華經(jīng)管聯(lián)合Plaso伯索共同規(guī)劃設(shè)計了具備代表性和實用性的測試方法與指標(biāo)體系，對國產(chǎn)GPU展開深度測試。結(jié)合業(yè)內(nèi)通用開源測試方法-vLLM性能基準(zhǔn)測試套件及LLMPerf開展了對國產(chǎn)人工智能服務(wù)器的實測評估測試。本次評估測試圍繞推理場景展開，包括推理性能測試及多維度推理準(zhǔn)確性測試。

　　為保證測試結(jié)果的公正與合理，推理性能測試部分具體實施規(guī)范如下：

　　1)測試環(huán)境標(biāo)準(zhǔn)化配置：

　　模型版本：統(tǒng)一部署 DeepSeek-R1-671B 模型(20250120) INT8 量化版本

　　運(yùn)行環(huán)境：模型部署所在 的AI 服務(wù)器(避免網(wǎng)絡(luò)波動等場外因素干擾);

　　2)動態(tài)填充測試框架：

　　并發(fā)控制：初始化 N 個虛擬用戶實例構(gòu)建基礎(chǔ)并發(fā)壓力;

　　動態(tài)補(bǔ)償：通過智能請求隊列管理實現(xiàn)實時請求補(bǔ)充，完成請求與新增請求建立 1:1 映射;

　　終止條件：設(shè)置 M×N 的總請求窗口。

　　在推理準(zhǔn)確性測試部分中，我們調(diào)整模型生成參數(shù)與DeepSeek-R1原論文一致(temperature=0.6，top-p=0.95)。

　　本次測試聯(lián)合清華經(jīng)管選取了兩家主流的國產(chǎn)GPU設(shè)備進(jìn)行多維度測試，以下使用代號A設(shè)備和B設(shè)備命名。

　　A設(shè)備在INT8精度下各個維度的測試結(jié)果：

　　B設(shè)備在INT8精度下各個維度的測試結(jié)果：

　　*具體測試數(shù)據(jù)詳見Plaso伯索官方報道。

　　整體測試結(jié)論通過比較 A設(shè)備和B設(shè)備在INT8精度下的多維度測試結(jié)果，得出以下結(jié)論：

　　推理性能方面：

　　在長上下文任務(wù)中(上下文長度≥4096 tokens，出現(xiàn)在長文本翻譯/解讀、長文本生成/擴(kuò)寫和長文本總結(jié)/摘要場景下)，兩設(shè)備在滿足SLO的條件下對并發(fā)請求的支持能力無顯著差異;在中短上下文任務(wù)中(如短文本對話交互場景)，A 設(shè)備在滿足 SLO時的并發(fā)處理能力優(yōu)于 B 設(shè)備。

　　推理準(zhǔn)確性方面：

　　在INT8量化下，A、B設(shè)備均能保持模型具有較低的準(zhǔn)確度損失，保證用戶的使用體驗。結(jié)語此次清華經(jīng)管聯(lián)合Plaso伯索聚焦“AI+教育”核心應(yīng)用場景，對國產(chǎn)GPU進(jìn)行的深度測試具有重要意義。

　　清華經(jīng)管不僅著眼于自身需求，更立足于國家關(guān)鍵核心技術(shù)自主可控的時代要求，不僅是對國產(chǎn)GPU性能的一次嚴(yán)謹(jǐn)檢驗，更為教育行業(yè)乃至更廣泛領(lǐng)域提供了寶貴的國產(chǎn)GPU選型基準(zhǔn)、技術(shù)驗證范式和落地經(jīng)驗，有助于推動國產(chǎn)GPU在關(guān)鍵領(lǐng)域的應(yīng)用進(jìn)程與產(chǎn)業(yè)發(fā)展。

　　未來，清華經(jīng)管將繼續(xù)聯(lián)合Plaso伯索，圍繞更多“AI+教育”業(yè)務(wù)場景開展兼具務(wù)實性與前瞻性的應(yīng)用探索。同時，我們也誠邀更多AI 領(lǐng)域的優(yōu)秀廠商攜手共建生態(tài)，共同推動AI技術(shù)在教育領(lǐng)域的創(chuàng)新突破與高質(zhì)量發(fā)展。關(guān)于Plaso伯索Plaso伯索(全名“南京伯索網(wǎng)絡(luò)科技有限公司”)成立于2012年，總部位于六朝古都南京，團(tuán)隊在AIGC、AI智能體、邊緣智能、云計算、大數(shù)據(jù)、富媒體通訊、音視頻處理、多模態(tài)畫布空間、人機(jī)實時協(xié)作、安全信創(chuàng)等技術(shù)方面積累了豐富的產(chǎn)品實踐經(jīng)驗。

　　Plaso伯索融合創(chuàng)新AI Sandbox(AI沙盒)底座應(yīng)用，陸續(xù)推出了【伯索云學(xué)堂】、【伯索融課】、【英飛·思想家】等智能化“AI+教育”產(chǎn)品應(yīng)用體系，已成功服務(wù)了來自基礎(chǔ)教育、高等教育、培訓(xùn)教育、商業(yè)培訓(xùn)、企業(yè)協(xié)作辦公等領(lǐng)域超120,000家客戶。近年曾榮獲：2023江蘇省“專精特新”企業(yè)、2024全國行業(yè)競爭力5A級單位、2024江蘇人工智能應(yīng)用創(chuàng)新獎、2024教育部智慧教育優(yōu)秀案例、2025江蘇生成式人工智能創(chuàng)新大賽三等獎等殊榮。伯索云學(xué)堂：AI智能教育全場景解決方案。產(chǎn)品支持：互動直播、微課錄播、在線答疑、題庫測評、作業(yè)鞏固、在線網(wǎng)校、教研備課等，并融合強(qiáng)大的AI能力(AI學(xué)習(xí)空間、AI智能字幕、AI打點、AI助手、AI答疑、AI作業(yè)批改等)，助力機(jī)構(gòu)教學(xué)效率與服務(wù)體驗雙升級。

　　伯索融課：AI賦能的一體化數(shù)字研訓(xùn)解決方案，提供數(shù)字化備課空間、數(shù)字化教學(xué)空間、數(shù)字化教研空間、資源共享系統(tǒng)數(shù)據(jù)統(tǒng)管系統(tǒng)五大產(chǎn)品體系，圍繞“備、教、研、評、學(xué)、管”六大場景，專注數(shù)字化賦能教育教學(xué)，聚焦教師成長、賦能課堂教學(xué)、助力教學(xué)創(chuàng)新。英飛·思想家：數(shù)字畫布+AI智能體，人機(jī)高效協(xié)同空間。以數(shù)字畫布+AI智能體為底座，集音視頻通訊、富媒體文件、多樣化批注等功能，積木化、快速搭建貼合業(yè)務(wù)場景的AI智能體工作流，實現(xiàn)人機(jī)高效協(xié)同，助力機(jī)構(gòu)高效協(xié)作、備課、服務(wù)、知識復(fù)用、全流程降本增效。