國內(nèi)首個AI大模型攻防賽啟動，設立近 100 萬元獎金池

　　9 月 6 日上午，在 2024 Inclusion・外灘大會“以 AI 守護 AI 大模型時代的攻守之道”論壇上，國內(nèi)首個大模型攻防主題的科技賽事“全球 AI 攻防挑戰(zhàn)賽”宣布正式啟動。

　　這項賽事聚焦 AI 大模型產(chǎn)業(yè)實踐，設計了攻、防雙向賽道，邀請各路“白帽黑客”(IT之家注：站在黑客立場攻擊自己系統(tǒng)以進行安全漏洞排查的程序員)、技術人才分別進行針對文生圖大模型“數(shù)據(jù)投毒”的攻防實戰(zhàn)演練，以及金融場景大模型生成內(nèi)容的防偽檢測競賽。

　　“攻擊賽道”聚焦于文生圖大模型的實際應用風險問題。參賽選手可通過目標劫持、情景帶入、邏輯嵌套等多樣化的動態(tài)攻擊誘導技術，誘發(fā)大模型輸出風險圖像，以此激活大模型的潛在弱點和漏洞，增強大模型生圖的安全免疫能力。

　　“防守賽道”則聚焦于 AI 核身中的金融場景憑證篡改檢測，以應對日益嚴峻的 Deepfake 深度偽造及 AIGC 假證風險。大賽提供百萬級憑證篡改數(shù)據(jù)訓練集，參賽選手需要研發(fā)和訓練模型，并利用對應的測試集評估模型有效性，給出數(shù)據(jù)偽造概率值。

　　該賽事由中國圖像圖形學會、螞蟻集團、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦，并得到了上海交通大學、浙江大學等 C9 高校及多家產(chǎn)學研組織的支持。

　　賽事設立了近 100 萬元獎金池，并邀請了多位學術界和工業(yè)界的知名專家擔任評委。中國工程院院士、中國圖象圖形學學會理事長王耀南，云安聯(lián)盟(CSA)大中華區(qū)主席李雨航擔任本次大賽的指導委員會專家，來自清華大學、上海交通大學、上海人工智能實驗室、中國圖象圖形學學會等單位的近 30 位知名學者將參與大賽的組織及評審工作。