2025中國互聯(lián)網(wǎng)大會現(xiàn)場報道:在備受矚目的2025中國互聯(lián)網(wǎng)大會上，當被問及大模型在落地應用過程中可能存在的風險時，360集團創(chuàng)始人周鴻祎深入剖析了人工智能時代下網(wǎng)絡安全面臨的全新挑戰(zhàn)。他指出，相較于傳統(tǒng)的IT系統(tǒng)漏洞和數(shù)據(jù)隱私泄露問題，大模型帶來的三大安全風險更應引起高度警惕。

　　核心風險一:大模型的“幻覺”與胡言亂語

　　周鴻祎強調，大模型固有的“幻覺”問題是其最大的風險之一。他解釋說，當大模型遇到不理解的事物時，會一本正經(jīng)地編造信息。雖然這在娛樂場景中尚可一笑置之，但當大模型及其衍生的智能體開始深入工業(yè)生產(chǎn)、制造以及政府辦公等關鍵領域時，這種“出錯”將可能導致嚴重后果。他特別指出，一旦智能體具備了操縱各種工具的能力，其錯誤判斷的危害和影響將成倍放大。

　　核心風險二:大模型降低攻擊門檻，人人皆可“注入攻擊”

　　周鴻祎提出的第二個風險是，大模型極大地降低了網(wǎng)絡攻擊的門檻。他指出，大模型使得非編程專業(yè)人員也能通過簡單的自然語言交互來編寫程序，這同時也意味著攻擊大模型的門檻也隨之降低。通過精心構造的指令，攻擊者可以誘導大模型泄露企業(yè)機密文件，這種現(xiàn)象被稱為“注入攻擊”。周鴻祎形象地表示，未來甚至一個不具備編程知識的前臺員工，都可能因為不滿而對公司的大模型和智能體發(fā)動攻擊。

　　核心風險三:國家級高級威脅攻擊的智能化升級

　　從更宏觀的未來視角來看，周鴻祎指出，大模型將使國家級高級威脅攻擊變得更加普遍和復雜。過去，針對我國的網(wǎng)絡黑客數(shù)量相對較少，但現(xiàn)在，黑客正嘗試將自身的能力和經(jīng)驗嵌入大模型，把自己打造成“黑客智能體”。在擁有足夠算力支持的情況下，一個黑客可以同時操縱數(shù)十甚至數(shù)百個智能體，這將徹底顛覆傳統(tǒng)的網(wǎng)絡攻防格局，使網(wǎng)絡安全從“人與人”的對抗，轉變?yōu)?ldquo;人與算法、人與機器、人與算力”的對抗，因為機器人數(shù)字黑客只需要算力，不需要休息。

　　360的應對策略:“以算法對抗算法”

　　面對這些嚴峻挑戰(zhàn)，周鴻祎表示，360已著手采取兩項關鍵措施來應對:

　　首先，360正在積極打造智能體安全專家。這些專家能夠幫助企業(yè)在面對攻擊時，實現(xiàn)實時檢測和實時防御，從而真正做到“以算法對抗算法”。

　　其次，針對大模型的安全性和易受攻擊性，360開發(fā)了專門的**“大模型衛(wèi)士”**。這是一款專業(yè)的大模型和智能體，其主要功能是監(jiān)控發(fā)送給大模型的指令，并評估大模型輸出內容的合理性和準確性。此外，結合強大的搜索能力和企業(yè)知識庫，該衛(wèi)士還能最大限度地降低大模型的“幻覺”問題。