IDC觀察:DeepSeek或成未來網絡安全行業首選基礎大模型
近期,DeepSeek從激烈的“百模大戰”中脫穎而出引發全球熱潮,在最新的Arena全類別大模型綜合排名中,DeepSeek-R1躍升至排名第三位,尤其是在風格控制類模型(StyleCtrl)的分類排名中,DeepSeek-R1與OpenAI的o1模型并列第一,這無疑凸顯了其技術實力雄厚。同時,DeepSeek也憑借其獨特的優勢迅速成為網絡安全領域的焦點,吸引眾多網絡安全廠商接入。
本文引用地址:http://www.j9360.com/article/202502/466875.htmIDC觀察到,DeepSeek上線至今,已有包括安博通、安恒信息、北信源、觀安信息、霍因科技、華云安、綠盟科技、奇安信、啟明星辰集團、山石網科、天融信、亞信安全等在內的多家國內網絡安全廠商宣布正式接入DeepSeek大模型能力并將進一步進行能力融合,越來越多的安全智能體正在嘗試采用DeepSeek作為大模型底座。我們期待其在告警處理、威脅研判、知識問答、數據分類分級等方面有優異表現。
網絡安全廠商為什么關注DeepSeek?
● 首先,DeepSeek采用的“專家混合架構”(MoE)在同等算力下實現了更高的推理效率,可顯著提升實時威脅分析和自動化安全響應的能力。
● 其次,相比于同等規模的大模型訓練成本,DeepSeek更具有優勢,可最大程度節約企業成本投入,對于最終用戶來講,其部署訓練及使用大模型的意愿和能力也將顯著提升。
● 此外,DeepSeek的開源生態通過GitHub、Hugging Face等平臺吸引了全球開發者參與優化與安全測試,形成了充滿活力的協同創新生態。
● 在性能方面,DeepSeek模型在數學、代碼和自然語言推理等任務上表現出色,尤其在復雜邏輯推理場景中展現了強大的深度思考能力,可為威脅檢測、告警驗證等場景提供更智能的解決方案。
但盡管DeepSeek在技術架構、訓練成本等方面極具優勢,但也暴露出了一系列典型的網絡安全問題。
大模型安全問題不容忽視
正當DeepSeek在全球范圍內收獲大量用戶和關注之際,2025年1月接連發生了大規模(Tb級別)的DDoS攻擊、百萬級數據泄露事件,大模型自身安全問題亟待解決。
從安全視角出發,無論何種使用場景,大模型或GenAI的使用都可能會給最終用戶帶來新的安全風險。例如:
● 訓練安全;大模型訓練數據質量把控不過關,使用有偏見的數據訓練生成的大模型會持續輸出有偏見的輸出;在模型訓練過程中大量高質量數據需要被集中在一起,數據泄露風險會陡然加大。
● 基礎設施安全:大模型運行所依賴的硬件設施、軟件框架、操作系統等,若存在漏洞,會極大影響大模型的穩定與安全運行。
● 內容安全:大模型生成內容可能存在不準確、不合規、個人敏感信息或企業機密信息以及存在侵權可能的內容;輸入內容可能存在惡意攻擊指令會干擾模型推理預測,造成不良后果。
● 應用安全:在應用層面面臨傳統網絡安全問題和應用框架安全雙重風險,如DDoS攻擊、SQL注入、惡意插件、跨站腳本攻擊等。
如今,已經有越來越多地網絡安全公司和大模型公司將關注重點放在大模型或GenAI工具的安全能力檢測以及安全防護的方向上,推出了一系列的針對大模型或GenAI工具的安全檢測和安全防護解決方案,這對于人工智能技術在企業側的深入應用具有重大意義。根據IDC的調研,當前大模型安全檢測與防護解決方案包含了大模型攻防檢測、輸入內容安全檢測、生成內容安全檢測、代碼安全檢測、模型訓練與防護、數據保護、訪問控制與API防護幾個大的方面:
DeepSeek的出現再次反映出大模型時代的兩面性:一方面,AI的開放性與復雜性帶來了前所未有的安全挑戰;另一方面,DeepSeek展現出的性價比優勢與強大的推理能力或為網絡安全行業AI能力提升帶來新希望。
IDC將持續關注大模型在網絡安全領域的應用。也將啟動《中國安全智能體能力評估,2025》、《中國大模型實測之安全運營,2025》等系列報告,歡迎廣大技術提供商和最終用戶的關注。
免責聲明
本文中的內容和數據均來源于IDC所發布的報告,所有內容及數據均為我公司所有。未經IDC書面許可,任何機構和個人不得以任何形式翻版、復制、刊登、發表或引用。
評論