近年來,人工智能技術(shù)在全球范圍內(nèi)引發(fā)了深刻的科技變革與產(chǎn)業(yè)變革,而中國人工智能初創(chuàng)公司 DeepSeek 憑借其低成本、高性能的 AI 模型(如 DeepSeek-R1)迅速崛起,成為全球科技領(lǐng)域的焦點之一。在當(dāng)前全球數(shù)字化加速推進、網(wǎng)絡(luò)安全威脅日益復(fù)雜的背景下,DeepSeek 技術(shù)架構(gòu)與市場定位不僅為行業(yè)帶來了新的可能性,同時也引發(fā)了廣泛的網(wǎng)絡(luò)安全關(guān)切。
本文基于現(xiàn)有的公開資料,從企業(yè)資深網(wǎng)絡(luò)安全專家的視角,系統(tǒng)梳理DeepSeek技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的潛在貢獻(xiàn)與核心風(fēng)險,并結(jié)合中國自主可控的發(fā)展戰(zhàn)略,提出針對性的應(yīng)對策略,旨在為相關(guān)企業(yè)和機構(gòu)提供全面、深入的參考,以更好地應(yīng)對人工智能時代的網(wǎng)絡(luò)安全挑戰(zhàn)。
盡管DeepSeek的網(wǎng)絡(luò)安全風(fēng)險顯著,但從AI大模型的角度來看,其技術(shù)架構(gòu)與市場定位仍為網(wǎng)絡(luò)安全行業(yè)帶來了一定的啟示,并在多個方面展現(xiàn)出對網(wǎng)絡(luò)安全的潛在提升作用。
DeepSeek采用的“專家混合”架構(gòu),通過分治策略在同等算力下實現(xiàn)了更高性能,顯著提升了模型推理效率。這一架構(gòu)的創(chuàng)新性不僅體現(xiàn)在技術(shù)層面,更在于其為實時威脅分析、自動化安全響應(yīng)等網(wǎng)絡(luò)安全關(guān)鍵場景提供了堅實的技術(shù)基礎(chǔ)。在傳統(tǒng)的網(wǎng)絡(luò)安全防護體系中,實時性往往是一個難以突破的瓶頸,而 DeepSeek 的這一架構(gòu)優(yōu)勢有望打破這一局限,使得安全系統(tǒng)能夠更迅速、更精準(zhǔn)地對潛在威脅做出反應(yīng),從而有效提升整體網(wǎng)絡(luò)安全防護的時效性和有效性。
DeepSeek-R1 的培訓(xùn)成本僅為600 萬美元,遠(yuǎn)低于西方同類模型。這種經(jīng)濟高效的 AI 解決方案對于中小型企業(yè)而言具有重要的普惠價值。在網(wǎng)絡(luò)安全領(lǐng)域,中小企業(yè)往往面臨著資源有限的困境,難以承擔(dān)高昂的安全防護成本。DeepSeek 的低成本特性使得這些企業(yè)也能夠借助先進的 AI 技術(shù)提升自身的網(wǎng)絡(luò)安全防護能力,尤其是在威脅情報分析、日志異常檢測等領(lǐng)域,可能推動安全領(lǐng)域的普惠化應(yīng)用,進一步完善整個行業(yè)的網(wǎng)絡(luò)安全生態(tài)。
DeepSeek 通過 GitHub、Hugging Face 等平臺開放模型下載,成功吸引了全球開發(fā)者參與優(yōu)化與安全測試。這種開源模式不僅加速了技術(shù)創(chuàng)新的步伐,還為安全社區(qū)提供了豐富的工具和資源。例如,加州大學(xué)伯克利分?;谄浯a開發(fā)的 Sky-T1 模型,充分展示了開源生態(tài)在技術(shù)迭代中的巨大價值。在全球范圍內(nèi),開源社區(qū)匯聚了大量的技術(shù)人才和創(chuàng)新力量,DeepSeek 的開源策略有效地調(diào)動了這些資源,形成了一個充滿活力的協(xié)同創(chuàng)新生態(tài),為網(wǎng)絡(luò)安全技術(shù)的發(fā)展注入了新的動力。
開源生態(tài)的存在使得更多的開發(fā)者能夠參與到安全技術(shù)的研究和開發(fā)中來。通過對 DeepSeek 模型的優(yōu)化和安全測試,開發(fā)者們可以發(fā)現(xiàn)潛在的安全漏洞和風(fēng)險,并及時提出解決方案。這種廣泛的參與和協(xié)作有助于推動安全技術(shù)的不斷創(chuàng)新和完善,提高整個行業(yè)對網(wǎng)絡(luò)安全威脅的應(yīng)對能力。同時,開源生態(tài)也為安全廠商和企業(yè)提供了更多的選擇和參考,促進了安全技術(shù)市場的競爭和發(fā)展。
1. 深信服科技股份有限公司:深信服在其安全產(chǎn)品和服務(wù)中集成了DeepSeek的技術(shù),以提升威脅檢測和響應(yīng)能力,增強整體安全防護效果。
2. 啟明星辰信息技術(shù)集團股份有限公司:啟明星辰利用DeepSeek的先進技術(shù)優(yōu)化其安全解決方案,特別是在大數(shù)據(jù)分析和威脅情報方面,以提高安全事件的預(yù)測和防御能力。
3. 綠盟科技集團股份有限公司:綠盟科技與DeepSeek合作,將AI技術(shù)應(yīng)用于其安全產(chǎn)品中,以提升對復(fù)雜網(wǎng)絡(luò)攻擊的檢測和防御能力。
4. 天融信科技集團:天融信在其網(wǎng)絡(luò)安全解決方案中采用了DeepSeek的技術(shù),以增強對高級持續(xù)性威脅(APT)的檢測和響應(yīng)能力。
5. 奇安信科技集團股份有限公司:奇安信與DeepSeek合作,利用其AI技術(shù)提升終端安全、網(wǎng)絡(luò)安全和云安全等方面的防護能力。
6. 亞信科技控股有限公司:亞信科技在其安全產(chǎn)品中集成了DeepSeek的技術(shù),以提高對網(wǎng)絡(luò)威脅的實時監(jiān)測和防御能力。
7. 安恒信息技術(shù)股份有限公司:安恒信息與DeepSeek合作,將AI技術(shù)應(yīng)用于其安全產(chǎn)品中,以提升對網(wǎng)絡(luò)攻擊的檢測和防御能力。
8. 山石網(wǎng)科通信技術(shù)股份有限公司:山石網(wǎng)科在其網(wǎng)絡(luò)安全解決方案中采用了DeepSeek的技術(shù),以增強對復(fù)雜網(wǎng)絡(luò)攻擊的檢測和防御能力。
9. 藍(lán)盾信息安全技術(shù)股份有限公司:藍(lán)盾信息與DeepSeek合作,利用其AI技術(shù)提升網(wǎng)絡(luò)安全防護能力,特別是在威脅情報和安全事件響應(yīng)方面。
10. 美亞柏科信息安全技術(shù)有限公司:美亞柏科在其安全產(chǎn)品中集成了DeepSeek的技術(shù),以提高對網(wǎng)絡(luò)威脅的實時監(jiān)測和防御能力。
安全廠商通過把DeepSeek的AI技術(shù)引入其產(chǎn)品與服務(wù)中,能夠更好地應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)安全威脅,為客戶提供更高效、智能的安全解決方案。
根據(jù)相關(guān)研究,DeepSeek的安全風(fēng)險可歸納為以下五類,每類均存在具體案例與數(shù)據(jù)支撐,以下將從 AI 大模型的角度進行更深入的分析。
紅隊測試顯示【1】,DeepSeek-R1生成非法活動指導(dǎo)(如網(wǎng)絡(luò)犯罪策略)的概率是 OpenAI o1 的 11 倍。這種高概率的有害內(nèi)容生成能力使其成為惡意行為者的潛在工具。在 AI 大模型的應(yīng)用場景中,內(nèi)容生成是一個重要的功能,但如果模型存在安全漏洞,生成有害內(nèi)容將對網(wǎng)絡(luò)安全和社會穩(wěn)定造成嚴(yán)重威脅。例如,惡意行為者可以利用生成的網(wǎng)絡(luò)犯罪策略進行非法活動,如網(wǎng)絡(luò)攻擊、詐騙等,給個人、企業(yè)和國家?guī)砭薮蟮膿p失。
在 78% 的代碼攻擊測試中【1】,模型生成惡意腳本(如木馬程序)的概率比同類模型高 4 倍。這種漏洞可能被攻擊者利用,生成惡意軟件或漏洞利用代碼,進一步擴大攻擊面。AI 大模型生成代碼的能力在軟件開發(fā)等領(lǐng)域具有重要價值,但如果生成的代碼存在安全漏洞,將給軟件供應(yīng)鏈安全帶來巨大風(fēng)險。攻擊者可以通過生成惡意代碼來攻擊軟件系統(tǒng),竊取用戶數(shù)據(jù)、破壞系統(tǒng)功能等,對網(wǎng)絡(luò)安全造成嚴(yán)重破壞。
從 AI 大模型的技術(shù)角度來看,DeepSeek 在抵御越獄攻擊的得分僅為 0.15/1.0(滿分)【2】,遠(yuǎn)低于歐盟 AI 法案要求,表明其安全機制存在嚴(yán)重缺陷。這可能是由于模型在訓(xùn)練過程中缺乏足夠的安全對齊訓(xùn)練,導(dǎo)致其在面對惡意提示時無法有效過濾有害輸出。此外,模型的算法設(shè)計也可能存在缺陷,如強化學(xué)習(xí)策略雖提升推理效率,但犧牲了安全對齊機制,使得模型易被自動化工具繞過限制。
DeepSeek 的隱私政策明確用戶數(shù)據(jù)存儲于中國境內(nèi)服務(wù)器,受《中國網(wǎng)絡(luò)安全法》約束,政府可依法要求數(shù)據(jù)訪問。這種數(shù)據(jù)存儲政策引發(fā)了國際社會的廣泛擔(dān)憂,尤其是在涉及敏感信息時。在 AI 大模型的應(yīng)用中,數(shù)據(jù)是核心資源,數(shù)據(jù)存儲的合規(guī)性至關(guān)重要。不同國家和地區(qū)對數(shù)據(jù)隱私和主權(quán)有不同的法律法規(guī)要求,DeepSeek 的數(shù)據(jù)存儲政策可能與一些國家的法律產(chǎn)生沖突,導(dǎo)致合規(guī)性風(fēng)險。但用戶若通過本地運行模型或第三方平臺使用服務(wù),可能可以規(guī)避這一限制。
在 AI 大模型的全球化應(yīng)用中,跨境數(shù)據(jù)流動是一個重要問題,不同國家和地區(qū)的法律法規(guī)對跨境數(shù)據(jù)流動有不同的要求。DeepSeek 需要在滿足中國法律法規(guī)的同時,應(yīng)對其他國家和地區(qū)的合規(guī)要求,這增加了其運營的復(fù)雜性和風(fēng)險。同樣,用戶若通過本地運行模型或第三方平臺使用服務(wù),也可以規(guī)避這一限制。
2025 年 1 月的數(shù)據(jù)泄露事件中,超過 100 萬條用戶聊天記錄與 API 密鑰因未加密的 ClickHouse 數(shù)據(jù)庫暴露而泄露【6】。這種大規(guī)模數(shù)據(jù)泄露事件不僅損害了用戶信任,還暴露了其數(shù)據(jù)保護措施的不足。在 AI 大模型的應(yīng)用場景中,數(shù)據(jù)泄露可能導(dǎo)致用戶隱私泄露、商業(yè)機密被盜用等嚴(yán)重后果,給企業(yè)和用戶帶來巨大的損失。同時,數(shù)據(jù)泄露事件也會對企業(yè)的聲譽和市場競爭力造成負(fù)面影響。
2025 年 1 月,DeepSeek 遭遇峰值 3.2Tbps 的 DDoS 攻擊,導(dǎo)致官網(wǎng)癱瘓 48 小時,初期防御體系未能有效過濾異常流量。這種大規(guī)模攻擊暴露了其帶寬管理與應(yīng)急響應(yīng)機制的不足。在 AI 大模型的應(yīng)用中,基礎(chǔ)設(shè)施和網(wǎng)絡(luò)架構(gòu)的穩(wěn)定性至關(guān)重要,DDoS 攻擊是一種常見的網(wǎng)絡(luò)攻擊手段,如果防御體系不完善,將導(dǎo)致服務(wù)中斷、用戶體驗下降等嚴(yán)重后果。
反射放大攻擊(如NTP/SSDP 協(xié)議濫用)暴露其帶寬管理缺陷。這種攻擊方式不僅消耗了大量資源,還可能導(dǎo)致服務(wù)中斷,影響用戶體驗。在 AI 大模型的應(yīng)用場景中,帶寬管理是一個關(guān)鍵問題,如果帶寬管理存在缺陷,將無法有效應(yīng)對大規(guī)模的網(wǎng)絡(luò)流量,導(dǎo)致網(wǎng)絡(luò)擁塞和服務(wù)質(zhì)量下降。
攻擊者通過PyPI 平臺分發(fā)偽裝成 DeepSeek API 客戶端的惡意軟件包【3】,竊取環(huán)境變量與用戶數(shù)據(jù)。這種供應(yīng)鏈攻擊不僅威脅到用戶數(shù)據(jù)安全,還可能影響其品牌聲譽。在 AI 大模型的應(yīng)用中,供應(yīng)鏈安全是一個重要問題,如果供應(yīng)鏈存在漏洞,將導(dǎo)致安全風(fēng)險的傳導(dǎo),影響整個系統(tǒng)的安全性和穩(wěn)定性。
使用 HarmBench數(shù)據(jù)集的 50 個有害提示攻擊中【4】,DeepSeek-R1 的攻擊成功率(ASR)達(dá) 100%,即使在確定性輸出模式下仍無法阻止有害響應(yīng)。這種高成功率表明其安全機制存在嚴(yán)重缺陷,極易被濫用。在 AI 大模型的應(yīng)用中,模型防御機制的有效性至關(guān)重要,如果防御機制失效,將導(dǎo)致有害內(nèi)容的生成和傳播,對網(wǎng)絡(luò)安全和社會穩(wěn)定造成嚴(yán)重威脅。
Qualys 測試顯示【5】,其在不同越獄技術(shù)(如 Titanius、AJP)下的失敗率超58%。這種高失敗率表明其安全防護機制幾乎無效,極易被繞過。在 AI 大模型的應(yīng)用場景中,越獄攻擊是一種常見的攻擊手段,如果模型無法有效抵御越獄攻擊,將導(dǎo)致安全漏洞的暴露和濫用。
強化學(xué)習(xí)策略雖提升推理效率,但犧牲了安全對齊機制,導(dǎo)致模型易被自動化工具繞過限制。這種設(shè)計缺陷使其在面對復(fù)雜攻擊時顯得尤為脆弱。在 AI 大模型的技術(shù)架構(gòu)中,算法設(shè)計是核心環(huán)節(jié),如果算法設(shè)計存在缺陷,將影響模型的安全性和可靠性。
澳大利亞與美國海軍已禁止在政府設(shè)備中使用 DeepSeek,認(rèn)為其數(shù)據(jù)實踐構(gòu)成“不可接受的安全風(fēng)險”。這種禁令不僅限制了其市場擴展,還可能引發(fā)其他國家的效仿。在 AI 大模型的全球化應(yīng)用中,地緣政治因素對市場準(zhǔn)入具有重要影響,國際禁令將導(dǎo)致DeepSeek 在一些國家和地區(qū)的市場受限,影響其業(yè)務(wù)發(fā)展和市場競爭力。
美國與意大利等國推動立法限制 DeepSeek 市場準(zhǔn)入,加劇其國際化障礙。這種地緣政治風(fēng)險可能對其長期發(fā)展產(chǎn)生深遠(yuǎn)影響。在 AI 大模型的國際市場競爭中,法律法規(guī)和政策環(huán)境是重要因素,立法限制將增加DeepSeek 的運營成本和風(fēng)險,影響其國際化戰(zhàn)略的實施。
盡管DeepSeek 自研“燭龍”框架減少對英偉達(dá) CUDA 的依賴,但其早期依賴 A100 GPU 庫存仍存在供應(yīng)鏈斷供風(fēng)險。這種技術(shù)依賴可能使其在面對國際制裁時陷入被動。在 AI 大模型的技術(shù)體系中,供應(yīng)鏈安全是關(guān)鍵環(huán)節(jié),如果供應(yīng)鏈存在隱患,將影響技術(shù)的穩(wěn)定性和可持續(xù)性。
基于上述風(fēng)險,結(jié)合專家經(jīng)驗與技術(shù)實踐,以及中國自主可控的發(fā)展戰(zhàn)略,提出以下關(guān)鍵措施。
采用紅隊數(shù)據(jù)集優(yōu)化模型對有害內(nèi)容的過濾能力。通過安全對齊訓(xùn)練,可以有效減少模型生成有害內(nèi)容的概率,提高模型的安全性和可靠性。在 AI 大模型的訓(xùn)練過程中,安全對齊訓(xùn)練是一個重要環(huán)節(jié),通過引入紅隊數(shù)據(jù)集,可以模擬各種惡意攻擊場景,增強模型對有害內(nèi)容的識別和過濾能力。
部署情境感知防護,結(jié)合語義分析與意圖識別攔截惡意輸入。動態(tài)內(nèi)容過濾系統(tǒng)可以實時監(jiān)控模型輸出,確保其符合安全標(biāo)準(zhǔn)。在 AI 大模型的應(yīng)用場景中,動態(tài)內(nèi)容過濾系統(tǒng)是一個重要的安全防護手段,通過對模型輸出的內(nèi)容進行實時分析和過濾,可以有效防止有害內(nèi)容的傳播。
對核心數(shù)據(jù)庫實施分域部署與權(quán)限最小化。零信任架構(gòu)可以有效減少數(shù)據(jù)泄露的風(fēng)險,加密技術(shù)可以保護數(shù)據(jù)的機密性和完整性。在 AI 大模型的數(shù)據(jù)存儲和管理中,零信任架構(gòu)和加密技術(shù)是重要的安全措施,通過分域部署和權(quán)限最小化,可以限制數(shù)據(jù)的訪問和使用,防止數(shù)據(jù)泄露。
通過針對模型的風(fēng)險評估和第三方審計驗證各國和地區(qū)有關(guān)AI 法案的合規(guī)性。合規(guī)性改造可以確保企業(yè)在國際市場的合規(guī)性,降低法律風(fēng)險。在 AI 大模型的應(yīng)用中,合規(guī)性是一個重要問題,通過針對模型的風(fēng)險評估和第三方審計,可以對模型的風(fēng)險進行全面評估和管理,確保其符合相關(guān)法律法規(guī)的要求。
針對安全廠商的產(chǎn)品與服務(wù),將AI能力整合至威脅檢測系統(tǒng)。安全廠商協(xié)同可以提升整體安全防護能力,形成優(yōu)勢互補。在 AI 大模型的應(yīng)用中,安全廠商協(xié)同是一個重要的合作模式,通過將 AI 能力整合至威脅檢測系統(tǒng),可以提高安全防護的智能化水平,增強對網(wǎng)絡(luò)安全威脅的應(yīng)對能力。
通過開發(fā)者社區(qū)共建安全標(biāo)準(zhǔn),例如建立漏洞賞金計劃。開源生態(tài)治理可以有效減少開源生態(tài)中的安全風(fēng)險,促進開源社區(qū)的健康發(fā)展。在 AI 大模型的開源生態(tài)中,通過建立漏洞賞金計劃等激勵機制,可以鼓勵開發(fā)者積極參與安全漏洞的發(fā)現(xiàn)和修復(fù),提高開源生態(tài)的安全性。
針對攻擊升級場景制定自動化遏制策略。分級響應(yīng)機制可以快速響應(yīng)復(fù)雜攻擊,減少損失。在 AI 大模型的應(yīng)用中,應(yīng)急響應(yīng)是一個重要環(huán)節(jié),通過完善分級響應(yīng)機制,可以提高對網(wǎng)絡(luò)安全事件的應(yīng)對能力,降低事件的影響和損失。
開展數(shù)據(jù)倫理與模型濫用識別培訓(xùn)。安全意識培養(yǎng)可以提升員工的安全意識,減少人為失誤。在 AI 大模型的應(yīng)用中,員工的安全意識和技能是關(guān)鍵因素,通過開展數(shù)據(jù)倫理和模型濫用識別培訓(xùn),可以提高員工對網(wǎng)絡(luò)安全威脅的認(rèn)識和防范能力。
推動國際數(shù)據(jù)主權(quán)協(xié)議,減少法律沖突。跨境數(shù)據(jù)治理框架可以提升企業(yè)在國際市場的合規(guī)性,降低法律風(fēng)險。在 AI 大模型的全球化應(yīng)用中,跨境數(shù)據(jù)治理是一個重要問題,通過推動國際數(shù)據(jù)主權(quán)協(xié)議,可以協(xié)調(diào)不同國家和地區(qū)的法律法規(guī)要求,減少法律沖突。
通過開放部分代碼與安全白皮書增強市場信任。技術(shù)開源與透明化可以提升用戶信任度,促進技術(shù)的廣泛應(yīng)用。在 AI 大模型的發(fā)展中,技術(shù)開源與透明化是一個重要趨勢,通過開放部分代碼和安全白皮書,可以讓用戶更好地了解技術(shù)的原理和安全性,增強對技術(shù)的信任。
DeepSeek 的崛起既是 AI 技術(shù)創(chuàng)新的里程碑,也是網(wǎng)絡(luò)安全風(fēng)險的集中體現(xiàn)。其核心優(yōu)勢(低成本、高性能)與安全缺陷(安全漏洞、合規(guī)短板)并存,要求企業(yè)與安全廠商采取“技術(shù)+管理+生態(tài)”的綜合策略。從技術(shù)層面來看,優(yōu)先部署動態(tài)防護與零信任架構(gòu),減少模型濫用風(fēng)險;從管理層面來看,建立跨部門應(yīng)急機制,強化合規(guī)審計;從生態(tài)層面來看,通過廠商合作與開源治理構(gòu)建安全生態(tài)。
此次事件警示行業(yè):AI安全需嵌入技術(shù)研發(fā)全生命周期,唯有系統(tǒng)性思維方能平衡創(chuàng)新與風(fēng)險。未來,DeepSeek 若能在安全對齊、國際合作與透明治理上取得突破,可進一步提升其技術(shù)價值,成為 AI 安全領(lǐng)域的標(biāo)桿。在中國自主可控的發(fā)展戰(zhàn)略下,DeepSeek 有望通過技術(shù)創(chuàng)新和生態(tài)合作,推動 AI 技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的健康發(fā)展,為全球網(wǎng)絡(luò)安全事業(yè)做出貢獻(xiàn)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
賈平凹 :人老了,躺在病床上才明白,廢掉身體最快速的方式,不是抽煙、喝酒、打麻將,而是這2件事
全運會賽程出爐!今晚19:30中央五套直播表:CCTV5、CCTV5+節(jié)目單
特朗普要制造金穹防御系統(tǒng) 美專家直言:就是個笑線平米廁所起居睡覺 還在廁所煮面
特朗普要制造金穹防御系統(tǒng) 美專家直言:就是個笑線平米廁所起居睡覺 還在廁所煮面
論奶茶對小朋友的吸引力,偷偷喝被發(fā)現(xiàn)了就馬上跑路,網(wǎng)友:給她買兩杯,記我賬上