標(biāo)準(zhǔn)化技術(shù)委員會(huì)2024年第二次“標(biāo)準(zhǔn)周”活動(dòng)在?？谑信e行。中央網(wǎng)信辦副主任、全國(guó)網(wǎng)安標(biāo)委主任委員王京濤，海南省委常委、宣傳部部長(zhǎng)王斌出席全體會(huì)議并發(fā)表講話。全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東，
齊向東在“大模型與安全協(xié)同能力的思考——用標(biāo)準(zhǔn)迎戰(zhàn)大模型時(shí)代的安全挑戰(zhàn)”主題演講中表示，針對(duì)大模型時(shí)代對(duì)安全防護(hù)提出的各種挑戰(zhàn)，可用強(qiáng)制性合規(guī)標(biāo)準(zhǔn)進(jìn)行應(yīng)對(duì)。當(dāng)前，大模型在各行業(yè)廣泛應(yīng)用，我們必須加快制定并落實(shí)針對(duì)大模型的強(qiáng)制性合規(guī)標(biāo)準(zhǔn)，確保其研發(fā)、訓(xùn)練、部署全流程的安全要求與最佳實(shí)踐得以嚴(yán)格遵循。
新技術(shù)驅(qū)動(dòng)社會(huì)變革，也加劇著安全危機(jī)。在這種安全新形勢(shì)下，安全大模型是有效的應(yīng)對(duì)法寶，能整體提升安全防護(hù)水平。齊向東總結(jié)了大模型時(shí)代對(duì)安全防護(hù)提出的三大挑戰(zhàn)，并分享了奇安信的解決方案。
一是對(duì)安全設(shè)備的日志和告警提出挑戰(zhàn)。人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻，讓不懂代碼、不懂技術(shù)的普通人也能成為黑客，網(wǎng)絡(luò)攻擊數(shù)量大幅增加。專業(yè)的黑客組織還能利用對(duì)攻擊進(jìn)行改造升級(jí)，“飽和式”攻擊成為可能，原有的網(wǎng)絡(luò)安全運(yùn)營(yíng)體系能被輕松打垮。人力不足使得大量告警被忽視，成為網(wǎng)絡(luò)安全的最大漏洞。同時(shí)，日志和告警數(shù)據(jù)信息量有限，顆粒度不細(xì)、缺乏上下文關(guān)聯(lián)和過程展現(xiàn)，難以被安全大模型理解，影響安全防護(hù)效果。
二是對(duì)安全事件分析知識(shí)提出挑戰(zhàn)。大模型時(shí)代，安全事件分析的機(jī)制發(fā)生了變化：傳統(tǒng)的安全事件分析依賴人的個(gè)體知識(shí)，難以實(shí)現(xiàn)經(jīng)驗(yàn)的有效傳承與復(fù)用；大模型可以吸收人的經(jīng)驗(yàn)和知識(shí)，在學(xué)習(xí)所有已知做題方式的基礎(chǔ)上，繼續(xù)打破人的認(rèn)知局限，快速分析研判安全事件。但安全專家的經(jīng)驗(yàn)多存在于腦海，書面表達(dá)缺失、質(zhì)量參差不齊，難以轉(zhuǎn)變?yōu)榘踩竽Ｐ托枰木珳?zhǔn)“知識(shí)”。
奇安信憑借位居全國(guó)首位的安全數(shù)據(jù)規(guī)模，以及長(zhǎng)期安全實(shí)戰(zhàn)積累下豐富的安全實(shí)踐經(jīng)驗(yàn)，為大模型預(yù)訓(xùn)練打下了堅(jiān)實(shí)基礎(chǔ)。一方面，奇安信有足夠多的基礎(chǔ)安全數(shù)據(jù)用于訓(xùn)練安全大模型，另一方面，奇安信還擁有足夠貼近實(shí)戰(zhàn)的一手原始語料用于大模型推理。接下來，奇安信將拓展這些優(yōu)勢(shì)，豐富安全大模型的知識(shí)，讓大模型更“聰慧”。
三是對(duì)安全設(shè)備的協(xié)同標(biāo)準(zhǔn)提出挑戰(zhàn)。在大模型時(shí)代，如何讓安全設(shè)備和安全大模型實(shí)現(xiàn)充分對(duì)話、無縫銜接，成為接下來的核心任務(wù)。然而，許多安全設(shè)備沒有告訴安全大模型自己能做什么，導(dǎo)致大模型無法調(diào)動(dòng)這些設(shè)備進(jìn)行有效的安全防護(hù)。
奇安信已經(jīng)將安全大模型與安全產(chǎn)品深度融合，實(shí)現(xiàn)“集群式”作戰(zhàn)。AISOC、天眼、天擎EDR、椒圖產(chǎn)品目前都已經(jīng)融入了安全大模型能力，實(shí)現(xiàn)了安全運(yùn)營(yíng)工作效率的大幅躍升。
面對(duì)大模型的安全挑戰(zhàn)，我們還需關(guān)注其自身在基礎(chǔ)設(shè)施、數(shù)據(jù)安全和輸出接口方面的安全問題。
在大模型IT基礎(chǔ)設(shè)施方面，算力資源環(huán)節(jié)若出現(xiàn)防護(hù)紕漏，可能導(dǎo)致整個(gè)算力網(wǎng)絡(luò)安全隱患，造成嚴(yán)重?fù)p失。同時(shí)，大模型基礎(chǔ)環(huán)境可能存在漏洞或后門，主流AI算力框架也曾出現(xiàn)漏洞被利用的情況。
在大模型方面，竊取大模型數(shù)據(jù)的手段多樣，如劫持攻擊、提示詞注入攻擊、員工不當(dāng)操作、爬蟲技術(shù)等屢見不鮮。更令人擔(dān)憂的是，投毒攻擊和數(shù)據(jù)污染事件頻發(fā)，不僅擾亂輸出內(nèi)容，甚至?xí)绊懮鐣?huì)認(rèn)知。
在大模型輸出接口安全方面，API作為常見的開放方式，其接口數(shù)量多帶來漏洞和后門隱患，身份驗(yàn)證和授權(quán)機(jī)制不完善，容易導(dǎo)致數(shù)據(jù)被竊取、篡改或破壞，直接影響大模型自身安全。
“面對(duì)這些安全挑戰(zhàn)，完善大模型強(qiáng)制性合規(guī)標(biāo)準(zhǔn)迫在眉睫?！饼R向東強(qiáng)調(diào)，大模型實(shí)踐先行的局面已經(jīng)形成，各行業(yè)大型機(jī)構(gòu)都在積極開展大模型應(yīng)用。但運(yùn)用越廣泛，安全威脅也越大，必須加快跟進(jìn)針對(duì)大模型的強(qiáng)制性合規(guī)標(biāo)準(zhǔn)，確保研發(fā)、訓(xùn)練、部署過程的安全要求和最佳實(shí)踐得到遵守。
比如，在大模型審計(jì)方面，強(qiáng)化知識(shí)產(chǎn)權(quán)合規(guī)、數(shù)據(jù)合規(guī)、算法合規(guī)等標(biāo)準(zhǔn)；在專業(yè)安全評(píng)估方面，明確評(píng)估范圍和目標(biāo)、建立適用于大模型的評(píng)估流程和管理制度、協(xié)助制定整改計(jì)劃等；專業(yè)安全產(chǎn)品保障方面，強(qiáng)化全生命周期安全、完善整體應(yīng)對(duì)方案、用好安全檢測(cè)工具。
此外，在“標(biāo)準(zhǔn)周”的標(biāo)準(zhǔn)護(hù)航新型工業(yè)化發(fā)展研討會(huì)上，奇安信被正式授予“優(yōu)質(zhì)企業(yè)培育推進(jìn)工作組”首批成員單位。
為了支撐工信部等16部委的數(shù)據(jù)安全產(chǎn)業(yè)指導(dǎo)意見，特別是培育數(shù)據(jù)安全優(yōu)秀企業(yè)的相關(guān)要求，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院制定了企業(yè)數(shù)據(jù)安全硬科技屬性評(píng)價(jià)指標(biāo)體系。奇安信作為工作組的首批成員，將全力協(xié)助完善該指標(biāo)體系，為準(zhǔn)確評(píng)判數(shù)據(jù)安全企業(yè)的硬科技水平提供有力支撐，填補(bǔ)當(dāng)前行業(yè)空白，推動(dòng)數(shù)據(jù)安全產(chǎn)業(yè)的健康有序發(fā)展。