數(shù)字化時代，以大模型為代表的人工智能技術(shù)高速發(fā)展，在推動經(jīng)濟社會繁榮進步的同時，也帶來了新的安全風(fēng)險和不可預(yù)估的嚴峻挑戰(zhàn)。11月23日，由中國通信學(xué)會內(nèi)生安全專委會主辦、浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室承辦、南京信息工程大學(xué)協(xié)辦的第四屆網(wǎng)絡(luò)空間內(nèi)生安全學(xué)術(shù)大會分論壇——“人工智能安全論壇”在南京紫金山實驗室舉行。論壇聚焦人工智能在實際應(yīng)用中面臨的安全隱患及風(fēng)險挑戰(zhàn)等熱點議題，匯聚了行業(yè)內(nèi)多位專家學(xué)者，共同探討智能時代網(wǎng)絡(luò)空間的可持續(xù)發(fā)展策略，為全球人工智能的治理與應(yīng)用貢獻中國智慧。
本次論壇由浙江大學(xué)計算機學(xué)院院長、區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室常務(wù)副主任任奎主持，香港城市大學(xué)教授王聰，南京信息工程大學(xué)計算機學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院院長、“數(shù)字取證”教育部工程研究中心主任付章杰，信息工程大學(xué)副教授、河南省成像與智能處理重點實驗室副總工程師王林元，南方電網(wǎng)科學(xué)研究院一級領(lǐng)軍專家蔣屹新，香港城市大學(xué)助理教授趙晴川以及中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心工程師張驍出席活動并發(fā)表主題演講，圍繞數(shù)據(jù)安全、深度神經(jīng)網(wǎng)絡(luò)動態(tài)集成、電力系統(tǒng)安全應(yīng)用、汽車領(lǐng)域標(biāo)準(zhǔn)化等重要話題，由淺入深，由表及里地展現(xiàn)多元視角下人工智能在發(fā)展與安全“雙輪驅(qū)動”下的成功探索和強大潛力。
正式議程開始前，中國工程院院士鄔江興發(fā)言。他指出，人工智能安全已成為國際社會的關(guān)注焦點，盡管人工智能大模型及神經(jīng)網(wǎng)絡(luò)在理論上進展有限，但應(yīng)用前景廣闊，其可信問題是發(fā)展的關(guān)鍵所在，需采用內(nèi)生安全技術(shù)向可信AI應(yīng)用系統(tǒng)發(fā)起挑戰(zhàn)。
香港城市大學(xué)教授王聰以“加密數(shù)據(jù)搜索技術(shù)的前沿與展望”為主題，聚焦數(shù)據(jù)要素保護的重要環(huán)節(jié)之一——加密數(shù)據(jù)庫的相關(guān)技術(shù)作精彩報告。人工智能時代，數(shù)據(jù)要素的價值越來越高，將數(shù)據(jù)密態(tài)存儲以達到數(shù)據(jù)要素流通過程中的密態(tài)保護成為業(yè)界學(xué)界的重點需求。王聰教授生動描繪了search for information的整個發(fā)展歷程，深入淺出地講解了在加密數(shù)據(jù)交互中如何保護數(shù)據(jù)隱私免受惡意竊取或泄漏的關(guān)鍵技術(shù)，為探索智能系統(tǒng)安全韌性防護提供了新思路。
南京信息工程大學(xué)計算機學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院院長、“數(shù)字取證”教育部工程研究中心主任付章杰聚焦數(shù)據(jù)要素安全的另一角度，以“數(shù)據(jù)要素流通中的數(shù)據(jù)權(quán)屬保護技術(shù)”為主題，深入探討了加密數(shù)據(jù)交互過程中的數(shù)據(jù)隱私保護技術(shù)，包括加密數(shù)據(jù)庫技術(shù)的重要性、數(shù)據(jù)泄露的風(fēng)險、加密搜索面臨的挑戰(zhàn)與解決方案以及數(shù)字水印與數(shù)字取證在數(shù)據(jù)要素流通權(quán)屬保護中的應(yīng)用，再一次論證了數(shù)據(jù)要素成為高價值資產(chǎn)這一社會共識。
信息工程大學(xué)副教授、河南省成像與智能處理重點實驗室副總工程師王林元發(fā)表了題為“深度神經(jīng)網(wǎng)絡(luò)動態(tài)集成防御技術(shù)研究”的重要報告，將人工智能的安全問題劃分為網(wǎng)絡(luò)環(huán)境的共性問題和自身內(nèi)生安全的個性問題，主要介紹了深度神經(jīng)網(wǎng)絡(luò)在動態(tài)集成防御方面的研究進展，包括背景、研究方法、現(xiàn)狀成果等方面內(nèi)容，并根據(jù)內(nèi)生安全理論大框架對下一步的研究方向與研究內(nèi)容做出了嚴謹?shù)膶徱暸c深刻的思考。
南方電網(wǎng)科學(xué)研究院一級領(lǐng)軍專家蔣屹新深耕人工智能安全垂直領(lǐng)域，以“電力系統(tǒng)人工智能安全挑戰(zhàn)與防護體系”為核心內(nèi)容作精彩發(fā)言。分別從電力系統(tǒng)人工智能的國內(nèi)外發(fā)展態(tài)勢、面臨的安全挑戰(zhàn)以及安全防護體系的構(gòu)建三個方面，展現(xiàn)宏觀視角下電力行業(yè)領(lǐng)域在人工智能應(yīng)用層面的挑戰(zhàn)與措施。同時，對人工智能安全防護體系能夠更有效地支撐“雙碳”戰(zhàn)略轉(zhuǎn)型，進一步拓展其應(yīng)用范圍和深化其應(yīng)用程度的美好前景，表達了深切的期待與展望。
香港城市大學(xué)助理教授趙晴川以“Uncovering Vulnerabilities in Computer Vision—based Authentication Systems”為題，基于計算機視覺的身份認證工作中的安全問題提出原創(chuàng)性的思考。將自身的經(jīng)歷作為研究素材融入報告，通過對無線充電領(lǐng)域的電磁嘯叫案例及DeepFake攻擊與防御案例的具體剖析，深入探討了AI技術(shù)在攻擊與防御中的應(yīng)用以及DeepFake防御技術(shù)的安全性和可靠性問題，為相關(guān)領(lǐng)域的研究提供了有益的參考。
聚焦“AI時代下的汽車數(shù)據(jù)安全標(biāo)準(zhǔn)化研究”，中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心工程師張驍從人工智能技術(shù)爆發(fā)式增長帶來人工智能安全問題的高度重視這一相關(guān)背景入手，從治理原則、安全風(fēng)險分類、技術(shù)應(yīng)對措施、綜合治理措施以及應(yīng)用指引幾個角度為與會觀眾系統(tǒng)性地梳理了人工智能安全治理框架，并重點介紹了汽車行業(yè)人工智能應(yīng)用的標(biāo)準(zhǔn)化進展與突破。
隨后召開中國通信學(xué)會內(nèi)生安全專委會2024年度工作總結(jié)會議。內(nèi)生安全專委會秘書長張芳匯報了鄔江興院士團隊“網(wǎng)絡(luò)空間內(nèi)生安全理論和標(biāo)準(zhǔn)體系”入選中國通信學(xué)會“2023年度信息通信領(lǐng)域十大科技進展”，變結(jié)構(gòu)擬態(tài)計算技術(shù)、可信內(nèi)生安全技術(shù)、多模態(tài)智能網(wǎng)絡(luò)技術(shù)、軟件定義晶上系統(tǒng)等四大原創(chuàng)技術(shù)入選新一代信息工程科技新質(zhì)生產(chǎn)力備選清單等情況，并介紹專委會參與制訂的六項團體標(biāo)準(zhǔn)、兩份內(nèi)生安全委員會藍皮書、兩份科技專報，以及三個學(xué)術(shù)會議評級、優(yōu)秀論文推薦、科普培訓(xùn)等內(nèi)生安全委員會年度工作內(nèi)容。張芳教授歡迎參會嘉賓廣泛參與到內(nèi)生安全委員會的未來工作中，為下一階段的內(nèi)生安全工作貢獻不竭的智慧力量，攜手書寫網(wǎng)絡(luò)韌性新時代的嶄新篇章。
與會嘉賓們紛紛表示，“展望未來，我們將繼續(xù)秉持開放合作、互利共贏的理念，共同應(yīng)對人工智能安全領(lǐng)域的挑戰(zhàn)與機遇?！北敬握搲某晒εe辦，不僅為行業(yè)內(nèi)專家學(xué)者提供了一個深入探討與思維碰撞的交流平臺，也為推動人工智能技術(shù)的安全、可持續(xù)發(fā)展注入了新的活力和動力。