近日，由中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)視覺專委會(huì)主辦，合合信息承辦，中國(guó)運(yùn)籌學(xué)會(huì)數(shù)學(xué)與智能分會(huì)協(xié)辦的《打造大模型時(shí)代的可信AI》論壇順利舉行。論壇特邀來自上海交通大學(xué)、電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)科學(xué)技術(shù)大學(xué)、中科院、合合信息等機(jī)構(gòu)與企業(yè)的專家們，從立法、監(jiān)管、前沿研究、技術(shù)實(shí)踐等多個(gè)維度分享AI安全領(lǐng)域的最新進(jìn)展，助力AI向善發(fā)展。
隨著AI技術(shù)的飛速發(fā)展，特別是以ChatGPT為代表的大語(yǔ)言模型技術(shù)的廣泛應(yīng)用，數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)、算法偏見和有害內(nèi)容生成等問題日益凸顯，引發(fā)了社會(huì)的廣泛關(guān)注。在此背景下，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)于今年9月發(fā)布了《人工智能安全治理框架》，明確指出AI技術(shù)面臨的內(nèi)生和外部風(fēng)險(xiǎn)。
論壇上，上海交通大學(xué)人工智能研究院教授、總工程師金耀輝圍繞大模型訓(xùn)練過程，提出了“訓(xùn)練對(duì)齊、提示引導(dǎo)和文本過濾”三大安全保障手段，將抽象的安全概念落實(shí)到具體的技術(shù)研發(fā)流程中。同時(shí)，中國(guó)電子標(biāo)準(zhǔn)院網(wǎng)安中心測(cè)評(píng)實(shí)驗(yàn)室副主任、CCIA數(shù)安委常務(wù)副主任何延哲也對(duì)人工智能安全檢測(cè)評(píng)估的邏輯和要點(diǎn)進(jìn)行了深入剖析，提出了包含算力網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等在內(nèi)的綜合評(píng)估框架。
在技術(shù)實(shí)踐方面，合合信息作為本次論壇的承辦方，展示了其在AI視覺安全領(lǐng)域的最新成果。合合信息圖像算法研發(fā)總監(jiān)郭豐俊表示，公司技術(shù)團(tuán)隊(duì)基于數(shù)據(jù)驅(qū)動(dòng)的神經(jīng)網(wǎng)絡(luò)模型，推出了行業(yè)領(lǐng)先水平的圖像篡改檢測(cè)方案，可提取篡改留下的細(xì)微痕跡，檢測(cè)出多種篡改形式。這一技術(shù)不僅有助于提升圖像的真實(shí)性驗(yàn)證能力，也為打擊數(shù)字內(nèi)容偽造提供了有力工具。
此外，中國(guó)科學(xué)技術(shù)大學(xué)教授謝洪濤和中國(guó)科學(xué)院自動(dòng)化研究所研究員赫然博士也分別從深度偽造視頻的治理方案和生成式人工智能安全與治理的角度進(jìn)行了分享。他們指出，隨著AI鑒別與合成技術(shù)的相互博弈，深度合成技術(shù)的深入研究為鑒別提供了線索，形成了多模態(tài)多線索的鑒偽方法。
本次論壇是產(chǎn)學(xué)研聯(lián)合探索AI安全治理的一次有效嘗試。面對(duì)AI的潛在風(fēng)險(xiǎn)，加強(qiáng)行業(yè)內(nèi)部自律，從源頭做好安全措施是守護(hù)AI健康成長(zhǎng)的第一道防線。合合信息將持續(xù)深耕AI視覺安全領(lǐng)域，積極推動(dòng)行業(yè)合作與交流，為打造大模型時(shí)代的可信AI貢獻(xiàn)力量。
牛華網(wǎng)重點(diǎn)關(guān)注全球前沿科技、游戲、電影娛樂及新潮數(shù)碼，致力于提供實(shí)用接地氣的產(chǎn)品產(chǎn)業(yè)資訊。