- 工聯(lián)網(wǎng)
- 作者：程琳琳
- 2024年8月5日 15:16
工聯(lián)網(wǎng)消息(IItime) 7月31日，中國工程院院士鄔江興聚焦AI應(yīng)用系統(tǒng)內(nèi)生安全問題及解決方法研究進行了分享。
鄔江興院士指出，人類社會熱情擁抱AI時代的同時，也面臨著前所未有的AI安全威脅。AI應(yīng)用系統(tǒng)安全問題分為非內(nèi)生安全問題空間和內(nèi)生安全問題空間，后者包括共性問題和個性問題。AI應(yīng)用系統(tǒng)的網(wǎng)絡(luò)內(nèi)生安全共性問題與網(wǎng)絡(luò)空間的內(nèi)生安全問題一致，經(jīng)典計算機體系結(jié)構(gòu)的“基因缺陷”導(dǎo)致網(wǎng)絡(luò)安全問題復(fù)雜化。
針對AI應(yīng)用系統(tǒng)內(nèi)生安全共性問題，鄔江興院士介紹了從2013年開始的網(wǎng)絡(luò)安全中國學(xué)派-內(nèi)生安全理論與擬態(tài)構(gòu)造方法，該方法通過構(gòu)造變換解決未知的未知，實現(xiàn)防治、預(yù)防和恢復(fù)，且內(nèi)生安全的有效性由構(gòu)造決定，能有效解決AI應(yīng)用系統(tǒng)的安全問題。
然而，AI應(yīng)用系統(tǒng)內(nèi)生安全個性問題是當(dāng)前推廣應(yīng)用的最大障礙，包括不可解釋性、不可判識性和不可推論性。同時，研究發(fā)現(xiàn)AI算法模型對輸入、訓(xùn)練模式、訓(xùn)練數(shù)據(jù)和推理分析能力的多樣性敏感。
內(nèi)生安全構(gòu)造在解決AI系統(tǒng)安全問題方面發(fā)揮著重要作用，它能發(fā)現(xiàn)和糾正AI系統(tǒng)差模性質(zhì)的分析，模型多樣/異構(gòu)化是AI應(yīng)用系統(tǒng)的必要安全機制，安全是多樣性表達加上價值對齊的系統(tǒng)，且模型的不確定度估計方法能為內(nèi)生安全架構(gòu)動態(tài)調(diào)度算法提供支撐。
通過基于內(nèi)生安全方法的AI應(yīng)用系統(tǒng)安全檢測實驗，發(fā)現(xiàn)單一模型容易受攻擊，而內(nèi)生安全構(gòu)造下的多個模型能有效抵御攻擊。在首屆擬態(tài)國際精英挑戰(zhàn)大賽中，單一模型系統(tǒng)受攻擊時可信度大幅下降，而內(nèi)生安全構(gòu)造的AI應(yīng)用系統(tǒng)幾乎不受影響。但當(dāng)前AI應(yīng)用系統(tǒng)存在安全責(zé)任與風(fēng)險嚴(yán)重失衡的問題。
鄔江興院士強調(diào)，AI應(yīng)用系統(tǒng)應(yīng)包含內(nèi)生安全構(gòu)造，以實現(xiàn)可信的結(jié)果，追求完美大模型是徒勞的，應(yīng)尊重自然界的規(guī)律。中國科學(xué)出版社和法國EDPscience出版社聯(lián)合創(chuàng)辦的英文刊《Security&Safety》將AI安全作為主要內(nèi)容，智能時代需要選擇正確的技術(shù)路徑來實現(xiàn)更安全的AI應(yīng)用系統(tǒng)。
