国产成人综合久久亚洲精品_欧美日韩福利视频_国产精品嫩草影院免费_午夜小视频网站

工聯網消息(IItime) 7月31日，中國工程院院士鄔江興聚焦AI應用系統內生安全問題及解決方法研究進行了分享。

 鄔江興院士指出，人類社會熱情擁抱AI時代的同時，也面臨著前所未有的AI安全威脅。AI應用系統安全問題分為非內生安全問題空間和內生安全問題空間，后者包括共性問題和個性問題。AI應用系統的網絡內生安全共性問題與網絡空間的內生安全問題一致，經典計算機體系結構的“基因缺陷”導致網絡安全問題復雜化。

針對AI應用系統內生安全共性問題，鄔江興院士介紹了從2013年開始的網絡安全中國學派-內生安全理論與擬態構造方法，該方法通過構造變換解決未知的未知，實現防治、預防和恢復，且內生安全的有效性由構造決定，能有效解決AI應用系統的安全問題。

然而，AI應用系統內生安全個性問題是當前推廣應用的最大障礙，包括不可解釋性、不可判識性和不可推論性。同時，研究發現AI算法模型對輸入、訓練模式、訓練數據和推理分析能力的多樣性敏感。

內生安全構造在解決AI系統安全問題方面發揮著重要作用，它能發現和糾正AI系統差模性質的分析，模型多樣/異構化是AI應用系統的必要安全機制，安全是多樣性表達加上價值對齊的系統，且模型的不確定度估計方法能為內生安全架構動態調度算法提供支撐。

通過基于內生安全方法的AI應用系統安全檢測實驗，發現單一模型容易受攻擊，而內生安全構造下的多個模型能有效抵御攻擊。在首屆擬態國際精英挑戰大賽中，單一模型系統受攻擊時可信度大幅下降，而內生安全構造的AI應用系統幾乎不受影響。但當前AI應用系統存在安全責任與風險嚴重失衡的問題。

鄔江興院士強調，AI應用系統應包含內生安全構造，以實現可信的結果，追求完美大模型是徒勞的，應尊重自然界的規律。中國科學出版社和法國EDPscience出版社聯合創辦的英文刊《Security&Safety》將AI安全作為主要內容，智能時代需要選擇正確的技術路徑來實現更安全的AI應用系統。