人工智能作為新一輪科技革命的核心技術，正成為大國博弈的重要陣地。那么人工智能將為傳統(tǒng)產業(yè)轉型升級帶來哪些影響？當前人工智能發(fā)展面臨哪些嚴峻安全問題，如何解決？針對這些問題，在全國兩會召開之際，記者采訪了全國政協(xié)委員、奇安信集團董事長齊向東。
“人工智能是引領未來發(fā)展的顛覆性技術和前沿技術，也是注定要走進千家萬戶的關鍵共性技術。”齊向東表示，大力發(fā)展人工智能，能切實增強我國在數(shù)字經(jīng)濟、高水平人才引育和產業(yè)鏈供應鏈完整性等方面的優(yōu)勢，提升我國在國際技術標準與安全治理等領域的話語權。
齊向東表示，在傳統(tǒng)產業(yè)轉型升級的過程中，人工智能發(fā)揮著“領頭雁”效應。作為傳統(tǒng)產業(yè)數(shù)字化轉型中最重要的變革驅動力量，人工智能已在研發(fā)、生產、管理全環(huán)節(jié)廣泛應用，涌現(xiàn)出上百種場景和模式。但是，人工智能也大幅提升了網(wǎng)絡攻擊的烈度和廣度，網(wǎng)絡攻擊窗口不斷擴大、網(wǎng)絡攻擊手段不斷革新、網(wǎng)絡犯罪門檻持續(xù)降低，給傳統(tǒng)產業(yè)發(fā)展帶來了新風險、新挑戰(zhàn)，引發(fā)了社會高度關注。
在齊向東看來，人工智能發(fā)展面臨的安全問題大致可以分為三類：第一類是人工智能大模型自身的安全問題。開發(fā)方面，開源大模型要重點防范代碼缺陷和預留后門等問題；應用方面，要防范“內鬼”對訓練數(shù)據(jù)投毒，進行模型篡改、配置篡改；數(shù)據(jù)方面，要小心內部配置錯誤和弱口令等造成的數(shù)據(jù)庫暴露；基礎環(huán)境方面，要重點關注云、API、傳統(tǒng)設備漏洞。
第二類是利用人工智能開展網(wǎng)絡攻擊的問題。人工智能促進了網(wǎng)絡攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡詐騙，或輸出背離主流價值觀的內容危害認知安全。
第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡攻擊大爆炸”。未來人工智能會成為社會的基礎設施，當大模型嵌入智慧城市、工控系統(tǒng)、智慧政務等關鍵領域時，會放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身，引發(fā)社會服務中斷、生產停滯、隱私數(shù)據(jù)泄露等安全事件。
針對這些安全問題，齊向東表示，要從技術保障、制度保障、成果應用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。
要建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。最近，奇安信提出“大模型安全紅域”概念，通過構筑覆蓋終端、應用、數(shù)據(jù)、模型、紅域的多維度核心防護能力，打造適用于人工智能的立體縱深防御體系，實現(xiàn)“對外防攻擊、對內防內鬼”，為人工智能大模型安全穩(wěn)定運行保駕護航。
要制定大模型安全強制合規(guī)要求，夯實人工智能安全發(fā)展的制度保障。要明確大模型安全的組織架構，界定安全主體責任，對基礎安全、數(shù)據(jù)安全、應用系統(tǒng)開發(fā)安全、運行安全等方面提出清晰的技術保障要求。同時，做好大模型運行安全監(jiān)測和內容風控，定期開展安全評估測試，完善應急響應機制，一旦發(fā)現(xiàn)異常行為或潛在的安全事件，第一時間進行處置，將安全威脅消除在萌芽狀態(tài)。
要推廣“AI+安全”創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。隨著人工智能應用的進一步鋪開，要鼓勵更多產業(yè)用上、用好“AI+安全”創(chuàng)新成果，提高千行百業(yè)的網(wǎng)絡安全防護效能。