11月1日，全國信息安全標準化技術委員會（以下簡稱“信安標委”）2023年第二次標準周全體會議在武漢舉行。會議以“網絡安全標準引領人工智能產業健康發展”為主題，重點圍繞生成式人工智能安全相關國家戰略、法規和政策要求，探討生成式人工智能安全技術發展趨勢，交流網絡安全標準引領人工智能產業和生態建設需求。天融信科技集團董事長兼CEO李雪瑩博士受邀出席全體會議并發表主題演講，探討人工智能與網絡安全融合發展的新方向、新思路。

近年來，中國人工智能產業在政策與技術雙重驅動下呈現高速增長態勢。據相關數據顯示，中國人工智能產業蓬勃發展，核心產業規模達到5000億元，企業數量超過4300家，創新成果不斷涌現。隨著人工智能與網絡安全的快速融合發展，新技術與新應用不斷涌現，網絡安全領域面臨的風險與挑戰也日趨嚴峻。

天融信科技集團董事長兼CEO 李雪瑩博士

“AI是用交叉學科融合的方式來研究和開發人類智能的一種技術。對網絡安全而言，AIGC正在使生產模式發生轉變，在增強檢測防護、提升交付能力、助力安全運營和加速安全智能化等方面，實現了對網絡安全業務的‘提質增效’，為網絡安全領域帶來了新的發展機遇。同時，AIGC也在一定程度上推動著整個社會生產模式發生變化”。天融信科技集團董事長兼CEO李雪瑩博士在《AI融合網絡安全技術變革的新篇章》主題演講中表示。

伴隨AI發展的三個浪潮，AIGC經歷萌芽、積累階段，生成式人工智能（AIGC）已邁入飛躍階段。大模型大“火”之前，網絡安全領域就已將人工智能的預測、分析、抽取等能力，應用于威脅檢測、惡意流量檢測、威脅情報分析、行為分析、安全知識生產、數據分類分級等業務場景。但由于數據標注成本高、單體算力有限以及模型生成和決策能力不足等問題，人工智能賦能網絡安全仍存在局限性。大模型的出現，給AI的發展帶來了新的突破與轉變。

其一，改變了模型的構建方式，以模型為中心的AI逐步向以數據為中心的AI轉變；

其二，提升了零樣本和小樣本的學習能力，AIGC正在使生產模式發生轉變。

AI賦能網絡安全技術變革

信息化技術應用、安全威脅變化和國家政策法規是網絡安全產業發展的三大驅動力，AI新突破也給“三大驅動力”帶來了新的變化。

● 智能場景不斷涌現，大模型技術加速了數字化發展，給網絡安全帶來廣闊機遇；

● AI降低了攻擊門檻，使得攻擊手法更多、攻擊數量更大，加劇網絡安全威脅；

● 針對AI應用的安全監管評估體系、面向AI的網絡安全標準體系逐步完善，推動網絡安全建設落地。

人工智能可以說是一把雙刃劍，在與網絡安全融合發展、推動產業加速發展的同時，其背后隱藏著一系列安全風險，對國家安全、社會安全、網絡安全及數據安全均提出了新的挑戰。今年7月，《生成式人工智能服務管理暫行辦法》的出臺，體現了現階段監管機構的態度，即“既要重視發展，也要重視風險”，統籌生成式人工智能發展和安全已成為當下關注的重點。系列政策法規以及標準的逐步完善給人工智能技術的發展指明新方向，依法合規使用技術并在監管中不斷完善，才能更好地推動產業健康穩定發展。

網絡安全標準引領AI發展

中央網信辦牽頭出臺了多項人工智能領域相關管理文件，信安標委快速推進人工智能相關國家標準的制定工作，在多層面保障和推動著技術發展。作為信安標委等十余個標準化組織的成員單位，天融信累計參與國家標準、行業標準300余項，也在積極參與多項AI相關標準的編制。今年5月，《人工智能安全標準化白皮書（2023版）》正式發布，天融信作為網絡安全領域獨家參編單位，為《白皮書》編制貢獻了豐富的研究成果和實踐經驗。

網絡安全創新實踐要從標準中來、到標準中去，以法律及標準為基礎實踐網絡安全保護，在實踐中探索可行的網絡安全方法及工具，以實踐經驗促進標準的不斷改進、提升。未來，天融信將積極推動AIGC安全、AI系統安全、AI網安產品三大方面的標準建設，全力支撐人工智能相關管理政策，構建完善的人工智能安全保障體系，促進人工智能技術在網絡安全領域的應用。

TOPSEC

人工智能技術的不斷突破帶來了新的挑戰與機遇。多年來，天融信持續關注人工智能的變革與發展，以“提質增效”為目標，不斷拓展人工智能技術在網絡安全領域的技術革新與應用，積極推動人工智能與網絡安全領域有機融合，譜寫網安發展新篇章。