網安標委2025年第一次“標準周” | 天融信李雪瑩：保障大模型應用安全應把握“快、新、全”三大原則
4月14至17日，全國網絡安全標準化技術委員會（以下簡稱“網安標委”）2025年第一次全體委員會議暨“標準周”活動在蘇州舉行。天融信科技集團董事長兼CEO李雪瑩博士受邀出席大會并發表《大模型應用安全風險與防護實踐》主題演講，建議加快立項研究大模型安全防護網關相關國家標準，更好地支撐大模型應用安全快速發展。
自DeepSeek開源發布以來，大模型應用已進入“快車道”，各行業接入大模型的速度加快，推動了生產力的變革，給人民生產生活帶來顛覆式的改變。伴隨新技術、新場景應用，大模型應用帶來的潛藏安全問題日益嚴峻，亟待各方協同應對，以實現人工智能安全、穩健且可持續發展。
天融信科技集團董事長兼CEO 李雪瑩博士
在演講中，李雪瑩博士談到，Agent（自主決策型AI代理）和RAG（檢索增強生成）兩種大模型應用模式，雖在技術實現邏輯有所區別，但均面臨著一定的安全風險。結合天融信自身的研究與實踐，她從大模型應用的基礎設施層、服務層、用戶層、內容層、監管層五個層面深度剖析了相關風險與防護措施。其中，基礎設施面臨的站點風險屬于通用安全風險，在服務層的API調用風險、用戶層的交互行為風險、內容層的模型濫用風險、監管層的合規風險則為大模型應用特有的風險，層級邏輯上相互關聯。
安全是發展的前提，發展是安全的保障。李雪瑩博士結合近年來天融信在大模型應用安全防護方面的實踐，提煉出“快、新、全”三大原則，有效保障大模型應用安全。
快：部署直接有效的安全措施
當前大模型的應用正處于快速普及階段，需要以直接有效的措施，實現安全防護快速部署，解決大部分問題。
天融信大模型安全防護網關TopLMG是一款專注于為企業級大模型提供全方位應用安全防護的產品，可有效應對上述五個層面的安全風險，并且充分利用AI技術實現精準、高效防御。TopLMG有硬件形態、軟件形態、網元形態，可支持大模型在不同場景下的安全防護需求，全面符合TC260-003《生成式人工智能服務安全基本要求》和等保2.0三級增強要求等標準。
新：用安全大模型保護大模型安全
大模型的引入帶來了諸多新風險，需要以新措施加以應對，即通過安全大模型來保障大模型的安全性。
針對大模型應用系統本身，天融信通過集成智能體的安全產品和大模型安全防護網關構建基礎防護體系；針對接入互聯網的場景，本地安全防護手段可以訂閱云端服務來應對攻擊的變化，更復雜的問題可以利用云端部署的安全大模型進行分析，實現新型威脅和攻擊的有效應對；針對不能上云的場景，可以在本地部署天問大模型并與態勢感知系統聯動，提供智能化的安全防御。用戶可以通過瀏覽器、APP、小程序等隨時隨地監控防護效果、配置防護策略。
此外，李雪瑩博士還提到，天融信自研的天問大模型在2024年已通過“生成式人工智能服務備案”和“境內深度合成服務算法備案”雙備案。
全：以體系化安全保障大模型應用
大模型安全風險涉及面較廣，因此需要通過體系化的安全建設來保障大模型的整體應用安全。
互聯互通是網絡安全能力躍遷的必經之路，李雪瑩博士提出大模型應用安全的體系化防護還需要廠商、產品之間的互聯互通。天融信大模型應用安全防護體系框架由一個中心、三大安全能力支撐和X類標準化防護組成。其中一個中心是指大模型安全運營中心，負責統籌協同各安全能力，支撐全網大模型安全運營工作；三大安全能力是指面向大模型應用安全的風險監測能力、安全防護能力和響應處置能力；X類標準化防護是指提供網絡、系統、應用、數據、終端層面多種標準化技術防護手段，通過互聯互通協議，打通來自多家的防護產品，彼此聯動智能化支撐上層安全能力的有效落地，保障大模型應用安全。
作為全國網絡安全標準委員會委員，李雪瑩博士一直積極參加網安標委相關的工作。在演講最后，她結合政策、標準規劃以及產業層面的觀察，建議加快立項研究大模型安全防護網關相關國家標準，更好地支撐大模型應用安全快速發展。
“人工智能+”賦能各行各業蓬勃發展，成為推動經濟高質量增長的重要力量。技術發展得越快，安全保障的需求就越迫切。未來，天融信將以“人工智能+”為錨點，持續打造AI+安全融合發展新范式，不斷推動AI技術在各行各業更廣泛、更深遠地應用，筑牢數字經濟高質量發展安全底座。
相關閱讀
1、天融信李雪瑩博士：互聯互通是網絡安全能力躍遷的必經之路！
