近日,天融信大模型安全網關系統(TopLMG)率先通過國家網絡與信息系統安全產品質量檢驗檢測中心(公安部第三研究所)測試,獲首張《大模型安全防護圍欄產品認證(增強級)》證書。

證書可通過國家認證認可監督管理委員會網站(http://cx.cnca.cn/)或認證中心官網(http://www.trimps.net.cn/)進行查詢。公安部第三研究所期望首張證書的頒發能推動社會各界更加重視大模型安全,促進大模型安全防護技術和相關產品的持續創新與優化升級。
目前,以大模型等為代表的人工智能技術快速發展,正在深刻改變人們的生產方式和經濟形態,已成為影響人類未來發展的關鍵變量。2025年政府工作報告明確提出“持續推進‘人工智能+’行動,支持大模型廣泛應用”。隨著大模型技術在各行業的深入應用,其全生命周期安全風險呈現復雜化、隱蔽化特征,大模型惡意投毒、API接口暴力破解、訓練數據批量泄露、提示詞注入攻擊等安全威脅,已成為產業發展的主要障礙。
天融信大模型安全網關系統 TopLMG
天融信依托對大模型自身安全風險和應用安全風險的深度研究,融合專項防護與通用安全技術,基于《OWASP Top 10 for LLMs》《生成式人工智能服務安全基本要求 TC260 - 003》等行業標準,提出針對大模型基礎設施層、服務層、用戶層、內容層、監管層的多層級安全防護體系,并自主研發天融信大模型安全網關系統(TopLMG),為企業級大模型服務構建全方位的安全防護屏障。

● 基礎設施層(站點風險)
作為大型IT基礎設施,大模型服務的前端交互界面與傳統Web應用面臨相似的安全威脅,如權限控制漏洞、認證繞過等傳統設計風險,以及開源/商業組件漏洞(如SQL注入、命令注入)形成攻擊入口的供應鏈風險。
天融信TopLMG采用了國內領先的“規則匹配+行為分析”雙引擎檢測機制,通過內置大量Web應用相關的組件和漏洞特征規則庫,為大模型服務提供虛擬補丁功能,有效防護各類針對大模型暴露面的軟件漏洞攻擊,大大降低了大模型應用系統遭受攻擊的風險。
● 服務層(API調用風險)
大模型對外開放的API接口作為連接外部應用的核心通道,容易遭受攻擊。API攻擊利用未授權訪問或數據泄露漏洞,可針對大模型接口實施惡意操作。
天融信TopLMG內置API引擎,通過實時監控API接口,并對API接口進行實時檢測和限速,動態攔截暴力破解、參數篡改等惡意請求,形成從攻擊防御到內容管控的全鏈路安全閉環。
● 用戶層(交互行為風險)
提示詞注入攻擊是大模型交互場景下的典型安全威脅。攻擊者通過構造惡意指令(如越獄提示、語義混淆)繞過內容過濾,誘導模型輸出違法信息或泄露敏感數據。
天融信TopLMG提示詞引擎通過上下文風險感知和意圖識別技術,對輸入提示詞進行合規校驗,阻斷非法內容生成,實現對角色扮演與虛構情景、反向誘導與逆向思維、基于令牌的越獄、代碼形式繞過、DAN、米斯特助手漏洞等提示詞注入攻擊的檢測防護。
● 內容層(模型濫用風險)
大模型輸出內容的質量決定了其應用價值和社會影響,攻擊者可利用大模型生成各類違規內容(如虛假信息、深度偽造信息、惡意代碼),或將訓練數據中隱含的隱私信息(如用戶身份、交易細節)以生成內容形式間接暴露。
天融信TopLMG能夠對敏感數據進行實時過濾,有效抵御惡意用戶通過非法手段竊取大模型數據庫中的業務數據或敏感信息,保障數據安全。同時,系統能夠攔截用戶輸入的非法提示詞和惡意代碼,防止大模型輸出違法和不良信息,確保輸出內容的準確性、合規性和安全性。
● 監管層(合規風險)
隨著大模型監管趨嚴,相關政策法規不斷出臺,需確保大模型從訓練到推理階段的全生命周期合規。
天融信TopLMG依托采集的海量價值觀數據,完成價值觀模型的訓練構建,防止模型輸出不符合國家法律法規、涉及政治敏感因素以及價值觀不正確等內容,高效滿足監管要求,全方位保障大模型交互內容的合規性與安全性。

在網安標委2025年第一次全體委員會議暨“標準周”活動上,天融信科技集團董事長兼CEO李雪瑩博士結合近年來天融信在大模型應用安全防護方面的實踐,提出把握“快、新、全”三大原則,有效保障大模型應用安全。
在大模型安全防御方面,天融信已打造體系化的大模型系統安全防護解決方案,針對數據泄露、惡意注入等風險提供精準防護,實現安全“識別–保護–檢測-響應–恢復”的可持續迭代,助力實現覆蓋大模型全生命周期的體系化安全防護。

2025年,天融信開啟第四個“十年”,將全面擁抱新技術方向,融智躍遷,致力于成為中國領先的網絡安全與智算云解決方案提供商。未來,天融信將持續深化對大模型內生與應用安全風險的研究,為大模型產業化應用提供全維度防護支撐,保障大模型技術賦能千行百業。
相關閱讀
1、天融信李雪瑩:保障大模型應用安全應把握“快、新、全”三大原則
2、天融信:DeepSeek行業應用加速,大模型安全“短板”亟待補齊!