AI+安全
數(shù)據(jù)安全
數(shù)據(jù)基礎(chǔ)設(shè)施
態(tài)勢感知
云安全
基礎(chǔ)安全
終端安全
商用密碼
軟件供應(yīng)鏈安全
網(wǎng)絡(luò)空間靶場
工業(yè)互聯(lián)網(wǎng)安全
物聯(lián)網(wǎng)安全
安全托管服務(wù)
運(yùn)營管理服務(wù)
-
-
大模型研發(fā)與訓(xùn)練場景
描述：
1.數(shù)據(jù)安全：模型訓(xùn)練前、構(gòu)建知識庫前若含用戶隱私（如醫(yī)療記錄、金融信息等），可能因數(shù)據(jù)清洗不徹底導(dǎo)致泄露。
2. 訓(xùn)練環(huán)境安全：攻擊者可能通過網(wǎng)絡(luò)攻擊（如 DDoS 攻擊）中斷訓(xùn)練進(jìn)程，或篡改訓(xùn)練參數(shù)導(dǎo)致模型性能受損。
方案：
1、通過代理 RAG 業(yè)務(wù)系統(tǒng)請求，對模型訓(xùn)練前、構(gòu)建知識庫前的語料進(jìn)行敏感數(shù)據(jù)清洗，保障語料庫及生成內(nèi)容的安全性、合規(guī)性，防止惡意攻擊（如數(shù)據(jù)投毒、提示注入）、敏感信息泄露及生成有害內(nèi)容
2、開啟抗DDoS配置攻擊，保障訓(xùn)練環(huán)境安全。
-
-
大模型部署與運(yùn)行階段
描述：
1. 模型安全：模型運(yùn)行環(huán)境中可能暗藏惡意病毒，導(dǎo)致模型參數(shù)篡改或數(shù)據(jù)泄露；模型接口存在SQL注入、跨站腳本漏洞，攻擊者可借此篡改運(yùn)行邏輯。
2、訪問控制：內(nèi)部人員若權(quán)限過高且缺乏審計，可能惡意調(diào)用模型生成敏感內(nèi)容或泄露模型核心信息。
方案：
1、通過防病毒、漏洞檢測、微隔離等模型主機(jī)防護(hù)措施，保障大模型服務(wù)主機(jī)在運(yùn)行時的安全；
2、根據(jù)不同權(quán)限劃分不同RAG語料庫，投喂數(shù)據(jù)按照角色權(quán)限相互獨(dú)立，且僅開放必要功能訪問，如開發(fā)人員僅能調(diào)試代碼，禁止直接調(diào)用生產(chǎn)模型；
-
-
大模型應(yīng)用與交互階段
描述：
1、不合規(guī)的問題可能被用于生成違規(guī)內(nèi)容（如政治敏感話題、虛假信息等內(nèi)容）、誤導(dǎo)性內(nèi)容（如謠言）。
2、不安全的輸入輸出：模型交互時輸出的惡意域名、黃色網(wǎng)站、暴恐網(wǎng)站；通過用戶對話推斷出敏感隱私，并意外泄露。
方案：
1、內(nèi)置海量規(guī)則庫，提高垂直領(lǐng)域違規(guī)內(nèi)容檢測率；
2、實(shí)時檢測聊天內(nèi)容中的隱私信息并脫敏；
3、實(shí)時檢測聊天內(nèi)容中的URL是否是惡意域名、黃色網(wǎng)站、暴恐網(wǎng)站并檢測檢測聊天內(nèi)容是否涉及注入風(fēng)險
-
-
大模型持續(xù)監(jiān)控階段
描述：
1.大模型資產(chǎn)難以被識別和持續(xù)監(jiān)測，導(dǎo)致資產(chǎn)臺賬缺失；
2.模型的遭受異常調(diào)用行為（如高頻次請求、異常輸入模式）無法精準(zhǔn)識別，導(dǎo)致被破壞或篡改，影響業(yè)務(wù)持續(xù)運(yùn)行
方案：
1、通過大模型資產(chǎn)透視，對大模型資產(chǎn)識別并進(jìn)行運(yùn)行狀態(tài)監(jiān)測，并繪制模型資產(chǎn)流量畫像，避免外部非法訪問。；
2、對模型進(jìn)程進(jìn)行流量捕捉，可視化呈現(xiàn)模型網(wǎng)絡(luò)訪問情況；
3、實(shí)時統(tǒng)計模型輸入輸出token、訪問速率、時延情況
大模型安全防護(hù)系統(tǒng)是一款針對于大模型安全設(shè)計的一站式防護(hù)產(chǎn)品，覆蓋資產(chǎn)安全、數(shù)據(jù)安全、內(nèi)容風(fēng)控及主機(jī)防護(hù)等核心場景，提供從開發(fā)、訓(xùn)練、部署到運(yùn)營的全生命周期安全閉環(huán)，實(shí)現(xiàn)模型資產(chǎn)的統(tǒng)一監(jiān)測、風(fēng)險識別與動態(tài)防護(hù)，保障模型運(yùn)行安全；內(nèi)置敏感信息檢測、內(nèi)容過濾與異步審計能力，有效防范數(shù)據(jù)泄露與違規(guī)內(nèi)容生成；同時提供主機(jī)層面的漏洞掃描、基線檢查等安全加固功能，確保底層環(huán)境穩(wěn)定可靠。系統(tǒng)支持靈活的策略配置與集中化管理，滿足不同業(yè)務(wù)場景的安全需求，助力用戶安全、合規(guī)地落地大模型應(yīng)用。
- 內(nèi)容安全防護(hù)
- 語料安全防護(hù)
- 大模型主機(jī)安全防護(hù)
- 大模型資產(chǎn)透視
-
-
具備關(guān)鍵字、語義分析、模型推理三道防線。支持多模態(tài)內(nèi)容審核，對不合規(guī)問題能自定義規(guī)則庫，對不安全輸入輸出進(jìn)行強(qiáng)制認(rèn)證，保障內(nèi)容合規(guī)安全。
-
-
通過語料安全網(wǎng)關(guān)、敏感信息脫敏等方式，代理業(yè)務(wù)請求，解析文件檢測內(nèi)容、脫敏，離線掃描清洗，保障語料安全合規(guī)。
-
-
具備對模型之主機(jī)自身的病毒、漏洞、基線、弱口令、風(fēng)險賬戶、暴力破解進(jìn)行檢測與防護(hù)。
-
-
對大模型資產(chǎn)識別并進(jìn)行運(yùn)行狀態(tài)監(jiān)測，同時對模型資產(chǎn)存在的漏洞風(fēng)險、病毒風(fēng)險、違規(guī)基線、弱口令進(jìn)行防護(hù)。
-
-
-
全生命周期安全保障
覆蓋大模型開發(fā)、訓(xùn)練、部署到運(yùn)營全程，訓(xùn)練前清洗語料，運(yùn)行中監(jiān)測防護(hù)，運(yùn)營時檢測輸入輸出，確保各環(huán)節(jié)安全。
-
-
-
-
多維度安全防護(hù)功能
提供資產(chǎn)、語料、內(nèi)容、主機(jī)安全防護(hù)，含資產(chǎn)透視、語料脫敏、內(nèi)容審核、主機(jī)漏洞檢測等，全方位保安全。
-
-
-
-
靈活策略配置與集中化管理
支持自定義防護(hù)策略，滿足多樣需求；管理中心統(tǒng)一管控終端與網(wǎng)絡(luò)代理，提升安全管理效率與便捷性。
-
-
-
-
保障業(yè)務(wù)穩(wěn)定性與用戶體驗(yàn)
抗 DDoS、模型調(diào)度保業(yè)務(wù)穩(wěn)定，流式輸出響應(yīng)快，違規(guī)停輸并提示，還支持消息撤回，優(yōu)化使用感受。
-
