产品中心
解决方案
服务与支持
信创
默安智库
关于默安
0571-57890068
中文/English

幻阵AI沙箱集群来了:让你的AI助手更安全

2025-03-05

AI技术正以惊人的速度重塑各行各业——从全民热议DeepSeek,到政企争相部署大语言模型以获取最新的AI能力,AI应用场景正以前所未有的创新活力蓬勃发展,不断拓展新领域、新方式和新需求。大语言模型仿佛一夜之间成为政企数字化转型的“标配”。然而,在这场狂欢的背后,一场隐秘的安全危机正悄然蔓延。

默安科技作为主动防御领域的创新型安全厂商,第一时间关注到AI广泛应用带来的安全风险,幻阵高级威胁狩猎与溯源系统(简称幻阵)目前已支持最新的AI沙箱资产,在政企发布AI应用时提供高度仿真的沙箱服务,并可无缝集成到现有沙箱蜜网群,与业务系统同步运行,从而帮助各行业构建更适应新形势的主动防御安全体系。


幻阵AI沙箱集群能力

能力一:丰富的GenAI沙箱集群

支持主流AI开源框架:Ollama、Dify、ClearML等多种AI服务沙箱

支持构建高交互性AI Web应用沙箱:Chatbox、Chatbot UI、OpenWebUI等,仿真用户与AI服务的真实交互场景

此外,通过默安科技的创新型乐高式组合沙箱,可直接将GenAI沙箱集成到现有沙箱蜜网群中。


能力二:AI诱饵投放

支持将虚假API密钥陷阱、虚假测试模型、伪造训练数据集,通过办公主机网络或文件投放,以及AI反制能力。

·虚假API密钥陷阱

·虚假测试模型

·伪造训练数据集


AI诱饵投放分为三个阶段:

事前,信息搜集阶段,通过发布互联网诱饵、文件诱饵进行信息干扰混淆;

事中,入侵攻击阶段,通过在主机上散布办公网诱饵、主机诱饵将攻击目标重定向到沙箱中;

事后,通过反制诱饵及文件诱饵的反制功能进行追踪溯源及司法取证。


AI沙箱落地场景

场景一:互联网AI应用保护

挑战:目前,政企发布AI服务需满足《生成式人工智能服务管理暂行办法》的合规要求,且面临攻击者通过模型越狱、安全机制逃逸等新型攻击手段窃取模型权重等敏感信息的威胁,导致服务安全性与业务连续性受损。

方案:部署幻阵互联网AI沙箱系统,通过高仿真环境混淆攻击目标,延缓攻击进程,完整记录攻击路径、行为特征及攻击载荷,实现攻击行为全链路监测与攻击者身份溯源。

价值:在攻击者进行信息搜集、尝试攻击时,对其进行迷惑干扰,尽可能早地发现攻击,并溯源出攻击者身份。


图源:网络


场景二:内部AI诱饵矩阵

·方案:在政企核心业务区域部署多维AI诱饵矩阵,包括:虚假API密钥陷阱、虚假测试模型、伪造训练数据集等。

·价值:通过诱饵多样性实现攻击行为100%无感捕获,精准区分误操作与恶意攻击。


在AI技术飞速发展的今天,政企数字化转型的步伐进一步加快,但随之而来的安全挑战也日益严峻。默安科技在欺骗防御领域具备先发优势,并随着每年的实战经验积累,始终保持探索与进化。此次通过幻阵构建丰富的GenAI沙箱集群、投放智能化诱饵、实时监控异常行为以及精准溯源攻击路径,帮助广大政企在AI应用过程中建立更高效的积极主动防御体系。

在“人工智能+安全”领域,默安科技将大语言模型应用于安全运营、软件开发安全与供应链安全中,实现高效的威胁检测与响应,提高运营效率;以及更精准的漏洞识别和更高效的修复流程。默安科技在2022年正式成立人工智能安全创新小组,致力于AI技术在网络安全领域的创新研究及应用,长期对AI在安全领域的应用进行深入研究和跟踪,并将技术成果持续更深入地应用于更多产品当中。


咨询反馈
0571-57890068
market@moresec.cn