针对大模型的攻击显然已经成为了当下最为普遍的一种攻击方式。大模型在给企业带来效率提升的同时，也让企业不得不在使用过程中更为注重安全。
与此同时，黑客利用大模型对企业进行网络攻击的事件频频发生。而这种攻击的趋势随着大模型从训练市场为主导，转向推理市场为主导，产生了微妙的变化。
从“被动防御”转向“主动决策”
随着大模型技术从训练向推理阶段加速落地，AI驱动的安全攻防体系正经历根本性变革。
以DeepSeek为代表的大模型推理能力正在催生千亿元量级的安全增量市场，直接推动中国网络安全市场规模突破原有天花板。在绿盟科技集团副总裁宫智看来，这一变化的底层逻辑在于：推理需求推动安全场景从“被动防御”转向“主动决策”。
宫智告诉钛媒体APP，随着围绕DeepSeek展开的应用日益普及，本地化部署的模型数量显然会大量增加，大模型的安全也呈现出了完全不同的趋势。
原先，企业更多的是通过API调用的方式使用大模型，这种模式下，云服务商承担了的大模型底座安全、应用访问以及数据合规等安全责任，“对于企业来说，这个阶段，只解决API调用和数据外发安全等部分安全问题就可以了，更多的安全责任是由云服务商承担的。”宫智指出。
而随着DeepSeek应用的普及，本地化部署成为企业应用大模型的趋势，企业需要自己承担全部的安全责任，包括从大模型系统底座、网络层、应用层，再到数据安全、内容合规等涉及大模型全生命周期的安全问题，都需要企业自己去面对，这对于企业而言，是一个巨大挑战。“绿盟科技认为，随着企业本地化部署大模型的量越来越大，本地化部署大模型相关的安全解决方案会在今年及未来很长一段时间内，成为安全行业新的增长点。”宫智如是说。
另一方面，对于本地化部署的大模型产品而言，安全体系构建的过程中，硬件设备性能的问题显然不会是困扰企业的主要问题，最大的安全挑战还是基础能力的构建，在2025绿盟科技合作伙伴大会上，绿盟科技重磅发布了大模型安全解决方案、AI驱动的自主安全运营平台、绿盟大模型安全评估系统（AI-SCAN）、绿盟大模型应用安全防护系统（WAF-SLLM）、绿盟IPS、IDS高端国产化机框型号、绿盟AI安全防护一体机、绿盟API风险评估系统（API-SCAN）、绿盟可信连接器等新品与解决方案。“与原先企业安全场景相比，大模型技术的广泛应用会带来更复杂的安全挑战，例如大模型的不可解释性会引发信任、合规以及安全等风险。”宫智进一步指出，“但对于原本安全体系就漏洞百出的企业而言，在应用大模型之前，首先要解决好基础的安全能力。”
模型安全七大风险
虽然通过将传统安全产品，进行适当调整后，也能应用在大模型相关场景下，但是此前钛媒体APP与多位安全行业专家的沟通中，几位专家都表示出了对当下大模型安全体系建设的担忧。当下，大模型的安全问题仍是阻碍大模型在ToB企业侧应用的最大掣肘之一。
尤其是当DeepSeek出圈以后，在短短不到一个月的时间内，就接连遭遇了大规模DDoS攻击、僵尸网络、仿冒网站泛滥、数据库安全隐患等各种安全威胁，甚至一度对正常服务造成严重影响，根据公开资料显示，DeepSeek主要面临的是DDoS攻击，先后经历了轻微的HTTP代理攻击、大量HTTP代理攻击、僵尸网络攻击等行为，参与攻击的两个僵尸网络分别为HailBot和RapperBot。
从安全风险的角度出发，通过总结可以得出，当下大模型面临的风险主要包括七大类风险，即：数据安全风险、训练语料安全风险、模型安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险等。
从模型自身风险的角度出发，由于模型本身需要对外提供公开服务，并涉及敏感信息的开放场景，因此会引发多种安全隐患，包括：提示注入攻击、拒绝服务攻击、提示词泄露、通用越狱漏洞等，这些攻击都会对大模型的安全性和稳定性带来重大影响。
从模型防护机制建设角度出发，大模型需要通过严密的安全技术保障和运行监测，确保自身的安全性、可靠性和稳定性。目前绝大多数大模型的安全能力建设不足，以DeepSeek为例，网宿科技安全事业部高级技术总监胡钢伟曾告诉钛媒体APP，此前DeepSeek遭受大规模攻击，究其原因，一方面是由于DeepSeek自身的防御机制建设不足，未能储备足够的防护资源以面对高强度的DDoS攻击行为；另一方面也和DeepSeek在开发过程中未能完善安全测试机制有关，造成了漏洞被攻击者利用。
尤其是当前企业部署DeepSeek最多的方式就是通过Ollama（一种本地部署大模型的工具），而Ollama在默认情况下，是不具备安全认证功能的，这也导致了许多用户在部署DeepSeek的过程中，忽略了必要的安全限制，导致了任何人都可以在未经授权的情况下访问这些服务，不仅增加了服务被滥用的风险，还可能导致数据泄露和服务中断。更严重的是，攻击者甚至能够发送指令删除所部署的DeepSeek、Qwen等大模型文件，进一步威胁系统的安全性。
对此，有安全行业专家建议企业修改Ollama配置，加入身份认证手段。同时及时修改防火墙、WAF、入侵检测等相关安全配置，例如制定IP白名单限制访问，确保只有授权人员能够访问模型服务。并且，此前还多位安全行业专家建议，企业要定期检查和关闭不必要的端口、限制计算资源的使用、加强监控等措施也是提高安全性的关键。
当DeepSeek在带动本地化部署大模型市场发展的同时，本地化模型安全问题也逐渐暴露出来，宫智告诉钛媒体APP，目前大模型在本地化部署过程中，需要面对的最大的两个安全挑战就是数据安全和合规问题。
在数据安全方面，大模型带来了新的对抗的挑战，比如数据脱敏，原先脱敏后的数据，在大模型的应用中也会变得没那么安全。“大模型有可能对脱敏数据进行深度关联推理，将脱敏数据还原，从而造成了数据安全的风险。”宫智指出。
上述的安全问题还只是企业应用大模型的基础，在宫智看来，解决这些基础的安全问题只是企业要做的第一步，“除了刚性的安全性问题之外，企业还面临更多的合规性的问题，”宫智强调道，“尤其是当大模型训练语料进一步扩大时，模型可能存在包括鲁棒性、可解释性、幻觉等在内的多个问题，甚至存在随时失控的风险。”
对此，宫智表示，企业需要在模型的输入和输出两端都进行完整的安全管理和控制，才能解决合规性的问题，同时还能避免数据泄露事件的发生。
“通用模型+专业模型”求解
此前Gartner预测，到2025年生成式AI的采用将导致企业机构所需的网络安全资源激增，使应用和数据安全支出增加15%以上。而如何建设好安全体系，确保在安全合规的前提下应用模型，已经成为当下企业关注的焦点。在宫智看来，通过通用模型+安全行业模型的结合，是当下企业安全体系建设的最优解。
一方面，通过像DeepSeek、通义千问这样性能强大的基础通用大模型提供了强大的底层算力支持，让安全模型有了更为强大的算力支持；另一方面，安全厂商多年来积累的安全经验与安全数据，训练出来的专家模型。将两者的强处结合，才能得到更好的应用效果。
以绿盟科技为例，凭借多年在安全行业的积累，绿盟科技于去年推出了实战攻防大模型——风云卫安全行业大模型。而在DeepSeek开源之后，绿盟科技也将风云卫大模型与DeepSeek进行了接入。这种模式正是通过基础通用大模型与安全专业专家模型的结合，从而形成更聚焦的安全行业大模型，赋能企业安全运营。
从应用场景上来看，目前安全行业大模型主要还是应用在辅助企业进行安全运营层面，“客观的看，大模型在安全行业应用最为成熟的场景还是AI辅助安全运营，这里面包括了研判分析、安全报告的生成。”宫智进一步指出，“通过大模型能力的植入，让企业安全运营的效率提升了不少。”据了解，通过安全大模型的加持，企业安全运营效率可以提升70%。
除此之外，据绿盟科技观察，目前大模型在辅助威胁检测方面也展现出了一些独有的能力，有望成为未来大规模应用的新场景。（本文首发于钛媒体APP，作者｜张申宇，编辑丨盖虹达）
