能否用AI防范AI？

【蜂耘网　人工智能】“人工智能算法模型存在‘三不可’的‘基因缺陷’，即不可解释性、不可判识性以及不可推论性。”在日前举行的2024绿盟科技TechWorld智慧安全大会上，中国工程院院士邬江兴说，AI赋能技术有极其广阔的应用空间，也带来了前所未有的安全挑战。

“AI已经成为网络空间安全发展的关键变量。”中国科学院院士冯登国表示，AI技术已从较为单一的算法发展阶段跨越到软件、硬件与应用场景相结合的全方位、一体化发展阶段，应对网络空间安全形势变化，需要更坚实、富有弹性的网络空间安全保障体系。

AI广泛应用会带来哪些安全隐患？如何应对这些安全挑战？会上，专家学者围绕网络安全前沿科技、数智赋能发展路径进行了深入研讨。

安全风险加大

“在某些情况下，大模型生成的文本虽在语义或句法层面看起来合乎逻辑，但实际内容可能是错误或无意义的。这类‘幻觉’问题是所有大模型共同的固有问题。”冯登国说，大模型“幻觉”缺陷导致的大量错误信息涌现是大模型带来的主要安全风险之一。此外，针对关键信息基础设施的网络攻击变得更加自动化、智能化。同时，AI算法的快速更新迭代，也使传统安全分析技术难以应对AI领域涌现的新算法和新模型。

“数字化转型加剧了网络生态系统的脆弱性。”绿盟科技首席技术官叶晓虎说，攻击手段的多样化、相关技术战法的演变要求安全行业不断适应并应对新安全挑战。为此，绿盟科技在提供传统安全产品及安全服务的基础上，推出AI大模型应用、蓝军体系等多个领域解决方案。

数字经济时代，保障数据安全成为事关国家安全与经济社会发展的重大问题。国家工业信息安全发展研究中心首席专家、数据安全所所长李俊说，工业企业数字化、网络化、智能化进程加速，同时也面临日益突出的数据安全风险，包括工业数据载体存在漏洞和后门、非受控运维等问题。在此背景下，行业主管部门出台相关政策，不断加快数据安全监管技术能力建设与实践落地。

AI提供新工具

面对新的安全风险，能否用AI防范AI？与会专家普遍认为，AI系统在安全保障方面的应用已经得到广泛认可，AI在安全领域的支撑作用将日益增强。

“AI可以赋能网络空间安全保障，为安全工作提供新工具。”冯登国说，针对AI加持的攻击技术、恶意代码生成、僵尸网络攻击等挑战，可通过AI大幅提升防御能力和水平，有效提高威胁检测与响应能力。

“AI可以自动完成许多网络安全任务，如威胁检测、事件响应和漏洞分析。这不仅有利于提高工作效率，还能减少人为错误的可能，帮助网络安全团队更有效地应对大量安全告警。”绿盟科技天枢实验室主任研究员顾杜娟说，AI还可以帮助识别新型攻击手段和策略，并利用机器学习和深度学习技术检测和应对复杂的网络攻击。

绿盟科技通过技术创新推出了一系列新成果和方案。例如，风云卫AI安全能力平台集成威胁情报积累等能力，可进一步助力网络安全行业智能化转型。在安全运营方面，“AI+”策略可实现告警降噪率97%以上，使威胁响应缩短至30分钟、整体运营效率提升70%以上。

不仅如此，腾讯等企业也通过构建AI安全助手，提升其安全服务能力和效率。业内专家认为，用好“AI+安全”，有助于促进数字化转型与可持续发展。

（蜂耘人工智能网　责任编辑：行云）