2023年8月17日，福布斯发布《弹性建设：人工智能是网络安全领域的关键防御机制》研究报告提出，通过利用人工智能加强和巩固防御系统，各组织可增强弹性，抵御不断变化的网络安全威胁。

人工智能应用于网络安全包括以下方面：

（1）实时预测安全漏洞风险

人工智能能够迅速分析海量数据，发现潜在的安全漏洞模式，从而在网络安全领域发挥作用。通过机器学习算法，人工智能系统可以实时监控网络流量、用户行为和相关数据源，识别异常情况和潜在威胁，从而建立起对安全漏洞的动态实时监控，而不是基于早期训练好的安全威胁模型运行工作。

这种积极主动的方法让企业的安全问题加剧之前就得以缓解和解决。Precedence Research的研究显示，在实时威胁检测和预防需求不断增长的推动下，预计到2032年，全球网络安全领域的人工智能市场规模将达到1027.8亿美元。

虽然利用人工智能对安全漏洞进行实时风险预测具有一些优势，但也存在一定局限。①误报：人工智能系统可能会产生误报，将实际不具威胁的活动或行为标记为潜在安全漏洞。这可能会导致不必要的警报，并增加安全团队的工作量。②语境理解有限：人工智能系统可能难以完全理解某些活动背景，导致遗漏或误解威胁。他们可能无法区分合法用户行为和实际恶意意图，导致潜在安全漏洞。③需求不断演变：人工智能系统需要不断更新和培训，以适应新出现的威胁。新的攻击技术和不断演变的黑客攻击策略可能会给人工智能模型带来挑战，需要持续监控。④对抗性攻击：对手可能有意操纵或欺骗人工智能系统，以逃避检测。他们可以开发复杂的技术，从而利用人工智能模型中的漏洞。⑤复杂性和可扩展性：在安全漏洞中，实施和管理用于实时预测风险的人工智能系统，可能十分复杂且资源密集。

（2）检测网络钓鱼攻击

人工智能驱动的工具能有效发现和预防网络钓鱼企图。人工智能算法在识别和标记可疑电子邮件方面也非常有效。尽管人工智能这一进步仍有局限性，但网络犯罪分子仍在不断调整新技术逃避检测。

他们可能采用社交模式工程、电子邮件欺骗和新型高级混淆模式等策略，使得网络钓鱼行为更具说服力，并逃过基于人工智能的非人类检测系统。因此，在人工智能驱动的网络钓鱼检测工具与攻击者不断演变的策略之间，存在一场持续的猫鼠追逐。要跟上不断变化的网络钓鱼攻击形势并保持有效的检测能力，就需要定期、持续地更新和改进人工智能模型及算法。

（3）利用人工智能检测和预防恶意软件

恶意软件的快速演变不断给网络安全带来挑战。值得庆幸的是，人工智能在这方面具有超强能力，可以用来轻松识别和阻止此类有害软件传播。人工智能算法可以利用机器学习从以前的恶意软件数据中积累经验，以识别新的、未被发现的威胁。这一策略通过自动检测恶意软件模式，加强了企业的防御能力，来应对不断演变的网络威胁。然而，该领域仍面临着以下挑战：

①对抗攻击。恶意软件创建者越来越频繁地使用技术来逃避基于人工智能系统的检测。对抗攻击涉及修改或制作恶意软件样本，以避开或误导人工智能算法。

②缺乏标注数据。人工智能模型通常需要大量的标注数据进行训练。然而，获取一个全面多样的标注恶意软件样本数据集极具挑战。恶意软件不断演变以及新变种频繁出现，让获取数据集变得十分困难。

③零日攻击。零日攻击是指软件供应商或安全社区未知的漏洞或利用方式。对于基于人工智能的恶意软件检测系统来说，这些攻击尤其具有挑战性，因为没有以往的数据或模式可供学习。

④误报与误判。在准确检测与尽量减少误报（合法文件被识别为恶意软件）和误判（未检测到恶意软件）之间实现平衡仍然是一项挑战。

⑤可解释性和可说明性。恶意软件检测的人工智能模型通常依赖于复杂的算法，如深度学习，这些算法往往难以解释和说明。

因此，随着网络安全威胁不断变化，各企业必须采用新的解决方案，以保持在网络威胁面前的领先地位。人工智能的发展作为一种强有力的防御机制，使企业能够加强网络安全并建立弹性。

据估计，人工智能在网络安全领域的市场规模将在本十年的后半段达到132.9亿美元，并预计从2022年到2030年的复合年增长率将达到37.3%。因此，企业可以利用这项技术的潜力来保护他们的敏感信息，并通过采用人工智能驱动的解决方案，满怀信心地应对充满挑战的网络安全形势。

信息来源：

https://www.forbes.com/sites/forbestechcouncil/2023/08/17/resilience-building-ai-as-a-key-defense-mechanism-in-the-cybersecurity-landscape/?sh=5c62bc6e5d43