2024年1月，美国智库阿斯彭研究所发布《用人工智能展望网络未来》的报告，从正反两个角度分析了人工智能未来可能改善和危害网络安全的方式，并提出引导人工智能助益网络安全的七项建议，以最大限度地提高网络安全效益，减少网络安全风险。

1. 有利的未来情景

现代人工智能工具可帮助组织快速识别和响应威胁，提高网络安全人员的工作效率。例如企业高管和IT安全领导人员可使用人工智能来优化决策、评估风险并在财务上作出合理的运营决策；安全团队可使用人工智能工具来分析大量数据并检测异常活动或恶意用户。人工智能未来改善网络安全的方式具体如下：

（1）提高防御者效率

人工智能工具可通过处理大量数据、识别异常行为，让组织能更高效地执行现有网络安全流程。利用人工智能工具，组织可更早、更准确地检测到威胁，让分析人员能更快地采取行动。在传统模式下，攻击者相对于防御者有着主动优势，人工智能工具的出现可打破这种平衡。人工智能工具可为防御者提供的网络防御能力包括：漏洞优先级排序、网络流数据分析、用户行为分析、潜在恶意软件检测、端点数据分析、受感染端点或进程隔离、网络钓鱼防御。

（2）改善防御者服务

人工智能工具可提高服务质量，提高用户体验感，一些组织正借助人工智能工具开发服务聊天机器人，以改善用户服务：

①缩短响应时间——根据用户角色、环境及其遇到的问题量身定制自动响应方案；

②提供高质量的用户参与度分析——分析哪些解决方案和参与模型可提高用户满意度，从而为用户提供最佳服务；

③适应用户需求——评估用户的知识和技能水平，提供适合用户需求的网络安全指导；

④节省劳动力——解决不需要人工分析的问题，节省劳动力。

（3）人工智能责任和质量改进

人工智能工具可生成高质量、准确的结果，并且在未能做到这一点时承担责任。组织熟悉人工智能工具的潜在限制和风险，识别人工智能工具可能出现的恶意篡改和“幻觉”现象，并在高风险场景中对人工智能系统进行干预。

一般而言，在获取数据的广度、深度和迭代方面防御者相较攻击者都更具有优势，能比大多数攻击者能更有效地使用人工智能。因此，政府和企业能比犯罪分子更有效地运用人工智能工具。

2. 有害的未来情景

如果犯罪分子能比防御者更好地利用现代人工智能工具进行攻击、协作和学习，那么人工智能工具便会增强攻击者的能力，并使防御者处于不利地位。网络犯罪分子在不具备较高编程能力的情况下，可使用人工智能工具来编写恶意软件，还可与恶意组织合作，利用组织获得的高质量数据来训练人工智能模型。因此，犯罪分子和恶意组织的攻击技术和隐藏能力将会进一步增强，从而实施更广泛的盗窃、间谍活动或破坏性攻击。

（1）提高了网络攻击效率

由于人工智能工具可提高网络攻击的成功率，网络攻击将变得更简单，且成本更低。例如利用人工智能工具，攻击者可按需生成定制恶意软件；使攻击时受到的限制减少；生成自动化脚本提高加密劫持能力；增加鱼叉式网络钓鱼的成功率；使用开源情报机器学习让攻击者能更好地了解攻击目标；帮助攻击者搜索互联网以更轻松地找到易受攻击的系统；将机器学习融入恶意软件；实现攻击面枚举；高效发现可攻击漏洞；开展虚假信息活动；破坏防御性人工智能工具。

（2）网络犯罪形势更为复杂

人工智能工具还会影响参与网络犯罪的实体类型及其互动方式。犯罪集团相互合作，整合并不断增强其网络犯罪能力。如：更好的分工，犯罪集团利用其不同的优势，进行更好的分工合作；改进勒索软件部署，擅长使用勒索软件的犯罪组织与流氓国家合作破坏目标国家的经济；恶意信息宣传，更小、更灵活的犯罪集团可收集个人信息，开展恶意信息宣传；恶意人工智能模型开发，某些国家为犯罪组织提供数据和基础设施，以支撑恶意人工智能模型开发；等。

（3）网络犯罪追责更加困难

犯罪组织通过使用人工智能工具进行网络攻击，降低了网络攻击的成本，还可将攻击外包给更小、更隐蔽的实体，让网络犯罪追责变得更加困难。此外，防御人工智能攻击的成本远远超过开发这些攻击的成本，且相关能力差距正在扩大。

3. 主要建议

（1）恪守网络安全原则。在使用人工智能工具开展网络安全工作时，网络安全的基础知识始终适用；

（2）不要闭关自守。人工智能和网络安全从业者应共同努力；

（3）主动规划和管理人工智能工具。人工智能工具将做出组织无法审查的决策，因此需要对人工智能工具的使用谨慎考虑、仔细规划，并对人工智能工具能做什么给出明确的选择；

（4）改进日志记录、日志审查和日志维护。人工智能驱动的攻击将越来越难以检测，保存和审查数据至关重要；

（5）保持人工智能的透明度。组织应考虑清楚希望通过人工智能透明度达成什么目标，并确定如何相应地进行披露，甚至是否有必要披露；

（6）确保合同包含人工智能参与规则。组织应考虑将自己的人工智能规则通过合同等形式传递到合作伙伴和第三方；

（7）谨防随波逐流。选取适合的、具有可操作性的领域使用人工智能工具，拒绝在无法保障安全的领域应用人工智能。

信息来源：

https://www.aspeninstitute.org/news/envisioning-cyber-futures-with-ai-paper-release/

https://www.aspendigital.org/wp-content/uploads/2024/01/Aspen-Digital_Envisioning-Cyber-Futures-with-AI_January-2024.pdf

https://mp.weixin.qq.com/s/ezBIN-hypjbLQ7RiI8FtxQ