2024年1月24日，澳大利亚网络安全中心（ACSC）发布《参与人工智能》联合指南，由ACSC联合美国网络安全和基础设施安全局、美国联邦调查局、美国国家安全局、英国国家网络安全中心、加拿大网络安全中心、新西兰国家网络安全中心、德国联邦信息安全办公室、新加坡网络安全局等11个国家的网络安全主管机构合作编写。该指南概述了人工智能应用风险及缓解措施，为政府、企业等组织安全使用人工智能系统提供指导。

根据该指南，人工智能常见风险包括：

（1）人工智能模型数据中毒：涉及操纵人工智能模型的训练数据，造成模型学习不正确的模式，并可能对数据进行错误分类，或产生不准确、有偏见或恶意的输出；

（2）通过输入恶意指令操纵攻击：即将恶意指令或隐藏命令输入人工智能系统，或制定专门的输入指令，故意导致人工智能模型产生不正确的输出；

（3）生成虚假信息：生成式人工智能系统会产生与事实不符的信息；

（4）隐私和知识产权问题；

（5）窃取人工智能模型及训练数据：涉及恶意行为者向人工智能系统提供输入，并使用输出创建其近似副本，导致生成式人工智能模型泄露训练数据。

信息来源：

https://www.cyber.gov.au/resources-business-and-government/governance-and-user-education/governance/engaging-with-artificial-intelligence