2025年1月7日，美国国土安全部发布《公共部门生成式AI部署手册》，旨在帮助政府官员负责任地使用生成式AI技术，以改善公共服务。该手册基于国土安全部在2024年进行的三个生成式AI试点项目的经验，强调了在保护隐私、公民权利和自由的同时，如何将生成式AI技术有效地整合到公共部门的运营中。

1. 开发生成式AI应用程序采取的步骤

（1）开发任务增强型生成式AI用例。组织应确保生成式AI部署与其任务对齐，并设计试点项目以支持任务增强型流程。试点项目应解决特定问题，并在成功后考虑扩展到其他部门或流程。

（2）建立联盟并促进有效治理。从最高领导层获得支持，并建立跨组织联盟以监督生成式AI部署。评估现有治理结构，并考虑创建新的治理机构以应对AI治理。

（3）加强工具和基础设施利用。利用现有技术工具和基础设施来支持生成式AI的开发。考虑使用商业、开源或开放权重模型，并评估是否需要额外的工具或配置。

（4）负责任且安全地使用AI。从一开始就优先考虑负责任和可信的AI使用，并建立组织对“负责任”和“可信”的共同理解。明确生成式AI的局限性和风险，并制定明确的组织指导原则和最佳实践。

（5）评估和监控。开发定性和定量指标，以监测生成式AI试点项目目标完成情况，并向内部利益相关者传达试点项目的进展。

（6）培训和人才招聘。为员工提供生成式AI使用的培训，提升基本技能。确定生成式AI必要的技术技能，并评估组织中是否已具备这些技能，招聘能够支持生成式AI开发的技术人才。

（7）建立可用性测试和其他反馈机制。在生成式AI试点项目生命周期的开始，识别相关用户，并在整个项目开发过程中定期进行可用性测试。与用户和其他利益相关者进行双向沟通，以获得反馈。

2. 风险管理

（1）风险识别。识别潜在风险，包括幻觉、隐私侵犯、歧视、数据偏见、对公民权利和自由的威胁、物理安全和数据安全。评估现有政策和监管框架对生成式AI使用的适用性，并在必要时制定明确的组织指导原则和最佳实践。

（2）风险缓解。与法律、隐私、公民权利和自由以及网络安全专家合作，解决开发过程中负责任使用的问题。对所有生成式AI工具进行测试，并在必要时回滚开发工作。定期进行风险识别、缓解和补救措施。

（3）政策和监督。制定政策，明确生成式AI工具的应用范围，确保其输出不是任何关键决策的唯一依据，并在使用前进行人工审查。将监督办公室嵌入生成式AI部署过程中，确保生成式AI试点项目符合负责任地使用AI的原则。

信息来源：

https://www.dhs.gov/publication/dhs-generative-ai-public-sector-playbook

https://www.dhs.gov/news/2025/01/07/dhs-unveils-playbook-deployment-artificial-intelligence-public-sector

https://mp.weixin.qq.com/s/tUFoNtzd1igajRqliblJJg