2024年9月27日，美国网络与信息技术研发计划（NITRD）官网发布了《美国软件工程和人工智能工程领导力：关键需求和优先事项研讨会报告》。该报告是美国软件和AI研讨会的成果，该研讨会由卡内基梅隆大学软件工程研究所和软件生产力、可持续性和质量（SPSQ）跨部门工作组在美国国家科学基金会的支持下主办，汇集了联邦研究资助机构、研究实验室以及商业组织的专家。

与会者围绕AI如何增强软件开发、软件系统的发展、工程AI对软件系统的支撑等研究主题展开了讨论，探讨了支撑国家重要领域的跨学科研究相关的软件挑战，如何开展有前景的研究，以确保必要系统的设计可靠性和优良性。与会者还探讨了软件开发生命周期中新技术发展以及AI在塑造软件系统未来中的作用。与会者的主要观点可以归纳为如下五个方面：

（1）AI正在改变软件工程流程以及软件系统设计的方式。人与机器的共生关系日益密切，正在改变软件开发生命周期的每个阶段。

（2）生成式AI已经发展到了一个看起来与人类智能相似的复杂水平，然而，对于其输出结果的可信度仍然难以准确评估。

（3）当前的紧迫任务是重新定义软件工程这一学科，使其能够包含新技术（包括但不限于生成式AI）的应用，并对与其实践相关的课程、工具和技术进行重新思考。这项工作对于以负责任且符合伦理道德的方式设计、构建、发展和评估值得信赖的软件系统至关重要。

（4）包括生成式AI在内的新技术有潜力使几乎每个人都成为程序员。因此，整个劳动力队伍都需要发展AI相关的素养和新技能。

（5）使用大语言模型等AI工具可能会隐藏软件系统功能与其安全性之间的平衡问题。因此，有必要开展研究，以识别并阐明在包含AI组件的系统的设计、开发、训练、测试和部署过程中所做出的关键工程权衡。

信息来源：

https://www.nitrd.gov/spsq-cmu-software-ai-engineering-workshop-report-2024/