2024年3月22日，欧盟发布《科研领域负责任使用生成式人工智能（AI）指南》，旨在防止AI滥用，并确保生成式AI在改进研究实践中发挥积极作用。该指南以《欧洲研究诚信行为准则》《可信赖人工智能指南》等现有原则为框架，意图在欧洲范围内建立一套统一的标准指南。指南强调了研究质量的可靠性、透明度、公平性、彻底性和公正性，以及尊重同事、研究参与者和社会的原则。

1. 对科研人员的建议

（1）对科研成果负最终责任

科研人员需对由AI工具生成或在其支持下生成的内容的完整性负责；科研人员在使用生成式AI所产生的结果时应保持批判的态度，并意识到这些工具的局限性，如偏差、幻觉和不准确性；AI系统既不是作者，也不是共同作者；科研人员不能在科学研究过程中使用生成式AI创建的捏造材料，如伪造、篡改或操纵原始研究数据。

（2）透明地使用生成式人工智能

为透明起见，科研人员应详细说明在研究过程中主要使用了哪些生成式AI工具；科研人员应披露或讨论所使用的生成式AI工具的局限性，包括生成内容中可能存在的偏差，以及可能的缓解措施。

（3）在与AI工具共享敏感或受保护信息时，要特别注意隐私、保密及知识产权相关的问题

科研人员应保护未发表或敏感的作品，不要将其上传到在线AI系统中，除非能保证这些数据不会被重复使用；科研人员不应向在线生成式AI系统提供第三方的个人数据，除非得到数据主体（个人）的同意；科研人员应了解有关隐私、保密和知识产权的技术和道德影响。

（4）尊重适用的国家、欧盟和国际立法

科研人员在使用生成式AI的输出结果时，要避免剽窃的可能，尊重他人的著作权；科研人员有责任妥善处理生成式AI输出的任何个人数据，并遵守欧盟数据保护规则。

（5）不断学习生成式AI工具的正确使用方法

生成式AI工具发展迅速，不断有新的使用方法涌现。科研人员要及时了解最佳实践，并与其他利益相关者分享。

（6）避免在可能影响他人的敏感活动中大量使用生成式AI工具

避免使用生成式AI工具，导致不公平待遇或潜在的评估风险；保护科研人员未发表的原创作品，使其免于暴露或被纳入AI模型。

2. 对科研机构的建议

（1）促进、指导和支持在研究活动中负责任地使用生成式AI工具

科研机构应提供和促进关于使用生成式AI工具的培训；科研机构应提供支持和指导，确保生成式AI工具的使用符合道德和法律要求。

（2）监督组织内生成式AI系统的开发和使用情况

科研机构应重视机构内使用生成式AI工具的研究活动和流程，以便为生成式AI的使用提供进一步指导，确定培训需求；科研机构应分析生成式AI技术和工具的局限性，并向科研人员提供反馈和建议。

（3）将生成式AI相关指南纳入研究实践和伦理的一般研究指南中

科研机构可以生成式AI相关指南为基础，制定生成式AI的使用相关规定，并向研究人员和利益相关者征求意见；科研机构应尽可能以生成式AI相关指南为指导。

（4）在可能和必要的情况下，对生成式AI工具施行本地托管或基于云的管理。

以此，科研人员可将其科学数据保存到能保障数据安全的工具中。科研机构应确保这些系统达到相应的网络安全水平。

3. 对科研资助组织的建议

资助组织在不同的背景下运作，遵循不同的任务和规定，可能与单一的一套准则不一致。以下是一些有效的做法，供各组织以最适合其具体情况和目标的方式加以实施。

（1）促进和支持在研究中负责任地使用生成式人工智能

科研资助组织设计的资助工具应开放、易于接受，并支持科研人员负责任、合乎道德地使用生成式AI技术；科研资助组织应要求受资助的研究机构和受资助者，鼓励研究人员和研究机构遵守现有的法律、研究标准，合乎道德和负责任地使用生成式AI技术。

（2）审查生成式AI在其内部流程中的使用情况

科研资助组织对在其活动中使用生成式AI产生的影响负全部责任。科研资助组织应以透明的方式使用生成式AI，特别是在与评估和评价管理有关的活动中，并且不损害内容的保密性和过程的公平性；在选择生成式AI工具时，科研资助组织应审查该工具是否符合质量、透明度、完整性、数据保护、保密性和尊重知识产权的标准。

（3）要求项目申请者在使用生成式AI方面保持透明性

科研项目申请者应声明在申报过程中是否使用了生成式AI工具，并说明该工具在研究活动中的作用。

（4）监督并推动生成式AI的发展

科研资助组织应加强对在科研中负责任地使用生成式AI的培训和教育计划的资助。

信息来源：

https://intellectual-property-helpdesk.ec.europa.eu/news-events/news/new-guidelines-responsible-use-generative-artificial-intelligence-2024-03-22_en

https://research-and-innovation.ec.europa.eu/document/download/2b6cf7e5-36ac-41cb-aab5-0d32050143dc_en?filename=ec_rtd_ai-guidelines.pdf

https://mp.weixin.qq.com/s/hKUT0fLMx_GdNVAHlOjtaw