2024年8月13日，日本Sakana AI公司发布了全球首个用于自动化科学研究和开放式发现的人工智能（AI）系统——“AI科学家”，该系统可构思、编写代码、运行实验和总结结果，撰写整篇论文和进行同行评审。原则上，该系统可不断重复科学研究过程，以开放式的方式迭代开发想法，就像人类科学家一样。该系统由Sakana AI、牛津大学Foerster实验室、加拿大不列颠哥伦比亚大学团队合作完成。

研究人员提出了全球首个全自动科学发现的综合框架，使前沿大语言模型能够独立进行研究并传达其研究结果。“AI科学家”由四个部分组成：想法生成、实验迭代、论文写作、自动化同行评审。在想法生成阶段，系统首先基于提供的起始模板进行头脑风暴，提出一系列新颖的研究方向。实验迭代阶段，该系统执行提出的实验并生成可视化结果，系统还会记录每个图表的内容描述，确保所保存的图表和实验记录已包含撰写论文所需的所有信息。在论文撰写阶段，系统以标准机器学习会议论文的风格，用LaTeX编写简洁而信息丰富的研究进展报告，并自主使用语义学者搜索并引用相关文献。在自动化同行评审阶段，由大模型驱动的AI评审智能体，能以接近人类的准确度评估生成的论文。这些评审可用于改进当前项目或为未来的开放式创意提供反馈，从而形成一个持续的反馈循环，使系统能不断改进其研究成果。

值得注意的是，尽管“AI科学家”表现出巨大的应用潜力，但它也面临一些挑战和局限性。例如，该系统无法处理或理解视觉信息，从而导致无法读取图表信息；系统偶尔会在写作和评估结果时出现重大错误；系统会为了达成某些目的，偷偷修改代码，试图改变人类设下的游戏规则。

信息来源：

http://arxiv.org/abs/2408.06292v1

https://sakana.ai/ai-scientist/

https://mp.weixin.qq.com/s/0-9v-hB7hb3tg3NtDkRuJw