2024年2月14日，日本政府宣布成立人工智能安全研究所，加强对人工智能安全性的研究和评估，促进该技术发展，并保障国家和社会安全。该研究所由内阁府主导，汇集了内务秘书处、警察厅、数码厅、总务省等部门的力量，并与情报处理推进机构（IPA）合作，致力于建立人工智能安全性评估的标准和方法。

该研究所的主要职责包括开展安全性评估研究和标准制定，并与其他国家的人工智能安全研究所建立合作。根据财联社和日经新闻的报道，日本政府此举还旨在应对人工智能技术在军事上的潜在风险，如民用人工智能技术被转用于军事目的。日本政府计划在不妨碍人工智能研发的前提下，通过一系列的测试和专业机构的认证来提高人工智能产品的安全性。此外，该研究所还将研究通过人工智能制造生物和化学武器信息的可能性，检查安全漏洞，并探讨受人工智能控制的社交媒体账号可能带来的风险。

日本政府成立人工智能安全研究所，展示了其在确保技术进步同时，防范潜在风险的决心。

信息来源：

https://www8.cao.go.jp/cstp/stmain/20240214.html