随着快速发展的技术随着时间的推移变得越来越强大， OpenAI正在组建一个新团队，旨在最大限度地减少人工智能带来的风险。
在周四的一篇博客文章中，这家以流行聊天机器人 ChatGPT 闻名的公司宣布，它已经组建了一个由 Aleksander Madry 领导的“准备”团队，他在麻省理工学院教职休假期间一直在 OpenAI工作。该小组将分析并试图防范人工智能系统潜在的“灾难性风险”，从网络安全问题到化学、核和生物威胁。
该团队还将制定一项政策，旨在帮助该公司确定如何降低开发所谓“前沿模型”可能带来的风险，“前沿模型”是比一般技术更强大的下一代人工智能技术。今天使用中。
OpenAI 的目标长期以来一直集中在构建通用人工智能(AGI)——能够比人类更好地执行一系列任务的人工智能。虽然当前的人工智能系统不符合这一描述，但该公司表示，需要“确保我们拥有高性能人工智能系统安全所需的理解和基础设施。”