原文出自作者(Sam Biddle：美国科技领域记者)
OpenAI 最近在不声不响中，从其使用政策中删除了明确禁止其技术用于军事目的的条款。这一政策原本旨在规定如何使用像 ChatGPT 这样的强大而广受欢迎的工具。
截至 1 月 10 日，OpenAI 的“使用政策”页面曾包含一个明确的禁令，禁止“存在高风险造成身体伤害的活动”，特别指出了“武器开发”和“军事与战争”活动。这一直白的措辞似乎排除了国防部或其他国家军队官方使用这些技术的可能，尤其是考虑到这种使用可能带来的巨大利润。然而，新的政策中，这一对“军事和战争”使用的全面禁令已不见踪影，虽然仍然保留了禁止“使用我们的服务来伤害自己或他人”的原则，并且把“开发或使用武器”作为例子，但整体上显得更为宽泛。
这次未公开的修订是对政策页面的一次重大更新，公司表示此举旨在使文件内容“更清晰”、“更易读”，并包括了许多其他重要的语言和格式变更。“我们的目标是创建一套既易于记忆又易于应用的普遍原则，特别是考虑到现在我们的工具已经被全球的日常用户广泛使用，他们甚至可以自行构建 GPTs，”OpenAI 的发言人 Niko Felix 在给《The Intercept》的邮件中提到。“例如，‘不伤害他人’这一原则虽广泛，但易于理解，且在多种情境下均适用。我们还特别提到武器和伤害他人作为明确的例子。”Felix 没有明确回答这种模糊的“伤害禁令”是否包括所有军事用途，他写道：“任何使用我们技术的行为，包括军事用途，如‘[开发] 或 [使用] 武器，[伤害] 他人或 [破坏] 财产，或 [参与] 未经授权的活动，违反任何服务或系统的安全’，都是不允许的。”
“OpenAI 非常清楚他们的技术和服务在军事应用中可能带来的风险和伤害，”网络安全公司 Trail of Bits 的工程总监 Heidy Khlaaf 表示，她是机器学习和自主系统安全的专家，并引用了她与 OpenAI 研究人员共同撰写的一篇 2022 年的论文，该论文专门指出了军事使用的风险。Khlaaf 还指出，新政策似乎更强调法律合规性而非安全性。“这两项政策有显著区别，前者明确指出禁止开发武器、军事和战争活动，而后者则强调灵活性和遵守法律，”她说。“开发武器和进行军事及战争相关活动在不同程度上是合法的。AI 安全所面临的潜在影响是巨大的。鉴于大语言模型 (LLMs) 中广为人知的偏见和幻觉现象，以及它们整体上的准确性不足，将其应用于军事战争可能只会导致不准确和有偏差的行动，这很可能加剧伤害和平民伤亡。
政策在现实世界中的后果尚不明朗。去年，《The Intercept》报道称，在五角大楼和美国情报界日益增长的兴趣面前，OpenAI 对于是否会坚守其明确的“军事和战争禁令”持保留态度。
“考虑到 AI 系统在加沙针对平民的使用，此刻是一个关键时刻，应当决定是否从 OpenAI 的可用政策中移除‘军事和战争’这些词汇，”AI Now Institute(人工智能研究所)的执行董事兼前联邦贸易委员会(Federal Trade Commission)的 AI 政策分析师 Sarah Myers West 表示。“政策中的措辞仍然模糊，这让人质疑 OpenAI 将如何执行这一政策。”
尽管目前 OpenAI 提供的技术不可能被直接用于杀害人类，无论是军事用途还是其他用途——例如 ChatGPT 无法操控无人机或发射导弹——但任何军事机构的本质都是进行杀戮或至少保持杀戮能力。像 ChatGPT 这样的大语言模型(LLM)可能增强许多与杀戮相关的辅助任务，例如编写代码或处理采购订单。对 OpenAI 提供的定制 ChatGPT 机器人的审查显示，美国军方人员已经在使用这项技术来简化文书工作。直接支持美国作战努力的国家地理空间情报局(National Geospatial-Intelligence Agency)已公开考虑使用 ChatGPT 协助其人类分析师。即便 OpenAI 的工具被军队的某些部门用于非直接暴力的目的，它们仍在辅助一个以杀伤力为主要目的的机构。
《The Intercept》邀请的专家在审查政策变更时指出，OpenAI 似乎在悄悄放宽其对与军队合作的立场。“从‘军事和战争’转向‘武器’这一转变，可能为 OpenAI 开辟了一个空间，支持运营基础设施，只要这些应用不直接涉及到武器的狭义定义开发，”兰卡斯特大学科学与技术人类学名誉教授 Lucy Suchman 说。“当然，我认为，如果声称自己不参与武器的开发或使用，却同时为战争平台做出贡献，这种做法是不诚实的，因为它从包括指挥控制基础设施在内的社会技术系统中排除了武器。” Suchman，一位自 1970 年代以来的人工智能学者，同时也是国际机器人武器控制委员会的成员，补充说，“新的政策文件似乎通过特别强调武器，来回避有关军事合同和战争行动的问题。”
Suchman 和 Myers West 都指出了 OpenAI 与微软的密切合作关系，微软是一家重要的国防承包商，迄今为止已向这家大语言模型(LLM)制造商投资了 130 亿美元，并转售该公司的软件工具。