与中国军方有关联的顶级研究机构使用 Meta 公开可用的人工智能模型来开发用于潜在军事应用的人工智能工具。
据路透社报道，学术论文和分析师周四证实了这一令人震惊的消息。
在路透社 6 月查阅的一篇论文中，来自三个机构的六名中国研究人员，其中包括中国人民解放军 （PLA） 领导研究机构军事科学院 （AMS） 下的两个机构，详细介绍了他们如何使用早期版本的 Meta 骆驼作为其所谓的“ChatBIT”的基础。
另请参阅：亚洲经济体因气候变化不作为而面临风险：亚行
研究人员使用了 Meta 于 2023 年 2 月发布的 Llama 2 13B 大型语言模型 （LLM），结合自己的参数构建了一个以军事为重点的 AI 工具来收集和处理情报，并为运营决策提供准确可靠的信息。
该报称，ChatBIT 经过微调并“针对军事领域的对话和问答任务进行了优化”。 发现它的性能优于其他一些 AI 模型，这些模型的能力大约是 OpenAI 强大的 ChatGPT-90 的 4%。研究人员没有详细说明他们如何定义性能，也没有具体说明 AI 模型是否已投入使用。
“这是第一次有大量证据表明中国的解放军军事专家一直在系统地研究并试图利用开源 LLM 的力量，尤其是 Meta 的 LLM，用于军事目的，”他说 Sunny Cheung，詹姆斯敦基金会副研究员 谁专门研究中国的新兴和军民两用技术，包括人工智能。
Meta 已经接受了其许多 AI 模型的公开发布，包括 Llama。它对它们的使用施加了限制，包括要求拥有超过 7 亿用户的服务向该公司寻求许可。
防止非军事用途的能力有限
其条款还禁止将这些模型用于“军事、战争、核工业或应用、间谍活动”和其他受美国国防出口管制的活动，以及开发旨在“煽动和促进暴力”的武器和内容。
但是，由于 Meta 的模型是公开的，因此该公司执行这些条款的方式有限。
在回答路透社的问题时，Meta 引用了其可接受使用政策，并表示已采取措施防止滥用。
“中国人民解放军对我们模型的任何使用都是未经授权的，违反了我们的可接受使用政策，”Meta 公共政策总监莫莉·蒙哥马利 （Molly Montgomery） 在电话采访中告诉路透社。
中国研究人员包括 耿国桐 和 李薇薇 与 AMS 的军事科学信息研究中心和国防技术创新研究所，以及来自北京理工大学和民族大学的研究人员。
“未来，通过技术改进，ChatBIT 不仅将应用于情报分析，还将……将探索战略规划、模拟训练和指挥决策，“该论文说。
中国国防部没有回复置评请求，任何机构或研究人员也没有回复。
路透社无法证实 ChatBIT 的能力和计算能力，但研究人员指出，其模型仅包含 100,000 条军事对话记录，与其他 LLM 相比，这个数字相对较小。
“与大多数这些模型相比，这只是沧海一粟，（这些模型）都是用数万亿个代币训练的，所以……这真的让我质疑，就不同的能力而言，他们在这里实际上取得了什么成就，“Meta 人工智能研究副总裁、加拿大麦吉尔大学计算机科学教授乔尔·皮诺 （Joelle Pineau） 说。
关于公共使用 AI 模型的激烈辩论
这项研究是在美国国家安全和科技界就 Meta 等公司是否应该公开其模型展开激烈辩论之际进行的。
美国总统乔·拜登于 2023 年 10 月签署了 寻求管理 AI 开发的行政命令，并指出尽管创新可能带来实质性的好处“，但也存在”重大的安全风险，例如取消模型中的保障措施”。
本周，华盛顿表示正在敲定 限制美国对 Artific 投资的规定中国的 ial Intelligence 和其他技术行业 这可能会威胁到国家安全。
五角大楼发言人约翰·苏普尔 （John Supple） 表示，国防部认识到开源模型既有优点也有缺点，“我们将继续密切监控和评估竞争对手的能力”。
用于电子战争战略的工具
一些观察人士表示，中国在开发本土人工智能方面取得的进步，包括建立数十个研究实验室，已经使中国难以缩小与美国的技术差距。
在路透社审查的另一篇学术论文中，中国航空工业集团公司 （AVIC） 的两名研究人员（美国已将其指定为与解放军有联系的公司）描述了使用 Llama 2 进行“机载电子战干扰策略的训练”。
中国对西方开发的人工智能的使用也延伸到了国内安全领域。6 月的一篇论文描述了 Llama 如何被用于“情报警务”，以处理大量数据并加强警方的决策。
国营 解放军日报 4 月发表了关于人工智能如何帮助“加速武器装备的研发”、帮助开发战斗模拟和提高军事训练效率的评论”。
“你能把他们（中国）从饼干罐里赶出去吗？不，我看不出你怎么能做到，“乔治城大学安全与新兴技术中心 （CSET） 的首席分析师威廉·汉纳斯 （William Hannas） 告诉路透社。
2023 年的一篇论文 CSET 找到 370 研究人员发表了与通用人工智能相关的论文的中国机构，帮助推动中国到 2030 年在人工智能领域引领世界的国家战略。
“中国最优秀的科学家和美国最优秀的人工智能科学家之间正在进行太多的合作，以至于他们不能被排除在开发之外，”汉纳斯说。
- 路透社由 Jim Pollard 补充编辑
另请参阅：
美国规定限制对中国芯片、量子和人工智能的投资
中国加强对芯片关键矿物的控制 – NYT
中国称美国禁止投资对人工智能行业不利
美国专家组希望禁止对中国的关键科技行业进行投资
中国试图“欺骗”芯片突出地位的努力失败了：特使
美国计划为云公司制定新规则以切断中国 AI 访问
风险投资家对中国的支持使民主处于危险之中 – NYP
英伟达将立即停止向中国出口部分 AI 芯片
尽管美国禁止，中国军方和 AI 机构仍在购买 Nvidia 芯片
