中国军方研究使用GPT-3.5和Claude输出训练国产模型
中国军方单位和军工院校的论文显示,研究人员曾利用GPT-3.5与Claude的输出训练本地模型,涉及代码摘要、内容审核及无人机图像研究。
首次合成约需 20 秒,之后再访即点即听
解放军单位和军工背景院校发表的论文显示,研究人员曾收集GPT-3.5和Claude生成的内容,用来训练规模更小的国产模型。路透社7月31日审阅80多篇论文和专利后称,相关研究涉及代码摘要、社交媒体监测和无人机图像处理;公开资料尚未证明这些系统已经正式列装。
这些论文采用的主要方法是“知识蒸馏”:研究人员先向能力较强的模型提问,收集回答,再用这些答案训练规模更小、用途更窄的模型。完成训练后,小模型无需持续连接原有服务商,研究人员希望把它们部署到封闭网络或无人机等边缘设备上。
一篇题为《基于大模型知识蒸馏的代码摘要自动生成》的论文,作者单位全部标注为“中国人民解放军96941部队”。研究人员让GPT-3.5为Java程序生成一句话说明,随后用215万组代码与摘要训练Jam模型。参数量为3.5亿的版本可以在一张16GB消费级显卡上运行;15名程序员比较输出后,52%选择GPT-3.5,46%选择Jam。
实验使用的是公开的funcom-java-long数据集,内含Java方法及人工编写的摘要。论文没有显示敏感军事源代码曾被上传至OpenAI,也没有说明Jam已经接入军方业务系统。研究人员验证的是代码摘要能力能否从GPT-3.5转移至小模型;完成训练后,新代码可以留在本地处理。
路透社援引公开资料及华盛顿智库詹姆斯敦基金会的研究,将96941部队与情报及网络作战研究联系起来。论文页面本身只公开了作者姓名、部队编号、实验方法和结果,没有说明该部队的具体职能。
路透社审阅的另一篇论文来自中北大学。该校官网资料显示,学校由山西省政府管理,并与工业和信息化部、国家国防科技工业局共建,具有长期军工科研背景。路透社称,研究人员使用Anthropic的Claude 3 Haiku生成合成数据,训练用于社交媒体文本分类、监测及内容审核的模型。锐报未取得这篇论文的完整文本,现有资料也不能证明有关系统已经投入实际监控。
路透社还审阅了国防科技大学研究人员的相关材料。报道称,研究人员利用蒸馏方法缩小图像模型,以便在无人机等设备上运行,并在断网时辅助导航与目标识别。锐报尚未取得报道所指论文或专利的完整文本;公开资料也没有证实有关系统已经列装或用于作战。
路透社没有发现OpenAI或Anthropic向中国军方提供模型权重或开展专门合作。论文记载的训练材料来自模型输出。代码摘要和文本分类的任务范围较窄,小模型可以从大量样本中模仿其中一项能力,但无法由此复制通用大模型的全部功能。
美国近年的对华技术管制主要针对先进芯片、制造设备和高性能计算服务。商业模型通过网站或应用程序接口返回的文本和图像较难逐条追踪。研究人员把输出整理成训练集后,本地模型无需再次连接原服务商,原服务商也较难再通过账号管理和在线安全规则直接限制其用途。
“知识蒸馏”本身是人工智能行业常用的训练方法,争议集中在访问方式、使用规模、服务条款和最终用途。Anthropic今年指控数家中国人工智能企业利用虚假账号大量调用Claude,以收集训练数据。中国商务部7月27日回应另一宗商业模型争议时称,美方指控缺乏事实和法律依据,并批评华盛顿以“蒸馏”为由威胁制裁中国企业。这份回应针对商业公司,没有提及路透社审阅的军方论文。
截至发稿,涉事军方单位和院校未就路透社调查公开回应。论文所列实验也没有披露训练数据的完整来源、模型后续使用单位或部署时间。公开材料目前可以确认的是,美国商业模型的输出已经进入中国国防相关研究;这些原型是否转为军方正式系统,仍缺少可独立核实的证据。
信源说明:本文依据路透社7月31日对80多篇中国论文和专利的调查、解放军96941部队作者发表于《指挥控制与仿真》的代码摘要论文及实验数据、中北大学官方校情资料,以及路透社对中美“模型蒸馏”争议的报道整理。锐报复核发现,96941部队论文使用公开Java数据集,不能支持“GPT-3.5处理敏感军事源代码”的说法;中北大学与国防科技大学项目的用途和证据边界按路透社调查表述。
读到这里,说明你关注真正重要的事
锐报每周深度分析直送邮箱——财经、地缘、科技,穿透表象。零广告,零废话。