Moonshot在10月25日发布Kimi K3.1 Pro时,做了一项少见的公开取舍:在扩大开放生态的同时,主动削弱模型的网络攻击能力。这个动作把开放权重治理从抽象承诺推进到可量化的工程选择。据《印度快报》转引路透报道,这款模型属于3万亿参数级别的开放权重模型,权重计划在11月4日发布,开发者届时可在自己的系统上运行和修改。这使其安全处理方式在发布前就受到关注。对其他开放权重厂商来说,如何在生态利益和安全责任之间画线,已经无法回避。
削减发生在训练阶段
Moonshot表示,公司从训练语料和强化学习环境中移除了网络安全相关数据,覆盖模型能力形成的不同阶段,同时尽量保留一般编码能力,避免把开发助手的价值一起削掉。其内部基准显示,未削减版本在受控环境中查找并利用软件漏洞的表现为90.5%,发布版本降至81.0%。这组数字来自公司自测,尚未经过独立验证;公众目前能判断的是处理方式,而不是最终安全效果。
这个细节值得强调:削减不是在产品端加一道拒绝回答的过滤器,而是在训练和强化学习阶段减少相关能力来源。对于开放权重模型来说,这种做法更关键,因为权重一旦发布,原开发者很难像托管服务那样持续监控使用、更新护栏或限制访问;能力一旦进入权重,撤回和修补都会困难得多,所以处理时机必须提前到发布之前。
开放权重与安全焦虑
Moonshot给出的原则是,不发布会扩展网络攻击能力绝对前沿的开放权重。这句话反映了行业当下的两难:开放权重有利于研究、本地部署和生态竞争,也能让学校、企业和政府部门低成本验证模型行为,但也让高能力模型更容易被复制、改造和滥用。尤其是能写代码、调用工具、执行长任务的智能体,可能降低漏洞发现和自动化攻击的门槛。若模型还能自动阅读日志、检索资料和迭代测试,风险就从单次回答扩展到连续作业。
K3.1 Pro还提供100万token上下文窗口,可以把大代码库、长日志和项目文档放进同一个上下文。Moonshot同时发布了速度更快的K3.1 Pro Highspeed版本,官方称其速度为标准版的两到三倍。大上下文和自动化编码能力对开发效率有帮助,但也意味着安全治理不能只看模型回答单个问题的表现,还要看其在多步任务中调用工具时的边界。
安全基准需要外部检验
Moonshot公布自测分数是透明的一步,也让外部研究者有了可比对象。但削弱是否足够,仍需要红队、独立安全研究者和漏洞赏金环境检验。真实攻击并不总是追求最高分数,有时只要求找到低防御目标、稳定复现漏洞并自动化利用。仓库安全、权限最小化和网络隔离,仍是比模型承诺更基础的防线。企业还应限制智能体读取凭据和生产网络的范围。
对用户来说,此事的启示很直接:不要因为厂商宣称“削减攻击能力”就放松供应链防护,也不应因开放权重本身否定其研究价值。更成熟的路径是把能力评测、发布分级、滥用报告和本地权限隔离结合,让开放性与安全性同时落地。对其他准备发布权重的公司而言,Moonshot的处理方式提供了一个需要继续验证的模板。