Anthropic提出AI安全新主张，监管俘获风险引发行业担忧
Anthropic公司的批评者认为该公司正在以安全为名迅速积累权力。这家AI公司自己则声称，负责任的AI发展正是需要这样的权力集中。《连线》杂志的最新调查揭示了Anthropic在安全叙事和行业影响力建设方面的双重策略，这种模式如果持续下去，未来的AI监管框架很可能主要由少数企业主导设计。
Anthropic的核心论点是，AI安全是一个需要深厚技术能力和持续研发投入的专业领域，只有掌握最先进模型的企业才有足够信息做出负责任的决策。政府监管机构由于技术信息不对称，很难制定出既有效又不过度阻碍创新的监管规则。因此最佳路径是让领先的AI企业在安全标准制定中扮演核心角色，政府主要负责事后监督和执法。
这种观点自然引发了对监管俘获的普遍担忧。如果监管规则主要由被监管对象参与制定，结果很可能偏向保护在位企业的商业利益而非公众利益。当前最典型的争议就是安全许可制度，如果只有少数几家企业能够获得训练最先进模型的安全资质，实际上就等于以安全为名筑起了行业准入壁垒，可能造成事实上的垄断局面。
值得注意的是Anthropic与美国国家安全部门的合作深度。该公司创始人多次参与政府层面的AI安全会议，并在多个联邦机构的AI咨询委员会中担任要职。这种紧密的政企合作模式在快速推动安全政策落地的同时，也引发了技术发展方向是否过度偏向国家安全需求的疑问。毕竟很多安全技术如果用于民用场景，往往意味着监控能力的增强和个人隐私的削弱。
独立AI安全研究人员的担忧更为具体：如果安全研究资源主要集中在少数几家大企业，学术界和民间机构将难以获得足够的数据和模型使用权开展独立验证。这种信息不对称可能导致安全研究群体产生"认知依赖"，即只能在企业设定的框架内进行研究，失去真正独立的批判能力。历史上其他技术领域（如医药、核能）都曾出现过类似的专家群体被产业界"俘获"的现象。
全球AI治理目前正处于规则形成的关键时期，各国监管机构都在努力平衡安全与创新的关系。Anthropic等企业的积极参与无疑具有积极意义，但如何确保企业利益不凌驾于公共利益之上，确实需要设计更精巧的制度安排。透明度要求、多元化专家参与、以及定期的独立评估机制可能都是不可或缺的制衡要素。