美国纽约州众议员亚历克斯·博雷斯11月6日在社交平台发文，呼吁美国国会今年立法禁止AI递归自我改进。他写道：“国会应当禁止递归自我改进，如果可能的话，就在今年。”文末又强调：“国会必须禁止递归自我改进。”
所谓递归自我改进，是指让AI自动构建下一代AI、完全自动化AI研究的过程。博雷斯警告，一旦AI开始自我迭代，人类将失去对技术发展的控制节奏，每一代的错误或对齐偏差都可能在下一代中被放大。
他给出的时间表颇具紧迫感：OpenAI表示有望在2028年3月前实现递归自我改进，Anthropic员工则称有望在2027年实现。METR的报告既警告这一刻正在临近，也指出既有的保障措施无法阻止它，留给立法的时间窗口正在收窄。
禁令不必永久，但必须紧急
博雷斯同时留出了讨论空间：禁令的具体机制可以讨论，也不必是永久性的，但“它是紧急的”。他还举例说，机制可以包括要求由人类启动每一次新的模型训练，解除禁令的标准则可以是一份被接受的安全论证，管制与发展之间并非零和博弈。
他列出的支持者横跨政治光谱：参议员伯尼·桑德斯、前白宫策略师史蒂夫·班农、消费者权益活动家拉尔夫·纳德、评论员格伦·贝克、两党州总检察长、举报人丹尼尔·科科塔伊洛，以及图灵奖得主约书亚·本吉奥等人。名单之外，更多技术界人士也在发声：普林斯顿的阿温德·纳拉亚南长期主张“AI只是普通技术”，如今也对自我改进表达了担忧，技术界的焦虑正在汇聚成政治压力。
这条帖子发布后获得50.4万次浏览、1100次点赞与281次转发。博雷斯本人是纽约州众议员、计算机科学家与AI安全倡导者，长期关注AI治理议题，这次发声是他推动立法议程的最新一步。
AI治理的立法时钟开始走动
递归自我改进之所以成为焦点，是因为它触及了AI治理最核心的难题：当AI能够改进AI时，人类的监督能力可能被甩在身后。立法者想要的，是在失控之前先划出一条线，而不是在失控之后再去追赶。支持者名单里既有左翼的桑德斯，也有右翼的班农，这种跨越光谱的共识在美国政治中并不常见，恰恰说明了议题的特殊性。
当然，呼吁立法与通过立法之间还有很长的路。国会今年能否就此采取行动，取决于两党的立法优先级与AI行业的游说力量，博雷斯的帖子更像是一声发令枪，而不是终点线。
但无论结果如何，这场辩论已经从技术圈蔓延到了国会山。AI自我改进从一个研究课题变成了一个立法议题，本身就说明：关于AI发展的控制权之争，正式进入了政治议程。对AI行业来说，立法呼吁本身就是一种信号：自我改进的竞赛再快，也快不过监管的耐心，合规的成本正在上升。