Anthropic 在 IPO 上市当天,旧金山总部外爆发 AI 安全主题抗议活动,此前因 AI 安全担忧离职的前研究员雅各布・考克森牵头,现场呼吁行业和监管层直接禁止递归自我改进技术,这件事在 AI 行业和资本市场引发很大讨论,一边是上市融资扩大算力投入,另一边是一线研究者担心这项技术会带来失控风险。递归自我改进就是 AI 参与研发、训练下一代更强的 AI,形成能力持续迭代的闭环,这个模式可以大幅加快模型迭代速度,但安全派认为一旦脱离人类监督,AI 能力增速会超出人类管控能力,考克森不认可企业现有的内部管控方案,要求推动行业禁令和监管立法,抗议现场还有 Stop AI 组织等人员到场参与。
本次抗议事件基础信息
- 时间:当地时间 11 月 19 日,Anthropic 上市交易日
- 地点:Anthropic 旧金山总部
- 核心发起者:前研究员雅各布・考克森(Jacob Coxon,9 月因 AI 安全顾虑离职)
- 核心诉求:全面禁止递归自我改进(RSI)
- 参与人员:数十名抗议者,包含其他 AI 安全研究者、Stop AI 组织成员
- 现场行动:演讲、举标语,组织人员封堵办公楼入口
递归自我改进(RSI)通俗解释
| 项目 | 说明 |
|---|---|
| 技术逻辑 | AI 写代码、做实验、生成训练数据,辅助训练更强的下一代 AI,循环迭代 |
| 企业视角 | 提升研发效率,是 Claude 迭代的核心竞争力之一 |
| 安全派担忧 | 迭代速度不可控,人类来不及理解、对齐、管控,存在失控风险 |
| 公司官方态度 | 承认无监督自主迭代不安全,目前还没有实现完全自主 RSI,主张人类主导开发 |
双方核心立场对比
- 抗议方(考克森):现有内部安全机制不够,需要立法、行业协同,直接禁止递归自我改进,不能依靠企业自我约束
- Anthropic 官方:AI 辅助研发会持续推进,完全自主 RSI 尚未实现;如果同行同步约束,公司愿意暂停高风险路线,不接受单方面停摆
事件后续跟进方式
- 关注 Anthropic 官方公告、招股书补充说明,看是否调整 RSI 相关研发策略
- 跟踪美国监管机构、国会针对前沿 AI 安全法案的讨论
- 留意其他 AI 实验室、安全机构发布的联合声明
- 持续关注行业内对递归自我改进的风险评估报告
【相关 FAQ】
问题 1:Anthropic 上市日这场 AI 安全抗议,核心诉求是什么?
回答 1:Anthropic 上市日这场 AI 安全抗议,核心诉求就是前研究员雅各布・考克森呼吁禁止递归自我改进这项 AI 技术,防止 AI 自主迭代脱离人类管控。
问题 2:AI 递归自我改进是什么,为什么会引发这次 Anthropic 上市抗议?
回答 2:AI 递归自我改进指 AI 参与训练下一代更强 AI,加速模型迭代;抗议者认为该技术风险极高,仅靠企业自查不安全,所以在 Anthropic 上市当天发起抗议。
问题 3:发起 Anthropic 这次 AI 安全抗议的前研究员是谁?
回答 3:发起 Anthropic 这次 AI 安全抗议的前研究员是雅各布・考克森,他在今年 9 月就因为对 AI 发展风险的担忧从 Anthropic 离职。
问题 4:Anthropic 本身对递归自我改进是什么态度?
回答 4:Anthropic 承认无监督的递归自我改进存在安全风险,目前还没有做到完全自主的递归自我改进,主张 AI 研发由人类主导,不支持单方面直接叫停该方向研发。
【参考资料】
[2026-11-20](Anthropic 上市当天遭抗议,离职研究员呼吁必须关闭这项 AI 技术)凤凰网科技
[2026-11-20](Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进)IT 之家
[2026-11-20](Anthropic's $1.7 Trillion IPO Draws Protest Over 'Terrifying' Prospect of AI Beyond Human Control)IBTimes UK
[2026-11-19](Anthropic IPO Draws Protests Over AI Safety and Healthcare)Unite.AI
【免责声明】
本次 Anthropic 上市日 AI 安全抗议相关内容仅为行业资讯整理,递归自我改进技术的风险评估目前行业没有统一结论;抗议方观点、企业官方立场都属于行业争论,不代表技术一定会出现安全事故;相关内容不构成投资建议,AI 行业监管政策、技术路线后续仍可能发生变化。
本文来自作者[幽核映射]投稿,不代表新投网立场,如若转载,请注明出处:https://www.eastpo.net/kuaixun/202611/2155.html
评论列表(4条)
我是新投网的签约作者“幽核映射”!
希望本篇文章《Anthropic上市日爆发AI安全抗议,前研究员呼吁禁递归自我改进》能对你有所帮助!
本站[新投网]内容主要涵盖:互联网行业的追踪与探索
本文概览:Anthropic 在 IPO 上市当天,旧金山总部外爆发 AI 安全主题抗议活动,此前因 AI 安全担忧离职的前研究员雅各布・考克森牵头,现场呼吁行业和监管层直接禁止递归自我改进技术,这件事在 AI 行业和资本市场引发很大讨论,一边是上市融资扩大算力投入,另一边是一线研究者担心这项技术会带来失控风险。递归自我改进就是 AI 参与研发、训练下一代更强的 AI,形成能力持续迭代的闭环,这个模式可以大幅加快模型迭代速度,但安全派认为一旦脱离人类监督,AI 能力增速会超出人类管控能力,考克森不认可企业现有的内部管控方案,要求推动行业禁令和监管立法,抗议现场还有 Stop AI 组织等人员到场参与。