Anthropic上市日爆发AI安全抗议,前研究员呼吁禁递归自我改进

Anthropic 在 IPO 上市当天,旧金山总部外爆发 AI 安全主题抗议活动,此前因 AI 安全担忧离职的前研究员雅各布・考克森牵头,现场呼吁行业和监管层直接禁止递归自我改进技术,这件事在 AI 行业和资本市场引发很大讨论,一边是上市融资扩大算力投入,另一边是一线研究者担心这项技术会带来失控风险。递归自我改进就是 AI 参与研发、训练下一代更强的 AI,形成能力持续迭代的闭环,这个模式可以大幅加快模型迭代速度,但安全派认为一旦脱离人类监督,AI 能力增速会超出人类管控能力,考克森不认可企业现有的内部管控方案,要求推动行业禁令和监管立法,抗议现场还有 Stop AI 组织等人员到场参与。

本次抗议事件基础信息

  • 时间:当地时间 11 月 19 日,Anthropic 上市交易日
  • 地点:Anthropic 旧金山总部
  • 核心发起者:前研究员雅各布・考克森(Jacob Coxon,9 月因 AI 安全顾虑离职)
  • 核心诉求:全面禁止递归自我改进(RSI)
  • 参与人员:数十名抗议者,包含其他 AI 安全研究者、Stop AI 组织成员
  • 现场行动:演讲、举标语,组织人员封堵办公楼入口

递归自我改进(RSI)通俗解释

项目说明
技术逻辑AI 写代码、做实验、生成训练数据,辅助训练更强的下一代 AI,循环迭代
企业视角提升研发效率,是 Claude 迭代的核心竞争力之一
安全派担忧迭代速度不可控,人类来不及理解、对齐、管控,存在失控风险
公司官方态度承认无监督自主迭代不安全,目前还没有实现完全自主 RSI,主张人类主导开发

双方核心立场对比

  • 抗议方(考克森):现有内部安全机制不够,需要立法、行业协同,直接禁止递归自我改进,不能依靠企业自我约束
  • Anthropic 官方:AI 辅助研发会持续推进,完全自主 RSI 尚未实现;如果同行同步约束,公司愿意暂停高风险路线,不接受单方面停摆

事件后续跟进方式

  1. 关注 Anthropic 官方公告、招股书补充说明,看是否调整 RSI 相关研发策略
  2. 跟踪美国监管机构、国会针对前沿 AI 安全法案的讨论
  3. 留意其他 AI 实验室、安全机构发布的联合声明
  4. 持续关注行业内对递归自我改进的风险评估报告

【相关 FAQ】

问题 1:Anthropic 上市日这场 AI 安全抗议,核心诉求是什么?

回答 1:Anthropic 上市日这场 AI 安全抗议,核心诉求就是前研究员雅各布・考克森呼吁禁止递归自我改进这项 AI 技术,防止 AI 自主迭代脱离人类管控。

问题 2:AI 递归自我改进是什么,为什么会引发这次 Anthropic 上市抗议?

回答 2:AI 递归自我改进指 AI 参与训练下一代更强 AI,加速模型迭代;抗议者认为该技术风险极高,仅靠企业自查不安全,所以在 Anthropic 上市当天发起抗议。

问题 3:发起 Anthropic 这次 AI 安全抗议的前研究员是谁?

回答 3:发起 Anthropic 这次 AI 安全抗议的前研究员是雅各布・考克森,他在今年 9 月就因为对 AI 发展风险的担忧从 Anthropic 离职。

问题 4:Anthropic 本身对递归自我改进是什么态度?

回答 4:Anthropic 承认无监督的递归自我改进存在安全风险,目前还没有做到完全自主的递归自我改进,主张 AI 研发由人类主导,不支持单方面直接叫停该方向研发。

【参考资料】

[2026-11-20](Anthropic 上市当天遭抗议,离职研究员呼吁必须关闭这项 AI 技术)凤凰网科技

[2026-11-20](Anthropic 上市当天,离职研究员考克森在其总部外呼吁禁止 AI 递归自我改进)IT 之家

[2026-11-20](Anthropic's $1.7 Trillion IPO Draws Protest Over 'Terrifying' Prospect of AI Beyond Human Control)IBTimes UK

[2026-11-19](Anthropic IPO Draws Protests Over AI Safety and Healthcare)Unite.AI

【免责声明】

本次 Anthropic 上市日 AI 安全抗议相关内容仅为行业资讯整理,递归自我改进技术的风险评估目前行业没有统一结论;抗议方观点、企业官方立场都属于行业争论,不代表技术一定会出现安全事故;相关内容不构成投资建议,AI 行业监管政策、技术路线后续仍可能发生变化。

本文来自作者[幽核映射]投稿,不代表新投网立场,如若转载,请注明出处:https://www.eastpo.net/kuaixun/202611/2155.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 幽核映射
    幽核映射 2026年11月20日

    我是新投网的签约作者“幽核映射”!

  • 幽核映射
    幽核映射 2026年11月20日

    希望本篇文章《Anthropic上市日爆发AI安全抗议,前研究员呼吁禁递归自我改进》能对你有所帮助!

  • 幽核映射
    幽核映射 2026年11月20日

    本站[新投网]内容主要涵盖:互联网行业的追踪与探索

  • 幽核映射
    幽核映射 2026年11月20日

    本文概览:Anthropic 在 IPO 上市当天,旧金山总部外爆发 AI 安全主题抗议活动,此前因 AI 安全担忧离职的前研究员雅各布・考克森牵头,现场呼吁行业和监管层直接禁止递归自我改进技术,这件事在 AI 行业和资本市场引发很大讨论,一边是上市融资扩大算力投入,另一边是一线研究者担心这项技术会带来失控风险。递归自我改进就是 AI 参与研发、训练下一代更强的 AI,形成能力持续迭代的闭环,这个模式可以大幅加快模型迭代速度,但安全派认为一旦脱离人类监督,AI 能力增速会超出人类管控能力,考克森不认可企业现有的内部管控方案,要求推动行业禁令和监管立法,抗议现场还有 Stop AI 组织等人员到场参与。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们