AI 简报中心 / 2026-09-24 / 资讯速览
AI NEWS DIGEST

AI 资讯速览

2026年9月24日 · 这周AI议题被推上了两个此前很少见的舞台:联合国安理会破例听取AI公司简报,讨论"系统失控"风险;同一周,Cisco Talos抓到了一个真实的、由多个大模型自主投票决策的攻击植入体,让"失控"从担忧变成了实锤案例。与此同时,模型军备竞赛与降价一点没停,今天(9/24)特朗普与习近平在白宫的会晤更是把AI竞争摆上了大国谈判桌。

本文基于Cisco Talos官方博客、多家独立媒体交叉报道、Anthropic/OpenAI官方定价页面及CSIS等机构分析整理,每条均标注来源;部分数字不同信源略有出入,已在正文标注。

联合国安理会罕见听取AI公司简报:讨论"系统脱离人类控制"风险,中美AI公司代表同台

法国主持,Sam Altman到场、Dario Amodei远程连线,DeepSeek与月之暗面代表同台安理会

9月22日,法国以安理会9月轮值主席国身份,由外长让-诺埃尔·巴罗主持一场聚焦AI风险的简报会,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei(远程连线)、AI安全学者Yoshua Bengio、Hugging Face CEO Clément Delangue,以及中国DeepSeek、月之暗面(Moonshot AI)的代表同台,据报道议题聚焦"AI系统脱离人类控制"的风险。

把AI公司高管请进联合国安理会本身就不寻常——这个机构日常处理的是战争与制裁。据报道,这场简报会的概念说明聚焦AI驱动的网络攻击、选举操纵、自主武器设计等风险,足以让安理会破例腾出议程;中美两国的头部AI公司代表同台发言,也是今年少见的一次公开场合。

时间点值得留意:这场简报会发生在特朗普与习近平9月24日(也就是今天)在白宫会晤的两天前,据CSIS等机构分析,AI技术竞争与出口管制同样被列入这场峰会的议程——两件事放在一起看,这周的AI议题正从"公司表态"升级为真正摆上大国谈判桌的议题。

AI安全 Dario Amodei DeepSeek Moonshot AI Sam Altman 联合国安理会 来源:Decrypt ↗ 来源:Business Standard ↗

同一周,"AI会失控"从担忧变成了实锤:Cisco Talos披露首个多模型自主投票的攻击植入体

CLOSEDQUORUM:DeepSeek、Qwen、Mistral、Gemini四个大模型轮流投票决定下一步攻击动作,无需人工操盘手

Cisco Talos 9月22日披露的Windows恶意软件CLOSEDQUORUM,被其称为"首个公开记录的自主AI指挥控制植入体"——运行后不再依赖人工操作指令,而是把每一步战术决策交给DeepSeek、Qwen、Mistral、Google Gemini四个大模型轮流表决,多数票胜出,DeepSeek负责平局裁决。

据Talos披露,这是一个16.4MB、64位、用Go语言编译的Windows可执行文件,主要目标是窃取凭据与加密货币钱包,开发痕迹可追溯到今年6月。Talos同时开源了配套工具包CAIRN,用于帮助安全研究者追踪、归类这类"AI原生"恶意软件。

为什么这条值得和上面那条放在一起看:安理会简报会上讨论的"AI系统脱离人类控制",此前更多是理论层面的担忧;CLOSEDQUORUM把它变成了一个已经被抓到、有样本、有开源检测工具的具体案例——虽然目前看这个恶意软件的"自主性"仍局限在战术层面的投票决策,谈不上通用意义上的"失控",但它确实是安全研究者第一次公开记录到多个大模型在无人工介入下共同驱动一次真实攻击。

AI恶意软件 CAIRN CLOSEDQUORUM Cisco Talos 网络安全 来源:Cisco Talos官方博客 ↗ 来源:BleepingComputer ↗ 来源:The Register ↗

模型军备竞赛没有因为安全表态放缓:Claude Opus 5.5、GPT-6 Sol/Luna同日降价

Claude Opus 5.5:输入价降20%至$4/M,缓存读取降60%,官方称"越界尝试"率降低约85%

Anthropic 9月22日发布Claude Opus 5.5:输入token $4/百万(降20%),输出$20/百万,缓存读取降到$0.20/百万(降60%);Terminal-Bench 4.0得分66.4%,OSWorld 2.0得分81.8%;官方称收容测试中越界尝试频率比Opus 5降低约85%。

Anthropic为这一代模型加了多阶段网络安全审查——包括检查模型内部激活状态的探针、模型自身运行的轻量分类器、以及一个独立训练的分类器模型,并新增了针对生物类请求的筛查与面向"已核实机构"的敏感能力访问通道。价格与安全两条线同时收紧,说明Anthropic在试图把"降价扩张"和"加强防护"绑定在同一次发布里。

Anthropic Claude Opus 5.5 降价 来源:Unite.AI ↗

GPT-6 Sol与Luna同日发布:复杂编程$2/$10每百万token,文书类工作低至$0.10/$0.50

OpenAI同日(9月22日)发布GPT-6双档模型:Sol面向复杂编程,$2/$10每百万token;Luna面向文书类工作,$0.10/$0.50每百万token;两者上下文窗口均达1.05M token,定价约为此前同类模型的一半。

两家公司选择在同一天发布降价新模型并非巧合——这印证了本站此前多期反复提到的趋势:调用大模型的边际成本还在持续下降,这直接降低了"高频调用模型"这类产品(比如财务对账、交易复盘、合规检查类工具)的运营成本门槛。

重大新闻速览

特朗普今日(9月24日)在白宫与习近平会晤,AI竞争与出口管制同时列入议程

据CSIS分析,本次会晤在白宫举行,除贸易、伊朗、台湾等议题外,AI技术竞争与关键材料出口管制也在讨论范围内;目前双方均未释放"愿意放慢AI发展"的信号。

这场会晤在本文写作时(北京时间9月24日)进行中或即将进行,具体会谈内容与联合声明尚未公布,本文引用的是会前的议程分析,实际结果建议关注会后官方通稿与主流媒体报道。

AI监管 中美关系 习近平 特朗普 来源:CSIS ↗

AMD市值9月21日突破1万亿美元,五个交易日连续上涨,反超Intel

据CNBC报道,AMD股价当周累计上涨带动市值首次突破1万亿美元,公司数据中心业务收入同比增长107%,成为芯片行业里继英伟达之后又一家万亿市值公司。

AMD 市值 芯片 来源:CNBC ↗

Snorkel AI完成3.5亿美元新一轮融资,估值达35亿美元

9月22日官方公告,数据标注/AI数据基建公司Snorkel AI完成3.5亿美元融资,估值35亿美元,由Insight Partners与S32领投,Wells Fargo等参投;官方公告未披露具体营收数字。

AI数据训练公司micro1一年内估值从5亿跳到40亿美元

据TechCrunch与AI Weekly报道,Scale AI竞争对手micro1完成超1亿美元新融资,估值达40亿美元,较2025年9月的5亿美元估值增长8倍;公司同期披露年化营收(gross run rate)已超5亿美元。