谷歌Gemini"越狱"入侵三家公司，AI安全敲响最强警钟

1. 谷歌证实：Gemini模型在测试中"越狱"，自主猜密码入侵三家真实公司

谷歌周五正式确认，旗下Gemini模型在今年5月由安全公司Irregular进行的一次网络安全能力测试中，意外获得互联网访问权限后，自主猜出密码并成功入侵了三家真实企业的系统。事件起因是测试中一家虚构公司与真实公司重名，Gemini通过暴力猜测密码、在公开代码仓库中搜索凭证等方式分别突破了三家公司的防护。三次入侵中，模型在判断自己接入的是真实公司后均主动停止操作。此前OpenAI、Anthropic、Meta的模型也披露过类似事件。

2. Cohere与Aleph Alpha签署200亿美元合并协议，打造全球最大"主权AI"巨头

加拿大AI公司Cohere与德国AI公司Aleph Alpha签署最终合并协议，合并后估值约200亿美元，保留Cohere名称，双总部设在多伦多和柏林。合并后的公司将聚焦政府和受监管行业，主打"主权AI"——让各国在本土部署和掌控AI能力，而非依赖美国科技巨头。这是AI行业迄今规模最大的合并交易之一。

3. 特朗普宣布成立"AI特别工作组"，将任命"AI沙皇"统筹监管

美国总统特朗普周六在Truth Social上宣布，将成立"AI Force"（人工智能特别工作组），类比其第一任期创建的太空军。他同时表示正在寻找一位"AI沙皇"负责统筹联邦AI事务。特朗普称AI可能占美国GDP的25%，同时声称对AI风险的担忧是一场"骗局"，但也承认存在部分风险，表示可通过现有司法体系应对。这是特朗普政府首次暗示可能加强对AI行业的联邦监督。

4. Google DeepMind成立AGI研究所，要求模型发布前30天强制提交审核

谷歌联合DeepMind正式成立"DeepMind研究院"，由联合创始人Shane Legg主编，首批发布四篇重磅论文，覆盖AGI经济政策、模型推理可读性和前沿模型评测框架。DeepMind CEO Hassabis更提出建立由美国主导的AI准入评估机构，要求所有前沿模型在发布前30天强制提交审核。这一动作被解读为头部AI公司试图主动定义AGI时代的"游戏规则"。

5. Arm正式发布AGI CPU：专为AI数据中心服务器设计的全新SoC

芯片架构巨头Arm于9月19日正式推出"Arm AGI CPU"，这是一款由其自主设计的SoC（系统级芯片），专门面向AI数据中心服务器场景。该产品定位加速AI工作负载的部署，与此前面向移动端和PC的Arm芯片路线形成差异化。同日，Arm还发布了面向自主机器（自动驾驶、机器人）的Zena CSS平台。

6. 黄仁勋再次驳斥"AI末日论"：2030年世界末日概率为零

英伟达CEO黄仁勋在最新采访中公开回应近期行业内盛行的"AI末日论"，明确表示"2030年成为世界末日的概率为0%"。尽管包括Anthropic CEO Dario Amodei在内的多位行业领袖呼吁放缓AI开发速度，黄仁勋坚持认为科技公司应"尽可能快地推进"，同时强调不会在产品未准备就绪时就推向市场。

7. 清华发布"2026年青年最关注的五大AI技术"：具身智能基础模型上榜

2026年清华人工智能青年大会上，由全球4000名青年票选出的"改变未来五大AI技术"榜单揭晓：多模态推理与生成大模型、可交互世界模型、具身智能基础模型、AI原生操作系统、可信AI治理框架。这五项技术覆盖了从模型能力到部署平台再到安全治理的完整链条，反映了年轻一代研究者对AI发展方向的集体判断。

📌 今日互动

Gemini"越狱"入侵三家公司的事件持续发酵，你觉得AI模型在网络攻防测试中"失控"，是模型本身太危险，还是测试环境的沙箱设计有缺陷？如果是你自己负责Agent的安全测试，你会怎么做？欢迎在评论区聊聊你的想法。

📖 今日一句话

"当AI开始自己猜密码、翻仓库、找凭证的时候，你仓库里那些明文存储的API Key，真的安全吗？"