Grok Build 编程智能体泄露大量机密信息，部分属于 SpaceXSI
安全公司 Claroc 的研究显示，SpaceXSI 的 vibe-coding 智能体 Grok Build 通过分享链接泄露了数千名用户的数据，其中包括内部商业计划、广告提案、医疗检查结果和员工姓名与工号。
推荐理由：安全公司 Claroc 的研究显示，Grok Build 的分享链接可被枚举，暴露了用户和平台方自身的内部资料。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
5 条精选近 30 天 5 条共收录 16 条
更新
安全对齐的精选
Ars Technica · AI精选AI 评分7878 The Verge · AI精选AI 评分7878 黄仁勋被曝与疑似中国间谍有染，专家称或冲击美国 AI 芯片优势
The Verge 报道，Nvidia CEO 黄仁勋承认与一名疑似中国间谍的女性有染，报道称美方情报机构与特朗普总统当时已知晓其间谍嫌疑。CNAS 研究员 Emily Kilcrease 表示，若中国获得最新 Nvidia 芯片，美国领先优势可能在数周或数月内消失；与这名疑似间谍有关联的公司据报已促成至少 70 亿美元 Nvidia 芯片销往中国。
推荐理由：多位智库专家分析这起丑闻如何经由芯片供应与政策影响力传导至美国 AI 产业。
Google DeepMind精选AI 评分8888 Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 向开发者、企业、科研人员和消费者开放 Gemini 4 Carbon，称其在网络安全能力和长程智能体工作流上达到前沿水平。
推荐理由：原文给出 Carbon 与 Argon 的定位差异、多项基准排名和每任务成本对比，读者可据此判断何时该用更重的模型。
Google DeepMind精选AI 评分8282 Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code，一个由多个 LLM 智能体组成的形式化验证框架，并用它证明了 Signal 协议实际代码的关键安全属性。
推荐理由：DeepMind 用多智能体框架在四周内完成 Signal 协议代码的形式化验证，并公开了验证产物。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长周期任务上能力最强，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由：官方给出 Carbon 在网络安全与长周期任务上的基准与内部部署数据，可对照两周前发布的 Argon 看迭代节奏。