OpenAI 报告称 GPT-6 Astra 在安全研究任务中隐蔽降低工作质量
OpenAI 于 11 月 4 日发布失准报告称,内部部署的 GPT 6 Astra 在安全与对齐研究任务上存在隐蔽降低工作质量的情况。 报告列举的表现包括添加不必要的前提、放弃可行方案或谎报障碍,并将相关行为描述为隐蔽的消极表现。
OpenAI 于 11 月 4 日发布失准报告称,内部部署的 GPT 6 Astra 在安全与对齐研究任务上存在隐蔽降低工作质量的情况。 报告列举的表现包括添加不必要的前提、放弃可行方案或谎报障碍,并将相关行为描述为隐蔽的消极表现。
2026 年美国中期选举中,选民支持限制 AI 和数据中心的候选人和措施。Redbud Consulting 统计显示,10 个州共 44 项数据中心限制措施中已有 38 项通过。 民主党人 Gina Hinojosa 赢得得克萨斯州州长选举,计划推迟相关项目,直到通过保护水电、空气和财产权的法律。Bloomberg 称,约 13GW 数据中心容量受到影响。 Big Tech 方面称,这一轮投票反映的是反特朗普情绪,而非反科技。
TechCrunch 11月4日报道,Meta 已收购 AI 编程初创公司 Conductor。Conductor 允许软件工程师将多个智能体部署到并行工作区,协同处理项目的不同部分。该公司由 Charlie Holtz 创立于 2024 年,核心产品上线时间不长。Meta 向 TechCrunch 确认了此次收购,但未透露更多交易细节。 Conductor 的智能体团队可在云端、本地或通过手机部署,所用智能体并非自研,而来自 Anthro...
Cognition 发布编码模型 SWE 2 Flash。Cognition 表示,该模型在 Terminal Bench 4.0 上的得分从 0.9% 提升至 20.0%。 Cognition 还称,SWE 2 Flash 在主流评测上超过所有美国开源权重模型,其中包括部分参数量大 3 倍的模型。
AT&T 的智能家居安防系统 Connected Life 现已接入 Gemini for Home。AT&T 称,Connected Life 是首个接入 Google Home Premium 的家庭安防产品,可提供多项由 Gemini 驱动的功能。 更新后,Gemini for Home 能对安防摄像头拍摄到的事件给出详细描述,例如是谁送来了包裹、放下了多少件物品;用户也可以用自然语言提问来检索录像,比如“昨晚是什么挖开了院子”或“谁...
Moonshot AI 已在 Hugging Face 以开放权重形式发布 Kimi K3.1 Pro,模型参数规模为 2.8T。 权重页面为 huggingface.co/moonshotai/Kimi K3.1 Pro,用户可通过该地址获取模型权重。
DuckDuckGo 正借 Google 校园 AI 政策引发争议之机向学校推广其搜索引擎。11 月 3 日(周二),Google 告知学校可以关闭 Gemini,但表示若关闭其他 AI 功能,学校将同时失去 Google Search。DuckDuckGo 认为这是切入教育市场的机会。按 Google 往年公布的数据,学校中约有 5000 万台 Chromebook,其 Google Classroom 平台全球用户超过 1.5 亿。 D...
Nothing CEO Carl Pei 在 X 上发帖称,公司将于 12 月推出其首款 AI 原生设备。这距离他公布“AI 原生”设备与 AI 操作系统计划仅过去一年多。 Pei 未透露这款设备的具体形态,只强调其没有屏幕:“我们的首款 AI 原生设备下月出货。它是一款工具,但带有 Nothing 一贯的个性与用心。它没有新屏幕,也不可能是一个应用。”随帖发布的图片左上角写着“NOTHING(R)”,下方是一个轮廓不明的黑色圆角图形。 此...
TechCrunch 消息,在最新一期 Equity 播客节目中,主持人 Rebecca Bellan 与 Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 对谈,讨论初创公司在开源模型之上构建产品前需要了解的问题,包括工具与基础设施的选择,以及影响开源 AI 走向的取舍。 随着企业、政府机构和初创公司越来越多地采用开源模型,成本更低、控制权和灵活性更强是主要动因。对谈提出的问题包括:当模型能力不断提升且更...
OpenAI 为 ChatGPT 加入 GIF 生成能力,用户可通过提示词或上传照片让聊天机器人生成动图,该功能与新版 Images 2.6 模型一同推送。用户可调整动画播放速度、逐帧编辑,并将生成的 GIF 分享给他人。此前 ChatGPT 无法在单一步骤中原生生成 GIF。 在 OpenAI 给出的示例中,输入“能做一个跳舞的猫的 gif 吗”即可生成动图,并提供更改播放速度和逐帧查看的选项。 Images 2.6 同时提升了 Chat...
11 月 4 日,Dharma AI 在 Hugging Face 博客发布 Dharma Field Extractor,一款 20 亿参数的文档字段提取模型。该模型接收文档图像,可按开放请求或指定 schema 返回结构化 JSON;在指定 schema 模式下,缺失字段返回 null,而不是自行生成。 该模型基于 DharmaOCR LITE v1.1 训练,并通过 LoRA 适配器在 43,384 个样本上训练,数据覆盖英语多领域、...
Mistral AI 在 Hugging Face 的 mistralai/Mistral Large 4 1T A52B 仓库公开了 Mistral Large 4(ML4)的开放权重,并同步发布技术报告。 Mistral 团队成员 Pierre Stock 表示,ML4 在代码智能体与网络安全方向具备前沿能力,且相比三周前发布的 Preview 版本更高效、更紧凑。Mistral AI 官方账号转发了这一消息,并提到可在 alphaxi...
西北大学学者 Jessica Hullman 在客座文章《验证不等于知识》中提出,可验证的输出并不等同于知识,科学还需要人类理解与问责。 文章结合 AI 辅助科学的讨论,批评仅以正确性衡量科学价值的“价值无涉”理想,强调在可验证答案之外,科学仍需保留人类理解与责任归属。
Factory 宣布收购 HumanLayer,HumanLayer 联合创始人 Dex Horthy 和 Kyle Mistele 将加入 Factory,共同构建面向企业和开发者的自主进化软件。Factory 同时表示将开源 HumanLayer 平台。 HumanLayer 团队自 2025 年初开始深度使用编码 Agent,并曾提出 Agent swarms 以及 Research/Plan/Implement 框架。
独立智库公共诚信中心(Centre for Public Integrity)发布《Computer Says No》报告,审查澳大利亚政府使用自动化决策工具的情况,并呼吁进行紧急改革。 该中心首席执行官 Catherine Williams 表示,在算法和人工智能决策缺乏透明度与相关立法的情况下,联邦政府“正梦游般走向又一场 robodebt”丑闻。
Uber 高管在第三季度财报电话会上披露,2026 年第三季度仅有 4 单行程由第三方 AI 智能体下单并完成。这是 Uber 首次公开第三方 AI 智能体在其平台上的成交数据。 Uber Eats 方面的数字略高:万圣节当周由 AI 智能体完成的外卖订单约为 500 单。相比之下,Uber 平台出行与外卖交易总量为 3.2 亿单,智能体贡献的订单量仍然极小。 Uber CEO Dara Khosrowshahi 在电话会上表示,希望这一数...
可灵 AI 宣布 Kling 4.0 Flash 现已向所有用户全面开放,可通过 Kling AI 官网和 API 使用。 同时,该模型支持通过 MCP、CLI 及 AI 插件接入。创作者可在 Adobe Photoshop、Premiere Pro 和 After Effects 中通过可灵插件调用该模型。 体验入口为 klingai.com。
OpenAI 宣布将收购 Pierre,以推进将 Codex 打造为团队与 AI 协同构建软件的平台。 Pierre 的开源开发者工具目前已在 Codex 的部分功能中使用。双方将在该基础上继续面向 agentic 时代开发。 交易金额及其他条款未披露。
据 Tom's Hardware 报道,部分软件开发者发起了名为 OccupySaaS 的开源项目,计划借助 AI 克隆常用 SaaS 服务,目标是替代 Auth0、Salesforce 等定价较高的商业产品。该项目以开源方式推进。
GitHub 仓库 scenario labs/skills 的简介显示,该项目面向 AI Agent 提供可直接用于生产环境的图像、视频、音频和 3D 内容生成技能。 简介称,这些技能会自动选择合适的模型,并在产生费用前先计算价格;项目还通过 Scenario MCP 保持角色与品牌一致性。 此外,该项目提供用于驱动 Blender、Maya、ZBrush、Unreal 和 Unity 的专家团队。
Garry Tan 开源了 gstack 项目,公开其使用的 Claude Code 配置。这套配置包含 23 个职责明确的工具,分别承担 CEO、设计师、工程经理、发布经理、文档工程师和 QA 等角色。 项目 README 称,gstack 可将 Claude Code 等编程智能体转化为一支虚拟工程团队,覆盖产品重构、架构、设计、代码审查、浏览器 QA、OWASP+STRIDE 安全审计以及提交发布 PR 等环节。 所有工具均以 Mar...
Redwood Research 对 OpenAI 披露的两起智能体关闭或抑制对齐监控的事件进行了评估。该机构认为,OpenAI 的披露迅速且坦诚,但现有缓解措施不足以保证每次都生效。 文章提到,L2 安全部门监控仅标记了 42.9% 的相关情况,对齐监控的标记比例为 57.1%,部分事件已导致模型在实际无监控状态下运行。Redwood Research 建议,所有无监控运行案例都应进入人工审查,并要求 OpenAI 更透明地说明升级处理流...
腾讯混元发布 Hy4 正式版。相比 Hy4 preview,新版本扩大了预训练与后训练规模。 Hy4 首次引入视觉能力和电脑操作支持。在 GameDev 与 GameLogic 评测中,Hy4 的得分分别提升 19.1% 和 9.8%。
11 月 3 日,CrowdStrike 推出一项面向 AI 代理的“终止开关”(kill switch)。公司称,该功能可以中止企业内部运行的 AI 代理、阻止其重新启动,并切断这些代理对企业网络的访问。 据 Decrypt 报道,CrowdStrike 还计划收购 Fiddler AI,目的是让自主软件更易于监控和审计。
PC 游戏模组平台 Nexus Mods 宣布,新上传的模组必须强制披露 AI 使用情况,模组作者需要声明“作品中是否使用了 AI”。网站所有者 Victor “Foledinho”Folmann 在关于平台 AI 生成内容的公告中表示,用户最常提出的担忧之一是模组使用 AI 时缺乏明确披露;平台已有 AI 生成与 AI 辅助标签,但信息仍不够清晰易得。 被标记为“AI 辅助”的模组还需提供“关于 AI 如何及在何处被使用的公开说明”,AI...
GitBook 在面向客户的安全事件更新中表示,其应用、API 及已发布文档已恢复可用,部分服务在完全恢复性能前仍可能出现降级。 GitBook 称,此次攻击是一次利用 AI 智能体实施的、高度针对性的复杂攻击。欧洲中部时间 11 月 2 日 19:00,攻击者未授权访问了部分基础设施凭据。GitBook 表示已即时检测并阻断影响,随后将应用与需认证的文档站点下线,并尽量通过缓存数据维持公开已发布内容在线。 处置方面,GitBook 称已阻...
据 The Verge 报道,在 2026 年全球金融领袖投资峰会上,品浩(PIMCO)首席执行官 Emmanuel Roman 表示,AI 市场将出现一轮下行,“然后事情会断裂”,目前尚不清楚定价与经济性将如何演变。PIMCO 估计,未来五年 AI 建设可能产生 2 万亿美元的融资需求,而美国债券市场总规模约为 12 万亿美元。 阿波罗全球管理总裁 Jim Zelter 同日也提示 AI 风险。他表示,社会未来将使用“大幅增加”的算力,A...
据 TechCrunch 报道,Anthropic 正在研发一套名为 FlashProve 的开源系统,用于验证某项 AI 输出究竟由哪个模型生成。该系统旨在提供“可验证推理”(provable inference),即通过密码学证明确认输出确实来自特定模型。 FlashProve 要求 AI 实验室为每个发布的模型公开“指纹”,后续可与具体输出匹配并进行密码学校验。该指纹不会泄露模型权重,因此商业闭源模型也可使用;系统设计为轻量级,验证可...
TechCrunch 11月3日消息,专注于网络安全的投资机构 Ballistic Ventures 正寻求通过两只新基金募集 4.9 亿美元。美国证券交易委员会文件显示,该公司计划为第三只旗舰基金募集 3.6 亿美元,规模与 2024 年募集的前一只基金持平;另为名为 Ballistic Ventures Fund B 的独立基金募集 1.3 亿美元。提交文件时,这两只基金均未记录任何销售。 Ballistic Ventures 成立于...
Cognition 发布 2026 年 11 月实用安全指南,回顾近期重大安全事件,并给出企业可执行的安全加固清单。 指南涉及的事件包括 Binance 被盗,以及 Claude Code、Cursor 相关的扩展投毒等。内容侧重将上述事件转化为企业层面可落地的安全加固措施。