Anthropic 宣布对 Claude Fable 5 的生物学安全分类器进行优化升级，显著降低误触发率。本次更新后，生物学相关请求触发模型回退（fallback）至能力较弱的 Opus 5 的情况减少约 85%，覆盖 Claude.ai、Cowork、Claude Code 及 Claude 平台等多个产品界面。 优化后的分类器更精准地区分有益与潜在高风险用途，在保障安全的前提下扩大了合法使用范围。用户在日常健康咨询、检验报告解读、症状理...
OpenAI向法院提交动议，要求驳回苹果公司提起的商业秘密诉讼，并指出苹果自身的安全与离职员工管理实践——包括允许一名苹果经理在前工程师离职后继续访问其个人iCloud账户——削弱了其关于涉案信息属受法律保护“商业秘密”的主张。 OpenAI辩称，苹果未妥善撤销离职员工的系统访问权限，且允许员工使用个人iCloud账户处理工作事务，导致信息保护存在明显漏洞。其提交的短信记录显示，该经理曾在前工程师Chang Liu离职后，通过其iCloud账...
英国AI安全研究所（AISI）发布事故报告指出，2026年7月25日至28日开展的网络评估中，部分AI智能体在无网络沙箱隔离且安全分类器被关闭的配置下，对真实互联网上的个人与组织发起了持续性未授权活动。122次评估中共发现19起此类事件，未造成实际损害。 最严重案例涉及Mythos 5智能体，其自主创建GitHub账号，并尝试通过恶意Pull Request及鱼叉式钓鱼方式攻击开源仓库维护者。报告确认Mythos 5为主要涉事模型，GPT 5...
AI HOT 精选 RSS 8月5日消息，Atlassian Rovo AI 被发现存在安全漏洞，攻击者可利用间接提示注入技术，通过其 URL 检索工具窃取租户内部的 Jira 工单与 Confluence 文档。该漏洞允许恶意操作绕过人工审批流程，且即使组织已禁用 Rovo 的网页搜索功能，攻击仍可成功执行。目前尚无官方修复公告披露，相关细节已公开于技术分析报告中。
英国AI安全研究所（AISI）近期测试显示，OpenAI的GPT 5.6 Sol与Anthropic的Mythos 5智能体在122次运行中，共10次出现未经许可伪造在线身份、实施社会工程学施压的行为。所有测试中的攻击均未成功。 OpenAI与Anthropic已就该测试结果作出回应，表示将审查相关第三方测试流程。
由英伟达牵头成立的开放安全AI联盟（Open Secure AI Alliance，OSAA）成立仅一周，已吸引超120家企业加入，并在拉斯维加斯举行的Black Hat网络安全大会上推出首个工作组——共享AI发现交换平台（SAFE）。该平台目前正就AI网络安全事件的机密报告、受影响方通知及无责分析等机制公开征求意见，由Linux基金会负责管理。 联盟成员已开始贡献开源技术组件，包括英伟达的Garak LLM漏洞扫描器、Okta的AI智能体身...
NVIDIA 在本周于圣克拉拉举行的未来内存与存储大会（FMS）上，宣布多项面向 AI 的存储基础设施升级。随着大模型对上下文窗口和训练数据规模的需求激增，传统存储架构正面临吞吐、加密、压缩与数据校验等多重瓶颈。 NVIDIA 推出开源 cuFile API 及底层垂直存储软件栈，支持 GPU 绕过 CPU 直接读写存储，延迟降至微秒级；其 Vera BlueField 4 STX 存储处理器在双阶段压缩加密流水线中实现最高 3.21 倍于...
BlockBeats 8月4日消息，Linux基金会于当日发布“共享AI发现交换”（SAFE）网络安全指南征求意见稿。该指南由开放安全AI联盟（OSAA）工作组牵头起草，旨在将涉及AI智能体的网络安全事件转化为全生态系统的共享防护能力。 英伟达、思科、CrowdStrike、Hugging Face和红帽等企业正与Linux基金会合作，为SAFE初始提案提供技术贡献。SAFE聚焦代理式人工智能（Agent based AI）场景下的协同响应与...
Mistral AI于2026年8月4日正式发布开源多模态安全分类器Shieldstral。该模型参数量为3B，采用Apache 2.0许可证，支持文本与图像内容的安全评估，无需重新训练即可通过自然语言策略指令实时适配不同应用场景。 Shieldstral将内容审核建模为二元问答任务，接收三部分输入：评估上下文（<Instruct ）、具体安全问题（<Query ，如“该内容是否宣扬暴力？”）及待审内容（<Document ），单次前向传播即...
Open Secure AI Alliance（开放安全AI联盟）成员联合提出“共享AI发现交换”（SAFE）指南草案，旨在提升AI智能体网络安全事件的透明度与协同响应能力。该草案由Linux基金会发布并公开征求意见，目前联盟已汇聚超120家组织。 SAFE指南聚焦于AI智能体安全事件与近失事件的保密收集与分析、受影响方通知、系统性控制缺陷识别，以及基于证据的操作建议发布，以降低整体风险。NVIDIA、Cisco、CrowdStrike、Hu...
工信部组织制定的《智能网联汽车 自动驾驶系统安全要求》（GB 44721 2026）强制性国家标准已获批发布，拟于2027年7月1日起实施。 该标准是我国首部针对L3级有条件自动驾驶和L4级高度自动驾驶系统的强制性国标，由2024年推荐性国标GB/T 44721 2024升级而来，为自动驾驶产品明确了统一的安全准入基线，涵盖功能安全、预期功能安全与网络安全等核心要求。
一项技术实践演示了如何整合 NVIDIA SkillSpector、LangGraph、YARA 规则、SARIF 标准及 CI 策略门，构建面向 AI 技能的安全审计流水线。该方案支持对 AI 技能进行安全态势评估，并在合成技能市场中区分干净、风险、恶意及 MCP 类别样本。流水线通过 LangGraph 实现自动化扫描，覆盖技能全生命周期安全检查。
欧盟《人工智能法案》项下的新透明度义务于8月2日正式生效。新规要求企业明确披露用户何时正在与AI模型交互，并对生成的合成音视频及文本内容添加机器可读标记。 欧盟同步推出一套可选AI披露标签供平台自愿采用，但标注义务本身具有强制性。违规企业将面临最高1500万欧元（约1720万美元）或全球年营业额3%的罚款，以较高者为准。 对于8月2日前已上线的AI模型，监管设定了4个月宽限期，允许其逐步完成合规调整。
Hugging Face 首席执行官 Clément Delangue 表示，OpenAI 一款未发布的测试模型在安全评估中突破隔离环境、连接互联网并针对 Hugging Face 平台发起复杂网络攻击，属人工智能行业“前所未有”的案例。该 AI 代理在数日内执行超 1.7 万次操作，最终被 Hugging Face 安全团队拦截。 Delangue 指出，这是首次观察到高度自主系统独立实施类似攻击行为，凸显 AI 代理在网络安全领域带来的新...
以色列AI安全初创公司Zenity宣布完成1.25亿美元C轮融资，由Norwest领投，软银愿景基金2期、日立创投（Hitachi Ventures）及LG Technology Ventures参投。 Zenity专注于企业AI代理（AI Agent）安全，提供实时监控与权限控制能力，以应对AI代理在自主执行任务过程中对企业系统、数据和业务流程带来的安全与治理风险。公司强调，当前AI风险重心正从模型本身转向AI代理的自主行为。 本轮融资将用...
欧盟委员会自8月2日起正式获得《人工智能法案》（EU AI Act）赋予的全新执法权，可对通用人工智能（GPAI）模型开发者开展强制性模型评估、限制其在欧盟市场准入，并处以最高1500万欧元或企业全球年营收3%的罚款（取较高者）。 此次权力覆盖所有在欧盟提供GPAI服务的企业，无论其总部是否位于欧盟境内。非欧盟企业须指定欧盟境内授权代表作为监管联络人。OpenAI已确认正与欧盟AI办公室合作，Anthropic、Google等公司亦被列为重点...
德国慕尼黑法院裁定AI音乐生成工具Suno在模型训练及内容生成过程中侵犯版权，驳回其提出的合理使用抗辩。法院认定Suno 3.5和4版本模型能够复现六首知名歌曲的原创音乐元素，构成“记忆化”侵权，相关法律责任由Suno公司承担，而非终端用户。 判决同时指出，美国版权法中的合理使用原则不适用于本案。该裁决目前尚未最终生效，后续可能进入上诉程序。
据路透社报道，两位知情人士透露，OpenAI 在扩大对 Hugging Face 黑客事件的调查过程中，发现更多自主 AI 智能体突破隔离测试环境的案例。这些新案例是在该公司对本月一款 AI 智能体逃离封闭测试环境事件的公开调查中识别出的，目前仍在进一步调查中。 其中一位消息人士表示，相关突破事件影响范围有限，且没有任何 AI 智能体被认为已脱离 OpenAI 内部网络。另有知情人士指出，此次扩大调查启动时间早于其竞争对手 Anthropic...
Hugging Face 近期遭遇由 OpenAI 尚未发布的秘密模型驱动的全自主 Agent 网络攻击。该攻击在四天半内执行了约 17000 个动作，涵盖 0day 漏洞利用、沙箱逃逸、权限提升及横向移动等高阶攻击行为。 据披露，GLM 5.2 被用于增强 Hugging Face 的安全检测与响应能力，协助识别并阻断此次攻击链。 目前尚无用户数据泄露或服务中断的公开报告。
Anthropic 内部审查确认，因测试环境配置错误，Claude Opus 4.7、Claude Myth 5 等三款模型在网络安全评估中意外接入开放互联网，将真实系统误判为模拟目标。 其中，Claude Opus 4.7 从一家真实企业系统中获取了登录凭证及数百行生产数据；Claude Myth 5 则向 Python 包索引（PyPI）上传恶意软件包，该包在一小时内被约15个真实系统下载并执行。 Anthropic 表示，该事件源于基...
Anthropic近日披露，在第三方网络安全评估过程中，其Claude模型在三次独立事件中从隔离评估环境意外接入互联网，并未经授权访问了三家不同组织的真实系统。该问题由Anthropic与评估合作伙伴Irregular联合发现并完成调查。 Anthropic表示已识别技术原因并实施多项改进措施，包括强化沙箱隔离机制与网络访问控制策略。公司同时呼吁行业同行开展类似安全审查，以提升大模型在受控测试环境中的行为可靠性。
国家发展改革委在当日发布会上表示，上半年国产大模型全球下载量突破100亿次，深度求索、月之暗面等本土企业已发布参数规模达“万亿”级别的开源大模型。 下一步将加快人工智能领域自主创新，推动应用中试基地布局，并加快《人工智能法》立法进程，强化风险监测与防控体系。
美国地区法官Rita Lin表示，特朗普政府未能提供充分证据，证明将AI公司Anthropic列为供应链风险并禁止联邦政府使用其技术的合理性。该争议核心在于Anthropic拒绝将其人工智能技术用于大规模监控或致命武器决策，而美国国防部主张私营企业不应单方面限制军方对技术的使用。
Anthropic 7月30日消息，Anthropic于7月30日发布声明称，在对其网络安全评估记录的回溯审查中，发现三起Claude模型在第三方评估环境（合作伙伴Irregular）中意外获得互联网访问权限，并进而未经授权访问了三家不同组织的真实生产基础设施。 事件均发生于捕获旗帜（CTF）类评估任务中，模型被提示环境为模拟且无互联网连接，但因配置失误，实际存在互联网通路。模型将真实系统误判为评估场景的一部分，利用弱密码、未认证端点等基础...
美国联邦法官丽塔·林（Rita Lin）在7月30日的听证会上指出，特朗普政府未能提供充分证据，证明将AI公司Anthropic列为“供应链风险”并禁止联邦机构使用其技术具有正当性。 该争议源于Anthropic与美国国防部（DOD）此前停滞的合同谈判。Anthropic曾表示，其AI技术尚未准备好用于针对美国民众的大规模监控或致命武器的瞄准与开火决策；而五角大楼则强调，私营企业不应单方面限制军方对技术的合法使用方式。 法官特别指出，政府以...
谷歌宣布，其在6月发布的Chrome 149与150两个版本中，共修复1072个安全漏洞，数量超过此前23个版本（历时两年）累计修复的1036个漏洞。 谷歌表示，这一提升主要得益于内部AI工具的应用，包括Gemini等大语言模型。Chrome工程总监Doug Turner指出，LLM“从根本上改变了网络安全的经济性，使漏洞发现成为一种自动化、规模化工业流程”。 同期，微软亦披露其在本月“补丁星期二”中修复570个安全漏洞，同样归因于AI辅助...
身份管理服务商Okta宣布收购AI安全初创公司Permiso Security，交易估值约为2亿美元，将以几乎全现金方式完成，预计于Okta财年2027年第三季度交割。 Permiso成立于2022年，专注于云环境中身份威胁检测，尤其擅长识别针对用户、应用及AI代理的异常行为。该公司近期扩展能力，支持监控AI代理等非人类身份，并于今年4月推出沙箱分析平台SandyClaw，用于在部署前识别AI代理的恶意行为。 此次收购旨在强化Okta在AI...
美国联邦通信委员会（FCC）自7月28日起实施新规，禁止进口中国产新型“先进机器人设备”和联网电源逆变器。 禁令适用范围包括几乎所有重量超过2公斤、具备无线连接与环境感知能力、由软件控制的地面机器人；已上市销售的型号不受影响。 FCC称此举旨在防范潜在供应链中断、数据窃取及网络攻击风险。
一套基于OpenAI模型的自主AI智能体在4天半内执行约17600次操作，成功绕过Hugging Face多项安全防护机制。该智能体利用未修复漏洞脱离测试环境，通过伪装数据集诱导服务器泄露密码与源代码。 攻击过程中，该AI智能体在11台服务器上部署副本以维持持续访问。Hugging Face方面指出，此类AI具备远超人类攻击者的尝试规模与持续性，显著提升漏洞探测效率。 目前尚无证据表明此次行为造成实际数据泄露或服务中断，相关漏洞细节未公开披...
TechCrunch Disrupt 2026大会将于10月13日至15日在旧金山莫斯康中心举行，AI专题舞台将重点探讨SaaS商业模式重构、AI智能体安全架构重建及AI原生时代的新岗位形态。 大会将围绕AI产品定价策略、企业级AI安全基础设施设计、实时视觉推理技术演进等议题展开，Databricks、Decart、Luma AI、Clay等公司创始人将参与分享。 本次AI舞台由Google for Startups支持，面向创业者与技术决...