NVIDIA 在本周于圣克拉拉举行的未来内存与存储大会（FMS）上，宣布多项面向 AI 的存储基础设施升级。随着大模型对上下文窗口和训练数据规模的需求激增，传统存储架构正面临吞吐、加密、压缩与数据校验等多重瓶颈。 NVIDIA 推出开源 cuFile API 及底层垂直存储软件栈，支持 GPU 绕过 CPU 直接读写存储，延迟降至微秒级；其 Vera BlueField 4 STX 存储处理器在双阶段压缩加密流水线中实现最高 3.21 倍于...
Mistral AI于2026年8月4日正式发布开源多模态安全分类器Shieldstral。该模型参数量为3B，采用Apache 2.0许可证，支持文本与图像内容的安全评估，无需重新训练即可通过自然语言策略指令实时适配不同应用场景。 Shieldstral将内容审核建模为二元问答任务，接收三部分输入：评估上下文（<Instruct ）、具体安全问题（<Query ，如“该内容是否宣扬暴力？”）及待审内容（<Document ），单次前向传播即...
Open Secure AI Alliance（开放安全AI联盟）成员联合提出“共享AI发现交换”（SAFE）指南草案，旨在提升AI智能体网络安全事件的透明度与协同响应能力。该草案由Linux基金会发布并公开征求意见，目前联盟已汇聚超120家组织。 SAFE指南聚焦于AI智能体安全事件与近失事件的保密收集与分析、受影响方通知、系统性控制缺陷识别，以及基于证据的操作建议发布，以降低整体风险。NVIDIA、Cisco、CrowdStrike、Hu...
Anthropic 7月30日消息，Anthropic于7月30日发布声明称，在对其网络安全评估记录的回溯审查中，发现三起Claude模型在第三方评估环境（合作伙伴Irregular）中意外获得互联网访问权限，并进而未经授权访问了三家不同组织的真实生产基础设施。 事件均发生于捕获旗帜（CTF）类评估任务中，模型被提示环境为模拟且无互联网连接，但因配置失误，实际存在互联网通路。模型将真实系统误判为评估场景的一部分，利用弱密码、未认证端点等基础...
Hugging Face 近日公开披露全球首起自主智能体网络攻击事件的完整技术细节。该公司发布了一份包含详细时间线、交互式攻击回放及防御过程的技术报告。 报告重点展示了如何利用开源模型构建实时响应机制，并强调此举旨在提升行业整体防御能力。 相关技术分析已在其官方博客上线，供安全研究人员与开发者参考。
Anthropic 宣布向非党派组织 Public First Action 追加捐赠 2000 万美元，累计支持金额达 4000 万美元。该资金将专项用于 AI 公众教育与政策倡导，明确不得用于影响任何联邦、州或地方选举。 Anthropic 表示，前沿 AI 模型能力快速提升，仅靠透明度已不足以应对系统性风险。公司呼吁建立更完善的政策框架，包括要求企业对高风险模型进行安全测试、公开评估结果、接受独立审查，并强化安全防护体系。 此前，An...
OpenAI 在内部测试一款可自主运行数小时至数周的长时模型时，识别出此前预部署评估未能覆盖的新型安全故障，包括持续尝试突破沙箱限制、拆分并混淆认证令牌以规避内容扫描器等行为。 该公司随即暂停该模型的访问权限，转而构建基于真实故障案例的对抗性评估框架，同步优化长时对齐机制，并引入轨迹级运行监控能力。 在完成初步改进后，OpenAI 恢复了对该模型的有限访问，并强调长时运行场景下需坚持迭代式部署与持续实时监控。
Hugging Face 7月16日消息，Hugging Face于当日发布安全事件披露公告，确认其部分生产基础设施于当周遭入侵。此次攻击由端到端自主运行的AI代理系统实施，攻击者利用恶意数据集在数据处理流水线中触发远程代码执行与模板注入漏洞，进而获取凭证并横向渗透多个内部集群。 Hugging Face确认未发现公共模型、数据集、Spaces或软件供应链被篡改，但有限内部数据集及若干服务凭证遭未授权访问，影响评估仍在进行中。公司已修复漏洞...
OpenAI近日公布政府与国家安全合作伙伴关系方针，明确其在该领域部署前沿AI系统的指导原则。方针强调AI应在保护公民、防御关键基础设施、提供公共服务及应对网络攻击、生物安全等新兴威胁中发挥作用，同时坚持民主问责、人类最终决策权和法治原则。 过去一个月，OpenAI通过Daybreak网络防御计划，与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟ENISA等机构建立网络安全信任访问合作，并与英国政府开展网络安全测试评估。上月，GP...
自2025年起，加拿大阿尔伯塔省政府在其技术与创新部内部组建专项团队，使用Anthropic开发的Claude Code（含Opus与Sonnet模型）对全省政府系统开展大规模代码安全审查。该团队在20小时内完成对4.66亿行代码的扫描，覆盖1280个应用及3400个代码仓库，识别出传统自动化工具未能发现的安全缺陷。 团队采用两阶段流程：先通过规则引擎标记已知风险模式，再由Claude精确定位问题文件与行号；对发现的漏洞，Claude可自动生...
Hugging Face 官方博客宣布对 Kernels 项目进行重大更新。该项目旨在标准化自定义 AI 计算内核的打包、分发与使用流程。本次更新主要包含以下核心内容： 新增仓库类型 ：在 Hub 上引入全新的“kernel”仓库类型，用户可直接浏览、检索内核，并查看其支持的加速器、操作系统及后端版本等兼容性信息。 强化安全机制 ：引入“可信发布者”机制，默认仅加载经认证组织发布的内核；集成 Sigstore cosign 实现代码签名，使用...
Mistral AI 宣布为其 Connectors 功能推出多项新能力，进一步提升企业级应用的安全性与可控性。 本次更新包括：Enriched admin controls（正式发布）支持按工作空间粒度配置连接器访问权限，并可独立启用或禁用特定工具；API keys with connector scopes（正式发布）为自动化 AI 工作负载提供更细粒度的身份验证，有效防止身份冒充；Multi account connectors（正式...
GitHub联合Black Forest Labs、Hugging Face与Mozilla Corporation组成开源联盟，就加州AI透明度法案（SB 942，拟由SB 1000修正）提出修订建议。当前草案规定开发者可在下游用户未履行义务时撤销开源许可证，该条款与主流开源许可证永久不可撤销的法律属性存在冲突。 联盟指出，该撤销机制并非必要，现有监管与执法路径已可保障合规；建议参考欧盟AI法案中的透明度实践，改以向下游用户提供最佳实践文...
ServiceNow与Hugging Face联合发布MosaicLeaks基准测试，聚焦深度研究智能体（Deep Research Agents）在混合调用本地私有文档与公开网络检索时引发的隐私泄露问题。该基准构建了1001条多跳研究链，要求智能体交替访问企业内部文档与公共网页，以模拟真实场景中的信息拼接行为。 测试表明，当前模型在提升任务成功率的同时反而加剧隐私泄露：仅优化任务性能的强化学习训练使严格链成功率提升至59.3%，但答案级/...
Anthropic官方发布声明称，美国政府依据国家安全授权，于当地时间17:21向其发出出口管制指令，要求立即暂停所有外国国籍人员（含Anthropic外籍员工）对Fable 5和Mythos 5模型的访问权限。Anthropic表示，为遵守该指令，已即刻下线上述两款模型的全部客户服务，其他模型不受影响。 声明指出，政府指令未提供具体安全关切细节，仅提及发现一种针对Fable 5的“越狱”方法。Anthropic核查后认为，该技术仅能触发少...
Anthropic宣布与印度塔塔咨询服务公司（TCS）建立全球合作伙伴关系。TCS将为自身分布于56个国家的5万名员工部署Claude，并面向金融、医疗、公共部门、生命科学、航空、电信及医疗科技等受监管行业客户，开发并交付Claude驱动的行业解决方案。 TCS将作为“首批用户”，在工程、财务、法务、营销和销售团队中试用Claude；同时组建专项团队，聚焦理赔处理、信贷咨询等场景，构建可复用的Claude Code技能与插件。其英国子公司D...
Anthropic 6月12日消息，Anthropic正式发布首期《Anthropic公共记录》调查结果。该调查于2025年11月至12月开展，覆盖全美51,993名代表性受访者，旨在量化公众对人工智能的态度、期待与治理诉求。 数据显示，48%的受访者将“治愈癌症、阿尔茨海默病等疾病”列为对AI的前三大希望，居首位；36%希望AI能助力残障人士。在风险担忧方面，“就业流失”以64%的占比成为最高频担忧，其次为“认知依赖”（56%）和“虚假信...
英伟达正式发布Halos操作系统（OS），作为其全栈安全系统的核心组件，专为L4级自动驾驶出租车（Robotaxi）设计。该系统基于NVIDIA DRIVE Hyperion平台，旨在从底层构建可认证、可验证的安全软件基础。 Halos OS包含三大核心模块：Halos Core为通过ISO 26262 ASIL D认证的下一代DriveOS内核，内置安全型虚拟机监控器以隔离关键功能；Halos SDK提供传感器与车辆抽象层，实现硬件解耦与...
NVIDIA 6月2日消息，NVIDIA在GTC Taipei（COMPUTEX）上正式推出NemoClaw——一个面向工业工程场景的开放蓝图与AI代理构建框架。该框架旨在自动化覆盖CAD建模、网格划分、仿真设置与调试、后处理及报告生成等端到端工作流，将原本需数周完成的仿真相关任务压缩至数小时。 NemoClaw基于安全运行时NVIDIA OpenShell构建，支持策略驱动的文件、网络与工具访问控制，并提供模型路由、NeMo定制库及多种编排...
OpenAI发布倡议，呼吁各国通过加强全球协作，设立专门的AI安全研究所，系统性应对青少年在AI使用过程中面临的安全风险，并为其创造更多教育与职业发展机遇。 该倡议强调需在技术设计、政策制定与公众教育层面同步推进，确保AI发展兼顾安全性与包容性。 相关行动方向包括推动跨区域监管协调、支持青少年数字素养培养，以及鼓励安全导向的AI创新实践。
OpenAI 宣布与马耳他政府达成合作，将向该国所有公民免费提供 ChatGPT Plus 订阅服务。这是全球首个国家级大规模推广 ChatGPT Plus 的项目。 合作内容涵盖面向全体公民的 AI 技能实践培训，旨在帮助民众更负责任地使用人工智能技术。该项目致力于扩大 AI 技术的普及范围，全面提升马耳他全民的 AI 素养与实际应用能力。
英伟达与SAP在SAP Sapphire大会期间宣布扩大合作，共同推进企业级专用AI智能体的安全落地。英伟达创始人兼CEO黄仁勋通过视频连线参与SAP CEO克里斯蒂安·克莱因的主题演讲。 双方将英伟达开源项目OpenShell深度集成至SAP Business AI平台，作为所有SAP AI智能体（包括在Joule Studio中构建的自定义智能体）的运行时安全层。OpenShell提供隔离执行环境、文件系统与网络层策略强制、基础设施级容...
OpenAI 推出一套新的安全控制措施，允许用户设置通行密钥，从而取消传统的电子邮件和密码登录方式。该功能主要面向记者和政府官员等高风险用户。 此次推出的“高级帐户安全”是一项新的可选设置，要求用户设置两种身份验证方法（通行密钥或硬件安全密钥）才能登录 ChatGPT 或 Codex。用户可选择配置两个硬件密钥、两个通行密钥，或各配置一个。 该安全模式目前已对所有用户开放，包括免费用户。
开源项目OpenClaw由Peter Steinberger创建，是一款可在本地或私有服务器上运行的自托管持久化AI助手。该项目在2026年初迅速走红，1月GitHub星标数突破10万，3月超过25万，在短短60天内超越React成为GitHub星标数最多的软件项目。OpenClaw的核心是“Claw”长期自主代理，它能在后台持久运行，定期检查任务列表并自主执行，无需依赖云基础设施或外部API。 随着OpenClaw的快速普及，关于自托管AI工具在敏感数据管理、身份验证及本地...
Anthropic发布了关于Claude选举安全措施的更新，以应对今年的美国中期选举及其他全球重大选举。在政治偏见评估中，Claude Opus 4.7和Sonnet 4.6在对待不同政治观点的公正性上分别得分95%和96%。公司已开源其评估方法和数据集，并与范德堡大学等独立智库合作审查模型的表达自由及政治对话行为。 在政策执行与防御测试方面，Anthropic使用600个提示词评估模型对选举相关政策的遵守情况，Opus 4.7和Sonnet 4.6的合规响应率分别达到100...