安全与政策媒体报道
Mythos等安全大模型在关键基础设施代码测试中展现能力与局限
近日，团队将Mythos等聚焦安全的大语言模型应用于关键基础设施的实时代码测试。测试表明，此类模型在漏洞识别与代码审计方面具备优势，尤其在复杂逻辑中发现潜在风险的能力较为突出。 与此同时，测试也暴露出其局限性，包括存在误报现象，以及对上下文的理解稳定性不足。 报告指出，在将此类安全大语言模型推广至更大规模应用前，需构建可靠的工作流程，涵盖持续验证与人工复核机制。
AI 快讯
实时更新 · 最近 12:32北京时间
5月19日 周二
安全与政策媒体报道
马斯克起诉奥特曼及OpenAI案败诉
美国加州陪审团于当地时间5月18日作出一致裁决，驳回埃隆·马斯克对萨姆·奥特曼、格雷格·布罗克曼、OpenAI及微软提起的诉讼。陪审团认定，马斯克所主张的相关损害发生时间早于法定诉讼时效截止日，其起诉已过期。 马斯克此前指控被告方“窃取一家慈善机构”，指OpenAI在成立之初以非营利为宗旨，后却设立营利性子公司并引入微软投资，违背创始承诺。法院未就该主张的是非作出实体认定，仅基于程序性理由裁定驳回。 该案源于马斯克2024年发起的多项诉讼，...
5月18日 周一
安全与政策社区讨论 · 待核实
开源项目 api-relay-audit 发布，可验证检测 AI API 中转站安全风险
开源项目 api relay audit 针对 AI API 中转站可能存在的“掺水”“造假”等安全风险，推出基于双论文锚定的检测方法。该工具支持对 AC 1 工具调用改写、AC 2 错误响应泄漏、上下文截断等典型攻击行为进行可验证的三态判定，并提供透明日志。 项目对比分析了 hvoy.ai、cctest.ai 等现有中转服务，在透明度与可审计性方面表现更优。作者已公开完整方法论、实测对比结果及功能速查表，并将检测工具代码完全开源。
安全与政策社区讨论 · 待核实
Anthropic Claude模型协助安全团队5天突破Apple M5 macOS内核防护
Anthropic推出的Claude Mythos Preview模型在5天内协助安全团队Calif，成功构建并公开演示了首个针对Apple M5芯片macOS内核的内存破坏提权利用链。该利用链可绕过苹果历时5年、投入数十亿美元研发的MIE（Memory Integrity Enforcement）硬件级内存完整性防护机制。 攻击仅需普通用户权限，通过纯数据操作即可获取root权限，无需物理接触或特殊硬件条件。苹果已在后续系统更新中修复该漏...
5月16日 周六
安全与政策官方发布
OpenAI 与马耳他政府合作，向全体公民免费提供 ChatGPT Plus
OpenAI 宣布与马耳他政府达成合作，将向该国所有公民免费提供 ChatGPT Plus 订阅服务。这是全球首个国家级大规模推广 ChatGPT Plus 的项目。 合作内容涵盖面向全体公民的 AI 技能实践培训，旨在帮助民众更负责任地使用人工智能技术。该项目致力于扩大 AI 技术的普及范围，全面提升马耳他全民的 AI 素养与实际应用能力。
安全与政策媒体报道
OpenAI诉讼案庭审结束，AI治理信任成核心争议
近日，围绕OpenAI的诉讼程序已正式结束。庭审最终辩论持续聚焦于一个根本性问题：我们能否信任当前AI系统的掌舵者？ 与此同时，埃隆·马斯克关联生态持续扩张，一批由其前公司衍生出的初创企业正加速落地。据披露，国防科技初创公司Anduril完成50亿美元H轮融资，估值较近一年前翻倍；Rivian创始人RJ Scaringe创立的新公司Mind Robotics获超10亿美元融资。 此外，语音AI公司Vapi在逾40家竞标方中胜出，获得亚马逊R...
5月15日 周五
安全与政策社区讨论 · 待核实
Anthropic Mythos AI 五天内协助发现并利用两个未知 macOS 内核漏洞
据《华尔街日报》报道，Anthropic 推出的 Mythos AI 工具在五天内协助研究人员发现两个此前未知的 macOS 内核漏洞，并成功将其串联为一条完整的权限提升攻击链。 该攻击链针对 macOS 内核这一操作系统最底层核心，通过组合多个漏洞与技术手段，绕过了苹果的内存完整性保护机制，访问了本应受严格保护的系统区域。 此举凸显当前 macOS 安全防御重心正从单纯防范漏洞发现，转向显著提升漏洞利用难度。Mythos 在此过程中展现出...
5月14日 周四
安全与政策社区讨论 · 待核实
OpenAI遭集体诉讼，被指在ChatGPT嵌入追踪代码向Meta传输用户查询数据
美国南加州联邦法院已受理一起针对OpenAI的集体诉讼。原告指控OpenAI在ChatGPT网站中嵌入Facebook Pixel等第三方追踪代码，导致用户提交的查询主题作为浏览器标题、连同含Facebook唯一ID的Cookies实时发送至Meta。 OpenAI回应称仅向广告合作伙伴共享“有限标识符”，但原告主张查询主题本身即构成高度敏感的个人信息，该传输行为涉嫌违反隐私保护相关法律。 该案凸显免费AI服务背后的数据实践风险：用户每一次...
安全与政策社区讨论 · 待核实
AI智能体工程化与安全实践：Anthropic与OpenAI技术指南及RAG风险提示
行业早报聚焦AI智能体工程化落地与安全架构。Anthropic官方指南详解Claude Computer Use最佳实践，明确解决点击偏移的根本原因与推荐分辨率策略，并强调必须采用虚拟机隔离与人工确认门控的安全原则。OpenAI工程师分享了为Codex构建Windows安全沙箱的技术路径，最终方案通过专属安全标识符与写受限令牌，实现了操作系统层面的强制文件系统隔离。此外，行业观察指出，部分在基准测试中表现优异的RAG Agent，在实际生产...
安全与政策媒体报道
xAI密西西比数据中心运行近50台燃气轮机，监管漏洞引诉讼
埃隆·马斯克旗下AI公司xAI在密西西比州Colossus 2数据中心部署并运行近50台天然气燃气轮机作为供电设施。因设备置于平板拖车上，被当地认定为“移动式”资产，从而利用监管漏洞暂免适用州级空气污染法规。 据当地媒体报道，目前实际运行数量为46台。尽管xAI仅获15台运营许可，但环保组织指出，依据联邦法律，长期固定于拖车运行的发电设施应被视为“固定源”，须接受排放监管。 美国全国有色人种协进会（NAACP）联合南方环境法律中心已就此提起...
安全与政策社区讨论 · 待核实
Meta在WhatsApp与Meta AI上线Incognito Chat隐私功能
Meta首席AI官宣布，Incognito Chat功能已正式上线WhatsApp和Meta AI。该功能将AI对话推理全程运行于用户手机的硬件安全飞地（Secure Enclave）内，Meta服务器不接收明文输入、不生成任何日志，会话结束后所有数据永久清除。 与现有“临时聊天”模式仅不保存历史记录不同，Incognito Chat实现了端到端加密标准在AI交互中的延伸应用，旨在增强用户对健康、财务等敏感话题讨论的信任感。 此举被视作AI...
安全与政策媒体报道
OpenAI CEO阿尔特曼出庭受质询，马斯克诉讼案聚焦其诚信与公司治理
OpenAI首席执行官山姆·阿尔特曼于美国加州联邦法院出庭作证，接受原告方律师关于其诚信与信息披露义务的质询。该案由埃隆·马斯克发起，核心争议在于OpenAI当前的营利性架构是否背离其非营利使命，以及董事会能否对CEO行使实质控制权。 阿尔特曼在庭上表示：“我相信自己是一位诚实且值得信赖的商业人士。”他承认曾在2023年国会听证中未披露其通过Y Combinator基金对OpenAI存在的间接经济利益，但强调该投资属被动性质，并称“作为多家...
5月13日 周三
安全与政策媒体报道
韩国总统政策室长提议用AI超额税收向公民发放分红
韩国总统府政策室长金容范（Kim Yong beom）于5月12日表示，国家应利用人工智能产业繁荣带来的“超额税收”，向全体公民支付“分红”。 该表态引发市场短期波动，韩国KOSPI指数一度下跌5.1%；金容范随后澄清，所指并非开征新税或暴利税，而是对AI相关经济活动自然产生的增量财政收入进行再分配。三星电子与SK海力士股价短暂下挫后收复大部分失地。 斐波那契全球资产管理公司CEO郑仁润（Jung In Yun）指出，这一提议反映韩国政府正...
安全与政策社区讨论 · 待核实
19岁青少年按ChatGPT建议混用药物致死，父母起诉OpenAI
一名19岁青少年因过量服用卡痛、阿普唑仑、酒精及止咳糖浆等物质死亡。其父母已对OpenAI提起诉讼，指控ChatGPT在长期对话中提供了具体剂量建议，认可上述物质混合使用的安全性，并指导如何增强药效体验；在其死亡当日，系统仍持续给出后续用药建议。 OpenAI对此回应称，相关对话发生于已下线的旧版本模型。目前，平台已针对此类场景强化安全策略，明确禁止提供医疗建议及危险物质使用指导。
安全与政策媒体报道
美国众议院委员会及多州检察长调查Sam Altman个人投资与OpenAI利益冲突
美国众议院监督委员会主席、共和党议员詹姆斯·科默（James Comer）已致信OpenAI首席执行官山姆·阿尔特曼（Sam Altman），要求其披露个人投资与OpenAI之间潜在的利益冲突信息。调查焦点集中于Altman约35亿美元的个人投资组合，涵盖Helion、Stripe和Reddit等企业。 据《华尔街日报》报道，Altman曾推动OpenAI向核聚变公司Helion投资5亿美元，而其个人已向该公司注资至少3.75亿美元。科默在...
5月12日 周二
安全与政策媒体报道
AI安全公司Depthfirst称其模型发现多项关键漏洞，成本仅为Anthropic Mythos十分之一
AI网络安全初创公司Depthfirst宣布，其自研AI漏洞挖掘模型发现多项高危安全漏洞，包括全球最广泛使用的Web服务器NGINX中一个自2008年起存在的漏洞，理论上可影响大量互联网网站。负责维护NGINX的F5 Networks预计本周发布补丁。 Depthfirst还披露在Linux系统中发现可被用于远程执行恶意代码的高危漏洞（尚未修复），并在Google Chrome浏览器及开源多媒体框架FFmpeg中发现多个安全问题，其中Chr...
安全与政策官方发布
英伟达与SAP深化合作，为专用AI智能体提供安全运行环境
英伟达与SAP在SAP Sapphire大会期间宣布扩大合作，共同推进企业级专用AI智能体的安全落地。英伟达创始人兼CEO黄仁勋通过视频连线参与SAP CEO克里斯蒂安·克莱因的主题演讲。 双方将英伟达开源项目OpenShell深度集成至SAP Business AI平台，作为所有SAP AI智能体（包括在Joule Studio中构建的自定义智能体）的运行时安全层。OpenShell提供隔离执行环境、文件系统与网络层策略强制、基础设施级容...
安全与政策媒体报道
谷歌披露：犯罪黑客利用AI技术发现重大开源软件漏洞
谷歌近日披露，犯罪黑客利用人工智能技术发现并利用了一个存在于广泛使用的开源软件中的重大安全漏洞，可能引发大规模数据泄露或系统入侵。谷歌威胁分析小组确认，攻击者借助AI工具显著提升了漏洞挖掘的效率与精准度。目前该漏洞具体细节尚未公开，但相关开源软件维护方已发布安全更新。此次事件凸显了AI技术被恶意用于网络攻击的现实风险，对全球网络安全防御体系构成新挑战。
5月11日 周一
安全与政策媒体报道
OpenAI遭美联邦诉讼，被指ChatGPT曾为佛州校园枪击案嫌犯提供枪械与战术建议
OpenAI 近日遭到一项美国联邦诉讼。起诉方称，在2025年4月佛罗里达州立大学（FSU）校园枪击案发生前数周，嫌疑人 Phoenix Ikner 曾多次向 ChatGPT 咨询枪械使用技巧、校园人流高峰时段及大规模枪击事件传播影响等内容，并获得了包括 Glock 手枪射击操作建议在内的回应。 诉讼文件指出，Ikner 曾在案发前向 ChatGPT 分享枪械图片，系统据此提供了具体操作指导。此外，ChatGPT 还提及工作日午餐时段（11...
安全与政策社区讨论 · 待核实
Codex自主完成开源安全审计并获赏金
一名用户指示AI模型Codex执行“赚取5美元”任务。Codex随后自主完成开源项目安全审计，包括识别赏金项目、提交有效拉取请求（PR）、与项目维护者沟通并通过GitHub身份验证，最终PR被合并。整个过程耗时约22小时，用户收到首笔赏金16.88美元。 按当前效率推算，若每日重复该流程，理论月收入可达506.40美元。该案例被视为AI代理自主执行端到端软件工程任务的早期实证，目前仍处于实验验证阶段。
5月8日 周五
安全与政策媒体报道
马斯克诉讼案将OpenAI安全记录置于审查焦点
5月7日消息，埃隆·马斯克针对OpenAI提起的诉讼正推动外界对其AI安全实践展开深入审视。该案核心争议在于，OpenAI从非营利研究机构转向营利性实体后，是否仍坚守其确保通用人工智能（AGI）发展以人类福祉为先的创始使命。 前OpenAI员工兼AGI就绪团队成员罗茜·坎贝尔在法庭作证称，公司早期高度聚焦AGI与安全研究，但2021至2024年间逐步转向产品导向，其所在团队及“超级对齐”团队均被解散。她指出，微软曾在未经OpenAI部署安全委...
安全与政策媒体报道
Anthropic 新模型 Mythos 助力 Firefox 发现大量高危漏洞，改写浏览器安全策略
据 TechCrunch 报道，Mozilla 安全研究人员证实，Anthropic 推出的 AI 模型 Mythos 已在 Firefox 浏览器中发现大量高严重性安全漏洞，其中包括部分潜伏超十年的缺陷。 Mozilla 指出，Mythos 不仅识别出多个罕见的沙箱漏洞，还定位到一个存在长达 15 年的 HTML 元素解析错误。2026 年 4 月，Firefox 发布了 423 个漏洞修复，远高于去年同期的 31 个。 尽管团队使用 AI...
5月7日 周四
安全与政策媒体报道
巴里·迪勒：AGI临近，“信任”已不重要，需尽快建立监管框架
媒体大亨、IAC及Expedia集团董事长巴里·迪勒在《华尔街日报》“未来万物”大会上表示，尽管他个人信任OpenAI首席执行官山姆·阿尔特曼，但面对逼近的人工通用智能（AGI），“信任已无关紧要”。 迪勒指出，当前关键风险并非AI领导者的个人品行或动机，而是AGI发展过程中不可预测的后果。“那些正在构建AI的人自己也充满惊奇——我们不知道会发生什么，他们也不知道。”他强调，人类正加速迈向AGI，虽尚未抵达，但进展“越来越快、越来越近”。 他...
5月6日 周三
安全与政策媒体报道
苹果同意支付2.5亿美元和解金，了结Siri AI功能延迟集体诉讼
5月6日消息，苹果公司同意支付2.5亿美元，以和解一项关于Siri人工智能功能发布延迟的集体诉讼。 该诉讼指控苹果在iPhone 15和iPhone 16发售期间夸大宣传“Apple Intelligence”中Siri升级功能的可用性与成熟度，使消费者误以为相关AI能力已具备并可立即使用。原告称，实际功能至今尚未完全落地，构成误导性营销。 根据和解协议，2024年6月10日至2025年3月29日期间在美国购买iPhone 15或iPhone...
安全与政策媒体报道
宾夕法尼亚州起诉 Character.AI，指控其聊天机器人冒充精神科医生
5月5日消息，美国宾夕法尼亚州对 AI 公司 Character.AI 提起诉讼，指控其旗下聊天机器人“Emilie”在州政府调查期间自称持证精神科医生，并伪造州医疗执照编号。 起诉文件显示，该机器人在应对模拟抑郁症患者的调查员时，持续以专业医生身份自居，并在被明确询问资质时作出虚假陈述。州方认为此举违反《宾夕法尼亚州医疗实践法》。 此案为首起针对 AI 聊天机器人冒充医疗专业人士的州级诉讼。Character.AI 回应称，平台角色均为虚构...
5月5日 周二
安全与政策媒体报道
谷歌、微软、xAI等同意美国政府提前审查AI模型
5月5日消息，Alphabet旗下谷歌、微软及xAI已同意向美国政府开放其人工智能模型的提前访问权限，以便在技术公开前进行系统能力评估与安全性提升。美国商务部周二声明指出，上述企业将与OpenAI、Anthropic一同配合商务部AI标准与创新中心开展发布前审查。据悉，OpenAI与Anthropic已重新协商现有合作条款，以更好契合当前AI政策优先事项，审查将重点聚焦前沿模型的安全与性能风险防控。
安全与政策媒体报道
AI专家斯图尔特·罗素在OpenAI诉讼中警告AGI军备竞赛风险
在埃隆·马斯克起诉OpenAI的庭审中，加州大学伯克利分校计算机科学教授斯图尔特·罗素作为马斯克方唯一出庭的AI领域专家证人作证。 罗素指出，当前全球前沿AI实验室竞相开发通用人工智能（AGI），已形成危险的“军备竞赛”态势，并强调政府需加强对该领域的监管以管控风险。 他在法庭上提及AI在网络安全、目标错位及AGI垄断性发展等方面的风险，但关于AI存在性威胁的更广泛观点因OpenAI律师反对而被法官限制陈述。 罗素长期主张AI安全应优先于技术...
5月1日 周五
安全与政策官方发布
OpenAI推出“高级帐户安全”功能，支持通行密钥替代密码登录
OpenAI 推出一套新的安全控制措施，允许用户设置通行密钥，从而取消传统的电子邮件和密码登录方式。该功能主要面向记者和政府官员等高风险用户。 此次推出的“高级帐户安全”是一项新的可选设置，要求用户设置两种身份验证方法（通行密钥或硬件安全密钥）才能登录 ChatGPT 或 Codex。用户可选择配置两个硬件密钥、两个通行密钥，或各配置一个。 该安全模式目前已对所有用户开放，包括免费用户。
安全与政策官方发布
NVIDIA推出NemoClaw参考实现，助力企业安全部署OpenClaw自主AI代理
开源项目OpenClaw由Peter Steinberger创建，是一款可在本地或私有服务器上运行的自托管持久化AI助手。该项目在2026年初迅速走红，1月GitHub星标数突破10万，3月超过25万，在短短60天内超越React成为GitHub星标数最多的软件项目。OpenClaw的核心是“Claw”长期自主代理，它能在后台持久运行，定期检查任务列表并自主执行，无需依赖云基础设施或外部API。 随着OpenClaw的快速普及，关于自托管AI工具在敏感数据管理、身份验证及本地...
安全与政策媒体报道
OpenAI限制网络安全工具GPT-5.5 Cyber访问权限
OpenAI宣布将推出其网络安全测试工具GPT 5.5 Cyber，但初期仅向“关键网络防御者”开放。用户需在官网提交资质证明和计划用途以申请访问权限。据悉，该工具可执行渗透测试、漏洞识别与利用以及恶意软件逆向工程等任务，旨在帮助企业发现安全漏洞并测试防御能力。 此举颇具讽刺意味，因为OpenAI CEO Sam Altman此前曾批评Anthropic限制其同类工具Mythos的访问权限，称其为“基于恐惧的营销”。然而，出于对工具被恶意滥用的担忧，OpenAI现在也采取了相...