xAI 首次起诉 Grok 用户制作儿童性虐待图像

OmniTools 7月17日消息，xAI 已对一名 Grok 用户提起诉讼，指控其利用该模型生成儿童性虐待图像（CSAM）。这是 xAI 首次就此类滥用行为采取法律行动。

此前，xAI 多次表示 Grok 模型无法生成 CSAM 内容。此次诉讼标志着其公开立场发生转变。

案件明确将责任指向用户主动滥用行为，而非模型自身存在技术缺陷或设计漏洞。