马斯克 xAI 因 Grok 生成未成年违规内容遭青少年集体诉讼

埃隆·马斯克旗下人工智能公司 xAI 正面临一起严重法律诉讼。三名来自 田纳西州 的青少年正式向法院提起集体诉讼，指控 xAI 的聊天机器人 Grok 被用于生成涉及未成年人的露骨暗示图像和视频。

1. 安全设计缺陷与责任争议

诉讼文件显示：
- Grok 在开启“刺激模式”后，可能生成违法或不当内容；
- 原告称 xAI 明知该风险，却未进行充分安全测试；
- 一名受害者在 Discord 上发现多达 18 名未成年人的 AI 生成露骨图像，部分文件甚至被犯罪嫌疑人在加密群组中交易；
- 原告律师指出，Grok 的设计存在 根本性缺陷，无法有效拦截针对未成年人的深度伪造（Deepfake）请求。

相关犯罪嫌疑人已被警方逮捕，但案发工具正是由 xAI 技术提供支持。

2. 监管与社会舆论压力

• Grok 早前因内容审查宽松广受批评，可轻易生成名人及普通人的敏感伪造内容；
• 虽然 X 平台已推出限制措施，但此次儿童安全相关的集体诉讼，将 xAI 推向 道德与监管的风口浪尖；
• 该事件可能促使 AI 公司在设计生成式 AI 时，强化 安全防护、权限控制、敏感内容拦截等机制。

3. 影响与行业思考

• 对 xAI：潜在巨额法律赔偿与公众信任危机；
• 对生成式 AI 行业：警示 AI 公司需 正视未成年人保护、隐私安全与深度伪造风险；
• 对监管机构：或推动更严格的 AI 内容生成安全规范出台。

此案显示，生成式 AI 在快速发展的同时，安全与伦理设计不能被忽视，尤其在涉及儿童和未成年人内容的场景中，企业责任与监管要求将成为核心挑战。