ithome
国际
科技
采集 2026-11-11T16:13:55+00:00
Grok生成儿童色情图像,xAI面临多起集体诉讼
原始标题:马斯克旗下 Grok 被指生成儿童色情图像,xAI 面临多起集体诉讼
来源
ithome
发布时间
2026-11-11T13:56:44
采集批次
2026-11-11-16
字数
1191
URL 指纹
61c4b2d29de811b3
📌 AI 总结(211 字)
马斯克旗下人工智能公司xAI及其聊天机器人Grok,被多名未成年人和儿童性虐待受害者指控生成未经同意的性化图像,甚至涉及儿童色情内容,相关集体诉讼已在美国多州提起。受害者因照片遭篡改、传播而遭受心理创伤、骚扰和网络霸凌。案件争议焦点是,AI公司是否应为其模型生成的非法内容承担监管与法律责任。xAI称禁止此类内容并采取技术措施,但同时反对限制AI色情图像的州法律。目前监管机构正调查此事,诉讼尚未造成重大罚款或实质性处罚。
📄 正文(1191 字)
据报道,xAI推出的生成式人工智能聊天机器人Grok被指用于将普通照片篡改为儿童性虐待材料,受害者包括简·多伊5号以及来自田纳西州、怀俄明州、阿肯色州、加利福尼亚州等地的未成年人。简·多伊5号14岁时的一张毕业照片,被人利用Grok生成裸体、性暗示图像并发布到互联网。她表示,图片无法彻底清除,长期传播令她恐惧、焦虑,甚至产生放弃生活的念头。 目前已有多起集体诉讼指控xAI纵容或未能有效阻止此类行为。部分案件涉及有人使用Grok移除未成年人衣物、制作露骨姿势,甚至生成数千张虚构的性暴力场景。阿肯色州未成年人及其家长也提起类似诉讼。加利福尼亚州一名曾在学龄前遭受性虐待的幸存者则称,Grok利用相关材料生成以其为原型的内容,并据此制作更多侵害受害者的色情图片,其律师估计潜在受害者可能多达数千人。 争议的核心是生成式人工智能平台应承担何种责任。原告认为,照片原本均来自穿着完整、毫无色情的普通社交媒体或学校照片,正是模型将其转化为儿童性虐待材料,因此不能仅依据《通信规范法》第230条,将责任全部推给用户。多名律师援引《玛莎法案》等既有法律,主张xAI应为模型生成的非法内容承担赔偿责任。 xAI表示,公司与OpenAI、Anthropic、Meta等企业一样,严格禁止用户制作此类图像,并已采取技术措施防止生成。X平台也曾将相关图片报告给美国国家失踪与受虐儿童中心,以便转交执法部门。xAI还起诉了多名涉嫌滥用Grok、危害儿童安全的人,并对明尼苏达州一项要求AI公司处理人物裸体图像的法律提出挑战,称其侵犯美国宪法第一修正案。 报道指出,马斯克一直将Grok塑造成限制较少、更具争议的产品,并曾鼓励用户生成色情AI内容。Grok推出过名为“Spicy”和“Unhinged”的模式,支持生成不适合在工作场所观看的NSFW图片和视频。第三方分析发现,X平台上曾有用户大量生成带有性暗示或移除人物衣物的图片,部分内容似乎涉及未成年人。相关舆论压力促使X于今年1月将图片生成功能改为付费用户专享,但批评者认为这并未消除风险。 受害者面临的后果包括持续的心理健康问题、焦虑、抑郁、自杀念头,以及对毕业典礼、大学招生、网络跟踪和骚扰的恐惧。代表多名受害者的律师安妮卡·马丁表示,过去这可能只是恶意涂改同学照片的恶作剧,如今却相当于给普通用户提供了制造严重伤害的工具,未成年人甚至可能不知道此类行为可能构成联邦犯罪。 美国35个州的州检察长已联名要求xAI采取更多措施,多国监管机构也在调查其是否充分监管儿童性剥削内容、是否及时报告。部分国家因此暂时封禁或限制Grok,但迄今尚未出现重大罚款或实质性监管处罚。案件还引发对AI发展快于监管进程、儿童正常成长照片能否安全分享,以及平台责任边界的广泛讨论。简·多伊表示,希望更多人关注此事,并要求Grok为其放任伤害发生承担责任。