AI聊天机器人Grok涉嫌生成色情内容 美国加州要求马斯克xAI回应

1月15日消息，日前，马斯克旗下xAI公司的AI聊天机器人Grok因涉嫌生成色情内容，在全球范围内引发巨大争议。

据央视新闻报道，美国加州总检察长罗布·邦塔在社交平台发文称：“我们要求xAI立即就其如何计划阻止此类内容生成和传播给出明确答复。”

马斯克表示，并不知道Grok生成过任何裸露的未成年图片。

目前，Grok因相关争议在全球范围内面临监管与舆论双重压力，多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。

据了解，因担心其可能生成色情内容，印度尼西亚上周已暂时封禁Grok，成为全球首个禁止访问该人工智能工具的国家。

随后，马来西亚也对Grok实施临时访问限制。

马来西亚通信和多媒体委员会发布声明称，此举是由于Grok被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容，其中包括涉及女性和未成年人的图像。

据悉，Grok内置于马斯克旗下社交平台X，X用户可直接调用。

近期，X平台上出现部分用户利用Grok编辑图片和视频的情况，一些人借此生成真实人物的虚假性暴露内容并进行传播，受害者包括数百名成年女性及未成年人。