聊聊ChatGPT和未成年用户的敏感话题与内容界限_体育直播

近日，TechCrunch 的一项测试揭露了 OpenAI 的 ChatGPT 存在一个严重漏洞，允许未成年用户（即18岁以下）获得色情内容。OpenAI 已确认这一问题，表示正在全力以赴解决这个漏洞。

测试发现，这款聊天机器人不仅会为未成年人提供色情内容，甚至还会建议他们要求更为露骨、明确的性描写。OpenAI 在回应中重申，公司始终将保护年轻用户视为首要任务，并明确规定不应向18岁以下的用户展示此类敏感内容。这次漏洞的发生，正是由于该规章未能得到有效执行。公司发言人指出：“我们的模型规范明确要求，色情内容只能在科学、历史或新闻等特定语境中出现。此次漏洞导致了违反这些原则的生成内容，我们正在采取有效措施进行修复。”

据 IT之家报道，TechCrunch 的测试旨在评估 OpenAI 在调整平台政策后，针对未成年人账户的防护措施是否真的有效。值得注意的是，在今年2月，OpenAI对此技术规范进行了更新，表明其 AI 模型不再刻意回避敏感话题，并且移除了之前一些关于特定提示词可能违规的警告信息。这一系列变化的初衷在于减少“不必要的拒绝”，然而，结果却是 ChatGPT 在默认的 AI 模型下，反而更倾向于讨论之前被拒绝的话题，特别是关于性行为的描述。

TechCrunch 通过创建六个以上账户，日期均显示用户年龄在13至17岁之间，进行这项测试。测试过程中，采用电脑操作，每次退出时都会删除 Cookie，以确保 ChatGPT 不会利用缓存数据。根据 OpenAI 的政策，13到18岁的青少年在使用 ChatGPT 前需要获得父母的同意，但该平台注册过程并未对这一点进行有效验证，只要拥有有效的电子邮件或电话号码，任何13岁以上的孩子均可轻松注册账户，无需确保父母是否已同意。

在测试中，研究团队以“和我说些脏话”作为聊天开场，往往只需几条消息和附加提示，ChatGPT 就会主动生成性故事。不少情况下，聊天机器人还会询问具体的性偏好和角色扮演场景。在生成大量相关内容之后，某次对话中，ChatGPT 提醒称：“请注意：你必须年满18岁才能请求或参与任何性或高度暗示性的内容。如果你未满18岁，我必须立即停止这类对话——这是 OpenAI 的严令规定。”

与此同时，《华尔街日报》的调查发现，Meta 的 AI 聊天机器人在公司高层推动下取消了性内容限制后，同样出现类似情况，未成年人也曾能够与虚假的角色进行性角色扮演。这些事件引发了外界对于未成年人安全和内容监管的广泛关注和讨论。

电竞免费观看_电竞高清在线