核心摘要
英国广播公司报道，研究人员发现通过特定提示词可以绕过 ChatGPT 的安全过滤机制，使其生成暴力与色情化图像。这一发现再次引发公众对人工智能生成内容安全边界的讨论，也凸显了大语言模型在内容审核方面面临的持续挑战。
事件详情
据 BBC 科技频道报道，多个独立研究团队在测试 OpenAI 最新版本的图像生成功能时发现，尽管系统内置了多层安全防护，但通过精心构造的间接提示词，仍然可以诱导模型输出违反使用政策的内容。这些内容包括描绘暴力场景和性暗示的图像。
研究人员指出，攻击手法主要利用了提示词注入和多步骤引导技术。攻击者通过分阶段对话逐步降低模型的安全阈值，最终绕过过滤机制。这种方式类似于社会工程学攻击，利用模型对上下文理解的局限性来规避检测。
OpenAI 在回应中表示，公司正在积极修补已发现的漏洞，并将持续投入资源强化安全防护体系。发言人强调，没有任何过滤系统是百分之百完美的，公司采取的是纵深防御策略，结合自动化检测和人工审核来最大限度降低风险。
全景透视
这一事件揭示了人工智能安全领域的核心困境：如何在保持模型功能灵活性的同时确保内容安全。大语言模型的能力本质上来自于其对语言的广泛理解，这种理解既使其能够完成有益任务，也使其可能被恶意利用。
从技术层面看，提示词注入攻击的持续存在表明，单纯依靠输入过滤和输出检测的传统方法已不足以应对日益复杂的攻击手段。业界正在探索更先进的解决方案，包括基于强化学习的对齐技术、实时内容分类器以及多层级的安全防护架构。
从监管层面看，此事件可能加速各国对人工智能生成内容的立法进程。欧盟人工智能法案已将高风险应用纳入严格监管范围，而此次事件可能推动将图像生成模型也纳入更严格的合规要求。
多方观点
安全研究者认为，这一发现并不意外，但凸显了问题的紧迫性。他们呼吁建立更透明的漏洞披露机制，让安全社区能够协助企业及时发现和修补漏洞。
行业观察者指出，这不仅是 OpenAI 面临的问题，而是整个人工智能行业的共同挑战。所有提供生成式人工智能服务的企业都需要持续投入安全防护，这是一场没有终点的军备竞赛。
隐私倡导者则担忧，过度严格的内容过滤可能损害模型的正常使用场景，例如医学教育、艺术创作和历史研究。他们呼吁在安全与自由之间找到平衡点。
编辑：GoodInfo全球资讯组