英国广播公司报道，研究人员发现通过特定提示词可以绕过 ChatGPT 的安全过滤机制，使其生成暴力与色情化图像。这一发现再次引发公众对人工智能生成内容安全边界的讨论，也凸显了大语言模型在内容审核方面面临的持续挑战。

事件详情

据 BBC 科技频道报道，多个独立研究团队在测试 OpenAI 最新版本的图像生成功能时发现，尽管系统内置了多层安全防护，但通过精心构造的间接提示词，仍然可以诱导模型输出违反使用政策的内容。这些内容包括描绘暴力场景和性暗示的图像。

研究人员指出，攻击手法主要利用了提示词注入和多步骤引导技术。攻击者通过分阶段对话逐步降低模型的安全阈值，最终绕过过滤机制。这种方式类似于社会工程学攻击，利用模型对上下文理解的局限性来规避检测。

OpenAI 在回应中表示，公司正在积极修补已发现的漏洞，并将持续投入资源强化安全防护体系。发言人强调，没有任何过滤系统是百分之百完美的，公司采取的是纵深防御策略，结合自动化检测和人工审核来最大限度降低风险。

全景透视

这一事件揭示了人工智能安全领域的核心困境：如何在保持模型功能灵活性的同时确保内容安全。大语言模型的能力本质上来自于其对语言的广泛理解，这种理解既使其能够完成有益任务，也使其可能被恶意利用。

从技术层面看，提示词注入攻击的持续存在表明，单纯依靠输入过滤和输出检测的传统方法已不足以应对日益复杂的攻击手段。业界正在探索更先进的解决方案，包括基于强化学习的对齐技术、实时内容分类器以及多层级的安全防护架构。

从监管层面看，此事件可能加速各国对人工智能生成内容的立法进程。欧盟人工智能法案已将高风险应用纳入严格监管范围，而此次事件可能推动将图像生成模型也纳入更严格的合规要求。

多方观点

安全研究者认为，这一发现并不意外，但凸显了问题的紧迫性。他们呼吁建立更透明的漏洞披露机制，让安全社区能够协助企业及时发现和修补漏洞。

行业观察者指出，这不仅是 OpenAI 面临的问题，而是整个人工智能行业的共同挑战。所有提供生成式人工智能服务的企业都需要持续投入安全防护，这是一场没有终点的军备竞赛。

隐私倡导者则担忧，过度严格的内容过滤可能损害模型的正常使用场景，例如医学教育、艺术创作和历史研究。他们呼吁在安全与自由之间找到平衡点。

编辑：GoodInfo全球资讯组

欧盟监管机构披露，Meta公司多次拒绝向其提供有关Facebook和Instagram平台用户封禁决策的详细信息。这是Meta今年以来第三次被指不配合欧盟《数字服务法》(DSA)框架下的合规要求。

欧盟数字服务协调员网络(DSC Network)在一份声明中指出，Meta未能按照DSA第24条的规定，在收到请求后规定时间内提供用户封禁相关数据。这些数据包括被封禁账户的数量、封禁原因分类以及申诉处理结果等关键信息。

欧盟方面强调，大型在线平台有法律义务向监管机构提供透明的内容审核数据，以确保平台在执行社区规则时不会存在系统性偏见或歧视。Meta的持续不配合可能面临新一轮罚款，DSA规定的违规罚金最高可达公司全球年营业额的6%。

Meta方面回应称，公司一直在与欧盟监管机构保持建设性对话，但由于用户隐私保护的法律限制，某些数据的共享需要更为谨慎的处理。Meta表示正在开发新的数据报告系统，以更好地平衡透明度与隐私保护的需求。

分析人士指出，这场争端反映了更广泛的平台治理难题：一方面，欧盟希望通过DSA建立强有力的数字市场监管框架；另一方面，科技巨头在数据透明度和用户隐私之间存在固有的张力。

此前，Meta已因DSA合规问题被欧盟开出多张罚单。如果此次调查最终导致新的处罚，Meta在欧洲面临的DSA累计罚款可能已超过5亿欧元。

Meta Repeatedly Refuses EU Requests Over Facebook and Instagram User Ban Data

EU regulators have disclosed that Meta has repeatedly failed to provide detailed information about user ban decisions on Facebook and Instagram, marking the third time this year the company has been cited for non-cooperation under the Digital Services Act (DSA).

The EU’s Digital Services Coordinator Network stated that Meta did not comply with DSA Article 24 requirements to share data on banned accounts, including the number of bans, reason categories, and appeal outcomes within the mandated timeframe.

Meta responded that it is engaged in constructive dialogue with EU regulators but cited user privacy laws as limiting certain data-sharing capabilities. The company says it is developing a new reporting system to better balance transparency with privacy protection.

Under the DSA, non-compliance can result in fines of up to 6% of global annual revenue. Meta has already faced multiple DSA-related penalties in the EU, and cumulative fines could exceed €500 million if this investigation leads to further sanctions.

Source: BBC