应用监管

核心摘要 旧金山总检察长向科技巨头苹果和谷歌发出正式警告，要求其立即停止从人工智能"脱衣"应用中获利。这些应用利用AI技术生成虚假裸露图像，被广泛批评为对隐私和未成年人安全的严重威胁。此举标志着美国地方政府对AI应用监管力度的进一步升级。 事件详情 据Ars Technica报道，旧金山总检察长办公室已向苹果和谷歌发出正式函件，指出两家应用商店仍在分发和从AI"脱衣"应用中获利，违反了消费者保护法规。这些应用通常伪装为"图像编辑"或"AI换脸"工具，但实际功能是生成虚假的裸露或半裸露人体图像。 总检察长在声明中强调，这些应用对未成年人构成特别严重的威胁。研究表明，此类技术已被用于制作校园霸凌材料，甚至被用于制作未成年人的虚假不雅图像。尽管苹果和谷歌此前已承诺加强应用审核，但调查显示这些应用仍在应用商店中大量存在。 苹果和谷歌尚未对此事作出正式回应。此前两家公司均表示已建立应用审核机制，但批评者认为这些机制存在明显漏洞，无法有效阻止有害AI应用的传播。 全景透视 此事件凸显了AI技术快速发展与监管滞后之间的深层矛盾。生成式AI技术的普及使得图像操纵变得前所未有的容易，而现有法律框架和应用分发机制尚未建立有效的防护体系。 从技术层面来看，AI"脱衣"应用通常基于扩散模型或生成对抗网络，这些技术本身具有广泛的应用前景，但被滥用时造成的危害极为严重。如何在保护技术创新空间的同时防止技术滥用，是全球监管机构面临的共同挑战。 从产业责任角度来看，应用商店作为数字生态的"守门人"，其审核责任日益受到关注。苹果和谷歌控制着移动端应用分发的主要渠道，其审核标准和执行力度直接影响用户安全。此次旧金山总检察长的行动可能为其他州和国家的监管行动提供先例。 从社会影响来看，AI生成的虚假图像对受害者的心理伤害是真实且持久的。随着技术门槛不断降低，如何建立有效的预防和救济机制，需要技术公司、监管机构和社区共同努力。 多方观点比对 监管方：旧金山总检察长强调，保护未成年人免受技术滥用是政府的核心职责，要求科技公司在应用审核方面承担更大责任。 科技公司：苹果和谷歌此前表示已建立多层审核机制，包括人工审核和自动检测系统。但批评者指出，这些机制在面对快速迭代的AI应用时显得力不从心。 民权组织：电子隐私信息中心等组织支持加强监管，但同时也警告过度监管可能限制合法AI应用的发展空间，呼吁建立更加精细化的监管框架。 技术专家：部分AI研究者建议从技术源头解决问题，例如在模型训练阶段加入安全约束，或在图像生成过程中嵌入可追溯水印。 编辑：GoodInfo全球资讯组