加州州长加文·纽森近期提出为人工智能技术引入所谓"紧急切断"机制,以应对AI系统在关键场景下可能出现的不可控行为。该机制将允许监管机构在特定情形下暂停或限制AI系统的运行,被业界视为美国地方政府层面针对前沿AI技术最直接的监管尝试之一,引发了科技企业、学术界与公民社会组织的广泛讨论。

事件详情

据彭博社报道,纽森州长已在多个公开场合表态,认为前沿AI系统的能力跃升速度已经超过现有监管框架的适应能力,因此加州需要探索包括"紧急切断"机制在内的新型监管工具。这一机制的核心思路是,在AI系统被认定对公共安全、消费者权益或社会稳定构成不可接受风险时,监管机构有权要求相关企业暂停或限制其系统的运行。

纽森州长办公室表示,相关机制的立法路径可能包括召开加州议会特别会议、发布行政命令或推动相关监管法案等多种选项。具体方案的细节尚未完全公开,但其团队强调,机制设计需要在防范风险与鼓励创新之间取得平衡。

科技行业方面,部分加州本地的大型科技企业对"紧急切断"机制表示谨慎态度,认为过于宽泛的监管权限可能抑制AI领域的创新活力。学术界则普遍支持加强AI监管,但对"紧急切断"这一具体工具的可行性存在不同看法。多位AI伦理学专家表示,机制的设计应当建立在清晰的判定标准与透明程序之上,以避免监管权力被滥用。

编辑：GoodInfo全球资讯组