纽森

核心摘要 加州州长加文·纽森于近日签署行政命令,要求专家组针对人工智能系统建立一套可被监管机构触发的紧急停止机制,被视为美国地方政府针对前沿AI技术最直接的监管尝试之一。该机制将允许州一级监管机构在特定情形下暂停或限制高风险AI系统的运行,引发科技企业、学术界与公民社会组织的广泛讨论。 事件详情 根据行政命令文本,加州将组建一个由技术专家、法律学者、产业代表与公共安全官员共同构成的专项工作组,在六个月内提交紧急停止机制的实施方案。机制的核心议题包括:触发条件的认定标准、暂停操作的技术执行路径、被监管对象的申诉渠道,以及对关键基础设施(如电力、交通、医疗)场景中AI系统的差异化处置原则。 行政命令还要求加州总检察长办公室与州一级的标准制定机构合作,梳理现行的AI监管框架,识别可能与新机制衔接的现有法律工具。这一动作被业界视为加州在缺乏联邦层面统一AI立法情况下,率先以行政命令加专项工作组模式填补监管空白的尝试。 全景透视 加州此次将紧急停止机制写入行政命令,标志着AI治理议题已经从国会听证、智库辩论的软规则层面,正式进入地方行政权力可执行的硬约束层面。这一转变具有三层深远影响。 第一,在产业层面,硅谷所在的加州聚集了全球数量最多的AI前沿企业,从大模型研发到自动驾驶、医疗AI等垂直应用均高度密集。一项州级紧急停止机制即便最终以州法规形式落地,其实际效力也将辐射至全美乃至全球的AI产品部署,因为大多数美国AI公司不会为单一州市场重新设计系统。 第二,在联邦与州权层面,这一动作可能再次激化美国AI监管中的联邦缺位与州先立法之间的张力。加州在汽车排放、数据隐私、清洁能源等领域多次先行立法并最终推动联邦层面的政策跟进,AI领域有望复制这一路径。然而,联邦层面的反对声音(尤其是认为AI监管会拖累美国对中国的竞争优势)也在持续累积。 第三,在国际治理层面,加州此举与欧盟人工智能法案中的高风险系统监管框架形成呼应,也在事实上构成了中美欧三大AI治理范式(欧盟风险分级、美国行业自律加地方立法、中国备案加安全评估)中的美式范式向风险触发式监管靠拢的趋势。 多方观点比对 支持方观点:加州参议员、公民自由组织与部分AI安全研究机构认为,近年来大型语言模型在医疗诊断、自动驾驶、关键基础设施调度等场景的部署规模迅速扩大,一旦出现不可控行为,缺乏外部熔断机制可能造成系统性风险,因此有必要在监管层面预留紧急干预工具。 产业界观点:部分硅谷AI企业对该机制持审慎态度,担忧紧急停止的触发标准若缺乏明确界定,可能被滥用为针对特定企业的竞争性工具,反而损害美国AI产业的全球竞争力。也有声音建议加州参考金融行业的压力测试加熔断器机制,以更成熟的监管技术替代单纯的紧急停止权。 联邦层面观点:白宫此前发布的AI行政命令更强调促进创新加自愿承诺,与加州此次的强制触发思路存在张力。观察人士指出,联邦层面短期内难以出台统一的AI立法,加州此举或将在事实上成为美国AI监管的事实标准之一。 编辑:GoodInfo全球资讯组

核心摘要 加州州长加文·纽森近期提出为人工智能技术引入所谓"紧急切断"机制,以应对AI系统在关键场景下可能出现的不可控行为。该机制将允许监管机构在特定情形下暂停或限制AI系统的运行,被业界视为美国地方政府层面针对前沿AI技术最直接的监管尝试之一,引发了科技企业、学术界与公民社会组织的广泛讨论。 事件详情 据彭博社报道,纽森州长已在多个公开场合表态,认为前沿AI系统的能力跃升速度已经超过现有监管框架的适应能力,因此加州需要探索包括"紧急切断"机制在内的新型监管工具。这一机制的核心思路是,在AI系统被认定对公共安全、消费者权益或社会稳定构成不可接受风险时,监管机构有权要求相关企业暂停或限制其系统的运行。 纽森州长办公室表示,相关机制的立法路径可能包括召开加州议会特别会议、发布行政命令或推动相关监管法案等多种选项。具体方案的细节尚未完全公开,但其团队强调,机制设计需要在防范风险与鼓励创新之间取得平衡。 科技行业方面,部分加州本地的大型科技企业对"紧急切断"机制表示谨慎态度,认为过于宽泛的监管权限可能抑制AI领域的创新活力。学术界则普遍支持加强AI监管,但对"紧急切断"这一具体工具的可行性存在不同看法。多位AI伦理学专家表示,机制的设计应当建立在清晰的判定标准与透明程序之上,以避免监管权力被滥用。 编辑：GoodInfo全球资讯组