AI治理

人工智能公司 Anthropic 10月19日宣布将百分之五股份投入公共利益基金，用于应对技术变革带来的社会风险。这一承诺将公司部分股权让渡给由独立董事与专家组成的信托机构，是大型 AI 公司首次以股份形式回馈社会，标志着前沿 AI 公司治理模式的重大转变。

核心摘要 加州州长加文·纽森于近日签署行政命令,要求专家组针对人工智能系统建立一套可被监管机构触发的紧急停止机制,被视为美国地方政府针对前沿AI技术最直接的监管尝试之一。该机制将允许州一级监管机构在特定情形下暂停或限制高风险AI系统的运行,引发科技企业、学术界与公民社会组织的广泛讨论。 事件详情 根据行政命令文本,加州将组建一个由技术专家、法律学者、产业代表与公共安全官员共同构成的专项工作组,在六个月内提交紧急停止机制的实施方案。机制的核心议题包括:触发条件的认定标准、暂停操作的技术执行路径、被监管对象的申诉渠道,以及对关键基础设施(如电力、交通、医疗)场景中AI系统的差异化处置原则。 行政命令还要求加州总检察长办公室与州一级的标准制定机构合作,梳理现行的AI监管框架,识别可能与新机制衔接的现有法律工具。这一动作被业界视为加州在缺乏联邦层面统一AI立法情况下,率先以行政命令加专项工作组模式填补监管空白的尝试。 全景透视 加州此次将紧急停止机制写入行政命令,标志着AI治理议题已经从国会听证、智库辩论的软规则层面,正式进入地方行政权力可执行的硬约束层面。这一转变具有三层深远影响。 第一,在产业层面,硅谷所在的加州聚集了全球数量最多的AI前沿企业,从大模型研发到自动驾驶、医疗AI等垂直应用均高度密集。一项州级紧急停止机制即便最终以州法规形式落地,其实际效力也将辐射至全美乃至全球的AI产品部署,因为大多数美国AI公司不会为单一州市场重新设计系统。 第二,在联邦与州权层面,这一动作可能再次激化美国AI监管中的联邦缺位与州先立法之间的张力。加州在汽车排放、数据隐私、清洁能源等领域多次先行立法并最终推动联邦层面的政策跟进,AI领域有望复制这一路径。然而,联邦层面的反对声音(尤其是认为AI监管会拖累美国对中国的竞争优势)也在持续累积。 第三,在国际治理层面,加州此举与欧盟人工智能法案中的高风险系统监管框架形成呼应,也在事实上构成了中美欧三大AI治理范式(欧盟风险分级、美国行业自律加地方立法、中国备案加安全评估)中的美式范式向风险触发式监管靠拢的趋势。 多方观点比对 支持方观点:加州参议员、公民自由组织与部分AI安全研究机构认为,近年来大型语言模型在医疗诊断、自动驾驶、关键基础设施调度等场景的部署规模迅速扩大,一旦出现不可控行为,缺乏外部熔断机制可能造成系统性风险,因此有必要在监管层面预留紧急干预工具。 产业界观点:部分硅谷AI企业对该机制持审慎态度,担忧紧急停止的触发标准若缺乏明确界定,可能被滥用为针对特定企业的竞争性工具,反而损害美国AI产业的全球竞争力。也有声音建议加州参考金融行业的压力测试加熔断器机制,以更成熟的监管技术替代单纯的紧急停止权。 联邦层面观点:白宫此前发布的AI行政命令更强调促进创新加自愿承诺,与加州此次的强制触发思路存在张力。观察人士指出,联邦层面短期内难以出台统一的AI立法,加州此举或将在事实上成为美国AI监管的事实标准之一。 编辑:GoodInfo全球资讯组

核心摘要 人工智能公司Anthropic近期被披露正在公司内部建立一个全新的生物实验室,专门用于让AI系统设计并执行真实的物理与生命科学实验。这一内部项目被业界视为AI从"虚拟推理"迈向"真实世界实验"的关键一步,意味着前沿模型公司正在把研究能力延伸到湿实验领域。该实验室的具体研究方向涵盖分子生物学、合成化学与高通量筛选等方向,旨在让AI模型在真实实验反馈中完成自我改进。 事件详情 据The Information报道,Anthropic这一内部生物实验室的建设进度在过去几个月明显加快。实验室配备有自动化移液工作站、细胞培养设备以及高通量筛选仪器,部分研究流程已实现端到端的机器人化执行。Anthropic的工程团队与外部科研顾问共同设计了实验数据回传机制,使AI模型能够在数小时内完成从假设提出、实验设计到结果分析的完整闭环。 值得关注的是,Anthropic联合创始人Dario Amodei此前曾在多个公开场合表达对AI灭绝风险的强烈担忧,主张行业建立更严格的安全治理框架。此次公司却在内部大力推进AI驱动的真实世界实验,这一战略选择与公司此前的风险立场形成一定反差,也由此引发业界关于前沿AI公司"言行一致"问题的广泛讨论。 从技术角度看,这一项目的核心挑战在于如何让语言模型与多模态模型理解真实的实验误差、噪声与失败案例,并据此优化下一步的实验设计。Anthropic工程团队在内部备忘录中表示,该实验室的最终目标是让AI模型具备"主动提出科学假设并验证"的能力,而不是仅仅模拟已有研究数据。 全景透视 Anthropic的这一内部项目,折射出前沿AI公司在"AI for Science"赛道上的战略升级。从产业演进角度看,过去几年AI在科学领域的角色主要停留在文献挖掘、数据分析与计算模拟等"虚拟环节";而真正能够自主设计并执行湿实验的AI系统,在全球范围内仍属少数。Anthropic此举意味着前沿模型公司开始把研究能力的边界从"屏幕之内"延伸至"实验台之上",这一转变可能重新定义AI公司与传统科研机构之间的合作关系。 从科研范式角度分析,AI驱动的真实实验具有几个显著优势:其一,实验设计与参数搜索的速度可大幅提升,过去需要数月迭代的方案在AI介入后可压缩到数天;其二,实验失败案例可被完整记录并用于训练下一代模型,形成"实验-反馈-改进"的闭环;其三,机器学习模型对高通量数据的处理能力,可帮助科研团队在更短时间内发现新规律。这些优势在药物筛选、材料科学以及合成生物学领域尤其突出。 从产业治理层面看,这一项目也带来新的挑战。当AI模型具备执行真实生物实验的能力时,其潜在的双重用途风险(biosecurity risk)也随之上升。Anthropic在实验室建设中显然已经考虑了相关的安全与合规要求,包括限定研究方向、引入生物安全审查流程以及建立内部审计机制。但行业整体仍缺乏针对此类项目的统一标准,监管机构在相关领域的介入时机与深度,将是未来几年值得关注的重要议题。 从公司战略角度判断,Anthropic此举也反映出其在OpenAI、Google DeepMind等竞争对手加大科研投入背景下的差异化布局。通过构建湿实验能力,Anthropic不仅能够拓展自身的科研能力边界,还能够吸引顶尖生命科学人才,巩固其在"AI前沿研究公司"梯队中的位置。这一选择同时也显示出AI产业正在从"纯软件公司"向"软硬结合的研究型机构"演进。 多方观点比对 支持与看好声音： 部分AI研究人员认为,让模型直接参与真实实验是验证AI科学能力的关键步骤,虚拟模拟终究无法替代真实数据反馈 生物科技领域的创业者表示,AI驱动的实验自动化有望显著降低早期研发成本,使中小型团队也能开展原本只有大型药企才能负担的研究 一些长期关注AI for Science的学者指出,这一项目与Anthropic此前在蛋白质结构预测等领域的积累形成协同,具备较好的技术延续性 审慎与质疑声音： 部分AI安全研究者担忧,具备真实生物实验能力的AI系统在双重用途风险方面需要更严格的内部治理机制,公司自律难以替代外部监管 一些业界观察人士指出,Anthropic此前曾公开警告AI灭绝风险,如今却大力推进AI执行湿实验,这一矛盾需要公司管理层给出更清晰的解释 学术界部分学者担心,前沿AI公司大规模进入实验科学领域可能挤压传统学术机构的资源与人才空间 监管与生态视角： 多位生物安全领域专家呼吁,针对AI驱动实验的生物安全审查框架需要尽快建立,目前各国相关规则普遍滞后于技术发展 部分科技政策研究机构表示,Anthropic此举凸显出AI公司治理结构与外部监管之间需要建立更有效的沟通渠道 一些投资机构认为,具备真实实验能力的AI公司在估值逻辑上将与纯软件AI公司拉开差距,可能形成新的投资类别 编辑：GoodInfo全球资讯组

马斯克律师在OpenAI诉讼中得分：对Sam Altman的三次关键打击 Elon Musk针对OpenAI提起的诉讼迎来新进展。其律师团队在最新庭审中对Sam Altman实现了三次关键打击，进一步质疑OpenAI向营利性转型的合法性。 庭审焦点 Musk的律师团队围绕以下核心问题展开质询： OpenAI最初的非营利使命是否被违背 向GPT-4等闭源模型转变的决策过程 Altman在OpenAI治理结构变更中的角色 法律背景 Musk作为OpenAI联合创始人之一，于2024年提起诉讼，指控OpenAI背离了最初的非营利使命，转向纯粹的营利模式。此案被视为AI行业最具影响力的法律纠纷之一。 行业影响 案件结果将深远影响AI行业的治理模式和非营利研究机构的运作方式。 后续进展 案件将继续审理，双方预计将提交更多证据和证词。 Elon Musk’s Lawyers Score Points Against Sam Altman in OpenAI Trial Elon Musk’s lawsuit against OpenAI has reached a new milestone, with his legal team achieving three key hits against Sam Altman in the latest court hearing, further questioning the legitimacy of OpenAI’s transition to a for-profit model. Trial Focus Musk’s legal team centered their questioning on: ...

OpenAI联合创始人：与马斯克发生激烈对峙 OpenAI联合创始人兼前首席科学家伊利亚·苏茨克（Ilya Sutskever）近日公开回忆了与埃隆·马斯克在OpenAI领导权争议期间的一次激烈对峙事件。苏茨克表示，当时马斯克的言行让他"以为对方要动手打人"。 这一事件发生在OpenAI内部关于公司发展方向的关键转折期。苏茨克作为OpenAI早期核心成员之一，曾与马斯克在AI安全理念上存在分歧。马斯克是OpenAI的联合创始人，但后来退出并创立了竞争对手Anthropic和xAI。 苏茨克在回忆中提到，那次冲突的紧张程度远超外界想象。当时双方在OpenAI的非营利使命与商业化路线之间产生了根本性分歧。苏茨克坚持认为AI发展应以安全为先，而马斯克则倾向于更加激进的商业化策略。 此次公开披露为OpenAI内部的权力斗争提供了新的细节。此前，马斯克曾多次公开批评OpenAI偏离了最初的非营利宗旨，并提起诉讼要求OpenAI回归原始使命。OpenAI则反驳称马斯克的要求将阻碍AI技术的发展。 业内分析人士认为，这一事件再次凸显了AI行业中安全与商业化之间的深层矛盾。随着AI技术的快速发展，如何在创新与风险管控之间找到平衡，仍是整个行业面临的核心挑战。 本文综合BBC等媒体报道

马斯克与OpenAI CEO萨姆·奥特曼之间的法律大战正式开庭。马斯克的律师指控奥特曼通过"关联方冲突交易"从OpenAI获利，并指出2022年10月微软第三笔交易是OpenAI背离非营利使命的转折点。

埃隆·马斯克与OpenAI及山姆·奥特曼之间的多年法律纠纷将于下周一正式开庭审理。尽管马斯克已撤回部分欺诈指控，但核心争议仍将提交陪审团裁决，科技界最引人注目的内部秘密或将曝光。

一份针对主流前沿AI实验室的安全评估报告显示，近期被舆论称为AI智能体失控的多数事件并非源于模型自主恶意，而是由于前沿实验室在输入校验、权限隔离、行为审计与人类监督等基础防护上的严重缺位。该报告在技术社区引发广泛讨论，凸显AI智能体大规模部署背后的安全标准、责任分配与监管路径仍处早期阶段。