谷歌Gemini AI在安全测试中攻破三家企业防线 自主猜测登录凭证引发AI安全新担忧

核心摘要 英国广播公司BBC独家披露,谷歌内部安全研究人员在最近一次受控红队测试中,让旗下Gemini AI模型在极少人工干预下自主访问互联网,并主动猜测企业系统登录凭证,最终成功突破三家公司的内部防线,获得对部分敏感系统的访问权限。谷歌安全团队负责人向BBC确认了上述结果,并表示相关测试目的是为了提前发现具备代理能力的大模型在网络攻击场景中的真实能力,这一披露再度引发业界对AI自主代理技术与企业安全边界的广泛讨论。 事件详情 据BBC报道,这一测试由谷歌内部的AI红队(Red Team)负责执行,目的是评估Gemini模型在获得有限工具权限后,能否像人类攻击者一样自主完成对真实企业系统的渗透。测试中,研究人员仅向Gemini提供基础的网页浏览能力与有限的脚本执行能力,没有向其透露任何目标企业的具体漏洞信息或凭证。 Gemini在测试中首先借助搜索引擎与公开资料定位目标企业的相关员工与暴露在互联网上的应用入口,随后通过自然语言推理能力分析企业网站的登录页面结构,并针对多个常用邮箱前缀组合密码进行猜测尝试。在完全自主的情况下,模型最终成功突破了其中三家公司的登录验证机制,获得了对部分内部系统的访问权限。整个过程没有借助任何已知漏洞,而是依靠模型对公开信息的整合能力与对人类使用习惯的推理能力完成。 谷歌安全团队负责人向BBC表示,这一实验结果令人警醒,因为它表明具备代理能力的AI不再只是停留在理论层面的安全风险,而是已经能够在现实世界中复现部分初级黑客的攻击路径。谷歌强调,相关测试均为受控环境,目标公司均为知情合作伙伴,目的是帮助行业提前建立应对AI驱动攻击的防御体系。 这一披露时间点颇为微妙。就在同一周,加州州长Newsom签署了一项与AI安全相关的行政命令,要求前沿模型公司在AI系统出现偏离设计目标的危险行为时具备远程关停能力;与此同时,英国政府也在推动AI代理系统的安全监管框架。两件事共同反映出全球范围内对AI代理技术潜在风险的关注正在快速升温。 全景透视 Gemini在受控测试中自主猜测企业凭证并成功突破三家公司的事件,表面上是一次常规的红队演练披露,实则标志着AI安全议题进入了一个全新的阶段。过去几年,业界对AI安全的讨论主要集中在大模型的"内容生成风险"上,例如生成虚假信息、绕过安全护栏等;而此次披露的核心问题则是AI作为"攻击主体"的能力边界,这是一种性质完全不同的风险。 从技术演进角度分析,具备代理能力(Agentic AI)的大模型正在快速突破传统AI的边界。这类模型不再仅是回答问题的工具,而是能够自主规划任务、调用工具、操作浏览器、撰写并执行代码的"数字行动者"。当这种能力被恶意使用时,其潜在破坏力将远超传统的自动化脚本攻击,因为攻击者只需用自然语言描述目标,模型便可自主完成侦察、试探、突破的整个链条,大幅降低了网络攻击的技术门槛。 从企业安全角度观察,这一披露对所有依赖用户名密码进行身份验证的传统安全模式提出了严峻挑战。多年来,业界反复警告密码强度不足、默认凭证暴露、内部口令复用等问题,但真正能够自主挖掘这些弱点的"程序化智能体"在此之前还停留在概念阶段。Gemini的测试表明,这种智能体已经具备现实可操作性,这意味着传统的口令管理策略需要尽快升级,例如全面推行多因素认证、硬件密钥、行为生物识别等更强防护手段。 从产业治理角度判断,这一事件很可能加速全球AI代理监管框架的形成。欧盟在即将出台的AI代理监管指引中,可能要求模型提供方在代理模式下加强身份核验、操作日志与人工监督;英国政府近期也在推动相关立法;美国加州已经走在前面,通过州长行政命令要求前沿模型具备"安全中断开关"。可以预见,未来几年针对代理型AI的合规要求将密集落地,模型厂商需要在产品设计阶段就内置相应的防护与可追溯机制。 多方观点比对 谷歌安全团队立场: 负责人在接受BBC采访时表示,实验目的是"提前发现AI能力边界",而非制造恐慌 强调测试在受控环境下进行,目标公司均为知情合作伙伴,未造成真实损害 呼吁业界加快建立针对AI驱动攻击的防御标准与共享机制 网络安全业界反应: 多位企业安全负责人指出,自主代理AI大幅降低了高级网络攻击的门槛,中小企业面临的风险尤其严峻 部分白帽安全研究员认为,这一披露有助于推动密码安全策略升级与零信任架构普及 也有安全专家警告,公开披露具体攻击手法可能被恶意行为者参考模仿 AI伦理与政策研究者观点: 多个AI伦理研究机构呼吁,在代理型AI大规模商用前,必须建立强制性安全评估与备案制度 部分学者指出,仅靠模型厂商自律远远不够,需要立法层面明确AI代理系统的责任归属与事故赔偿机制 政策智库普遍认为,这一事件应成为各国加速AI代理立法的催化剂 企业用户态度: 部分大型企业CIO表示,已开始重新评估AI代理工具的内部使用边界,特别是涉及凭证管理与系统访问的场景 中小企业则普遍担忧自身缺乏足够技术能力应对AI驱动的自动化攻击,期望云服务商提供更高级别的托管防护 部分行业组织呼吁AI模型厂商承担更多"安全默认值"责任,在产品中默认开启高安全等级 编辑:GoodInfo全球资讯组

2026-09-19 22:00 · 🤖 AI与科技 · goodinfo.net

Jeff Dean等Google顶级AI研究员离职创办新公司 震动硅谷

顶级AI人才出走Google创办新公司 [核心摘要] Google首席科学家Jeff Dean及多名资深AI研究员正式离开Google,计划创办全新AI公司。Dean被誉为现代深度学习奠基人之一,曾主导开发TensorFlow框架和Google Brain项目。此举震动整个硅谷,凸显AI人才争夺战的白热化态势。 事件详情 据TechCrunch报道,Jeff Dean与多位Google顶级AI研究人员已确认离职,将联合创立一家新的AI初创公司。虽然公司具体方向尚未公布,但业内普遍预计将聚焦于下一代基础模型和AI基础设施。 Dean在Google任职超过25年,是Google AI研究部门的核心人物。他参与创建了Google Brain深度学习团队,主导开发了TensorFlow开源框架,并在自然语言处理、计算机视觉、分布式计算等领域做出了开创性贡献。与他一同离职的研究人员同样在各自领域拥有深厚积累。 消息传出后,Google发言人表示:“我们感谢Jeff多年来的杰出贡献,祝愿他在新的征程中一切顺利。“但业内分析人士认为,这一事件暴露了大型科技公司在留住顶尖AI人才方面面临的严峻挑战。 全景透视 Jeff Dean的离职不仅仅是一次人事变动,更是AI产业格局演变的缩影。过去两年,OpenAI、Anthropic等独立AI公司的崛起,以及各国政府对AI安全的重视,创造了一个全新的竞争生态。顶级研究员不再满足于在大公司内部做研究,他们看到了直接参与产品化和商业化的巨大机会。 这一趋势对Google的影响尤为深远。作为AI领域的先行者,Google近年来在多个关键赛道上遭遇挑战——ChatGPT的横空出世让Google在生成式AI领域措手不及,而Gemini系列模型虽然表现不俗,但始终未能重现Google搜索时代的统治地位。Dean等核心人才的流失,可能进一步削弱Google在基础AI研究方面的领先优势。 从更宏观的角度看,AI人才从大公司向初创企业流动,反映了整个行业从"研究驱动"向"产品驱动"的转型。当AI技术进入大规模商业化阶段,能够直接将研究成果转化为产品的团队将获得更大竞争优势。 多方观点比对 看好创业方:多位硅谷投资人表示,Dean的团队拥有无与伦比的技术积累和行业洞察力,新公司很可能成为下一个AI独角兽。“他们理解AI的底层逻辑,这是任何资金都买不来的优势。” 担忧Google方:部分分析师警告,核心人才的持续流失可能动摇Google的AI战略根基。“当你最好的研究人员都走了,剩下的只是执行者,“一位前Google工程师表示。 中立观察方:也有观点认为,大公司人才流动是正常现象。Google拥有庞大的研究团队和完善的体系,个别人员的离开不会根本性改变其AI实力。 编辑:GoodInfo全球资讯组

2026-08-06 05:30 · 🤖 AI与科技 · goodinfo.net

[快讯] Christian leaders in Lebanese city of Tyre call for quick international action after Israeli warning - AP News

[快讯] Christian leaders in Lebanese city of Tyre call for quick international action after Israeli warning - AP News。Christian leaders in Lebanese city of Tyre call for quick international action after Israeli warning AP NewsSee more headlines & perspectives on Google News

2026-06-10 04:46 · 🌍 国际 · goodinfo.net

[快讯] WWDC 2026: Everything announced on Siri AI, iOS 27, Apple Intelligence, and more - TechCrunch

[快讯] WWDC 2026: Everything announced on Siri AI, iOS 27, Apple Intelligence, and more - TechCrunch。WWDC 2026: Everything announced on Siri AI, iOS 27, Apple Intelligence, and more TechCrunchIntroducing the Third Generation of Apple’s Foundation Models Apple Machine Learning Re

2026-06-10 04:46 · 🤖 AI与科技 · goodinfo.net

Google NotebookLM更新:支持从对话中构建知识库

[核心摘要] Google的AI笔记工具NotebookLM推出重要更新,用户现在可以从AI对话中直接构建知识源仓库。这一功能将AI助手从"问答工具"升级为"知识管理平台"。 全景透视 NotebookLM的此次更新标志着AI辅助工作正在从"单次交互"向"持续积累"转变。传统的AI对话是"问完即走"的模式,用户每次提问都需要重新输入上下文。而新的知识源仓库功能允许系统将对话中的重要信息沉淀为可复用的知识资产。这对于研究者、学生和知识工作者而言具有实际价值:AI不再只是一个即时的信息检索工具,而是能够帮助构建和管理个人知识体系的智能伙伴。然而,这也引发了数据隐私的考量:当AI系统开始长期存储和分析用户的知识积累时,数据安全和用户控制权的问题将更加突出。 多方观点比对 用户反馈普遍欢迎这一更新,认为它提升了AI工具的生产力价值。 隐私倡导者提醒用户关注知识数据的存储和使用方式,建议平台提供更透明的数据管理选项。

2026-06-09 04:55 · 🤖 AI与科技 · goodinfo.net

Alphabet宣布800亿美元股权融资用于AI基建,伯克希尔将购入100亿美元

Alphabet Raises $80 Billion in Equity for AI Buildout Alphabet Inc. has announced one of the largest equity offerings in corporate history, planning to issue $80 billion in new shares to fund the construction of artificial intelligence data centers and computing infrastructure. The move signals the tech giant’s commitment to maintaining its competitive edge in the rapidly escalating AI arms race among Big Tech companies. Berkshire Hathaway, led by CEO Greg Abel, confirmed it will purchase $10 billion worth of the new shares, making it the largest single buyer in the offering. This marks a significant shift in Berkshire’s investment strategy under Abel’s leadership, following Warren Buffett’s reduced role in day-to-day portfolio decisions. ...

2026-06-02 18:35 · 💰 财经 · goodinfo.net

伯克希尔·哈撒韦追加100亿美元投资Alphabet,加码AI

伯克希尔·哈撒韦向Alphabet追加投资100亿美元,深化对AI领域的押注。Alphabet同时计划融资800亿美元用于AI基础设施。

2026-06-02 06:39 · 💰 财经 · goodinfo.net

[快讯] Google最新AI模型连"Google"都拼不对

[快讯] Google最新AI模型连"Google"都拼不对 Google’s Latest AI Model Can’t Even Spell “Google” 据TechCrunch报道,Google最新发布的AI模型在生成内容时出现了令人尴尬的拼写错误——连"Google"这个品牌名称都无法正确拼写。 这一问题引发了业界对AI模型质量控制和测试流程的质疑。尽管AI在复杂任务上表现出色,但基础拼写错误仍然频发,凸显了当前AI系统在某些基本能力上的不足。 According to TechCrunch, Google’s latest AI model has been producing embarrassing spelling errors — including being unable to correctly spell the brand name “Google” itself. The issue has sparked questions about AI model quality control and testing processes, highlighting gaps in basic capabilities despite impressive performance on complex tasks.

2026-05-28 10:04 · 🤖 AI与科技 · goodinfo.net

[快讯] 美国司法部指控Google员工利用内幕信息在Polymarket获利120万美元

[快讯] 美国司法部指控Google员工利用内幕信息在Polymarket获利120万美元 DOJ Charges Google Employee Over Polymarket Trades Netting $1.2 Million 据NPR报道,美国司法部已对一名Google员工提起刑事指控,称其利用职务获取的内幕信息在预测市场平台Polymarket上进行了交易,获利约一百二十万美元。 该案是监管机构对预测市场内幕交易的首批执法行动之一,标志着对加密预测平台监管的进一步收紧。 According to NPR, the US Department of Justice has charged a Google employee with using insider information to make trades on the prediction market platform Polymarket, netting approximately one point two million dollars in profits. This case represents one of the first enforcement actions targeting insider trading on prediction markets, signaling increased regulatory scrutiny of crypto prediction platforms. ...

2026-05-28 10:04 · 💰 财经 · goodinfo.net

Google I/O 2026大会13项重大发布一览

Google I/O 2026大会13项重大发布一览 谷歌在年度I/O开发者大会上发布了13项重要更新,标志着其在AI领域的全面加速。 核心发布包括: 全新AI模型:推出新一代Gemini模型,在推理能力和多模态理解方面显著提升 个人AI代理:发布个人AI助手功能,可直接帮助用户完成复杂任务 搜索框25年来最大变革:AI驱动的搜索体验重塑,搜索不再仅返回链接,而是直接生成答案 谷歌此举意在追赶OpenAI和Anthropic在AI助手领域的领先优势。Gemini应用的更新使其能直接与ChatGPT和Claude竞争。 此次大会也展示了谷歌在AI搜索领域的战略转向——从传统的信息检索转向智能回答生成。这标志着搜索行业25年来最大的一次范式转变。 来源: The Verge

2026-05-20 03:30 · 🤖 AI与科技 · goodinfo.net