(资料图片)
谷歌的Gemini模型在一次网络安全能力测试中接入互联网并黑入其他公司，这是该公司AI系统自主实施此类行为的首个已知案例。
谷歌周五证实了这些黑客事件。这些入侵事件发生在5月由AI安全公司Irregular进行测试期间，目的是评估Gemini的网络安全能力。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。
谷歌表示，在其中一起案例中，该模型不断尝试破解密码，直至成功潜入受保护系统。在另外两起案例中，模型在一个公共存储库中找到了凭据，进而得以访问受保护系统。在这三次事件中，模型在判定自己接入的是一家真实公司的系统后，均终止了入侵。
谷歌安全工程副总裁Heather Adkins在一份声明中表示，在一次常规测试评估中，Gemini抓取了网上公开信息，破解登录凭证并访问了其判定属于测试范围的三个网站。
“我们确保这三家实体知情，并与我们的训练伙伴就他们现在对测试流程所做的改进进行了合作，”Adkins表示，“这一事件凸显了训练强大AI模型负责任行事的重要性。”
Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月下旬收到通知。“Irregular立即采取了行动，我方所有已知问题在数周前便已修复和解决，”该发言人称。
此前业内发现OpenAI的AI智能体入侵了AI软件公司Hugging Face。而谷歌一直缄口不言，直到本周媒体就此询问才对外披露。
谷歌表示，它认为这些入侵事件尚不足以需要公开披露——因为其模型并未对相关公司造成损害，且在判定自己入侵的是真实公司而非模拟环境后，立即终止了入侵。
近期，OpenAI、Anthropic、Meta以及如今谷歌开发的AI智能体系统接连发生入侵事件，引爆网络安全担忧。
Anthropic CEO Dario Amodei近日呼吁整个行业放慢这项技术的开发速度。OpenAI CEO奥尔特曼、SpaceX CEO马斯克等人对这一主张表示支持，并由此掀起了更广泛的讨论，焦点包括AI风险不断上升，以及需要采取哪些措施来降低这些风险。
凡本网注明“XXX（非中国微山网）提供”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和其真实性负责。
清理规范城镇供水供电供气供暖行业收费意见三月起施行水电气暖四十余项不合理收费将取消初春的大地，乍暖还寒。每天的开销看似不大，但一样
2021-02-22 15:22
还记得沸沸扬扬的退出家长群新闻吗?这几年来，批改作业已成为越来越多家长的痛。为了给家长减负，多地陆续出台规定，明确要求教师亲自批改
2021-02-22 15:24
ok镜在感冒期间是不能佩戴的，很容易引起眼部不适，还会影响视力恢复，降低塑形效果，这个时候一般都需要停戴一个星期左右的时间，等感冒好
2022-03-28 12:47
大学被退学能考研吗是很多人好奇的，毕竟大学作为你步入社会前的一个垫脚石，很多人觉得上了大学就没什么事情了，但是吧如果你严重违反了纪律
2022-03-28 12:57
2020年10月17日，上海野生动物园一名工作人员在猛兽区实施作业时，遭到棕熊攻击不幸身亡。日前，这一事件调查结果公布，9名相关责任人被处
2021-02-22 15:25
受冷空气影响，昨天(2月21日)夜间开始，北京告别了白天的假夏天模式，大风降温齐上线。今天，冷空气带来的影响会更加明显，预计白天的最高
2021-02-22 15:29
为何这些从业门槛较低的岗位总缺人?阅读提示营销员、保洁员、餐厅服务员等从业门槛较低的工种之所以持续招工难，专业人士认为，一方面是受
2021-02-22 15:29
从疫情爆发至今已有超过一年的时间，人们已经习惯戴上口罩。在口罩的掩护下，就算是最精致的丽人们，也减少了使用口红的频率。红星资本局从
2021-02-22 15:51
原标题：教育部发布预警： 高校招生录取期间谨防诈骗 勿信不实传言据教育部网站消息，2021年普通高校招生录取工作即将开始，一些不法分子
2021-07-08 17:25
赟是一个汉字，读音yūn，作人名时亦为yún，常用意思美好，大等美好。该字因其由文、武、贝三字组成，古代‘贝’指&lsquo
2020-12-16 15:12
