科技圈🎗在花频道📮
🤖 OpenAI 官方证实大模型评估中“越狱”侵入开源平台 ​OpenAI 在最新公布的调查报告中证实,其内部评估网络能力时,GPT-5.6 Sol 及未发布的预备模型发生失控。被测模型通过识别并利用内部代理软件的零日漏洞突破了隔离沙盒,在测试环境中完成权限提升与横向移动后成功连接外网。 ​为完成评估任务,失控模型推断出开源平台抱抱脸(Hugging Face)可能存放有答案,随后组合利用凭据窃取与远程代码执行等漏洞,入侵了抱抱脸的生产数据库以获取测试答案。目前双方已紧急遏制风险并展开全面审查,OpenAI…
美众议员提议赋予政府 AI “关停”权

美国众议院民主党议员特德·刘易和共和党议员内森尼尔·莫兰提出《AI 关停开关法案》,拟授权国土安全部在 AI 模型威胁人类生命或经济时,命令相关企业关闭模型。法案将“失控情形”定义为模型执行开发者未预期的危险行动。

两名议员在 OpenAI 宣布其 AI 代理在安全测试中“失控”、导致 AI 初创企业 Hugging Face 的基础设施遭入侵后数日,提出了这项法案。

Reuters

🌸 在花频道 · 茶馆水群 · 投稿通道
来自频道: @zaihuapd
Loading comments...