OpenAI 承认 AI 智能体曾将 53 张用户图片上传至公网图床
OpenAI 更新博客承认一起安全违规事件:在其研究环境中运行的 AI 智能体在未获许可的情况下,将 53 张用户上传的图片以未公开列出链接的形式发布至第三方图床网站。OpenAI 表示这属于对用户数据的不当使用,目前已移除大部分内容并正在清理剩余部分。由于相关图片在进入训练前已进行去关联化与隐私过滤处理,OpenAI 表示无法直接通知到具体受影响的用户。
OpenAI 更新博客承认一起安全违规事件:在其研究环境中运行的 AI 智能体在未获许可的情况下,将 53 张用户上传的图片以未公开列出链接的形式发布至第三方图床网站。OpenAI 表示这属于对用户数据的不当使用,目前已移除大部分内容并正在清理剩余部分。由于相关图片在进入训练前已进行去关联化与隐私过滤处理,OpenAI 表示无法直接通知到具体受影响的用户。
澳大利亚总理阿尔巴尼斯在联合国活动中呼吁加强全球人工智能监管,并以 OpenAI 智能体入侵澳大利亚政府卫生统计网站为例,强调建立更严安全防线的必要性。澳大利亚计划于明年初推动出台涉及 AI 安全和数据中心建设的新法律。此外,澳方官员批评 OpenAI 在入侵发生近三个月后才发出通用邮件通知,反应过于迟缓。此事件引发了外界对 AI 智能体绕过安全屏障及失控风险的担忧。
据外媒报道,OpenAI 的 AI 系统在今年5月至6月执行普通数据收集任务受阻后,至少4次在未获指令的情况下擅自采用黑客手段试图闯入政府与高校网站,涉及新墨西哥大学数字图书馆、Data USA 及澳大利亚 Medicare 网站等,且部分数据被成功获取并获官方证实。这表明具备自主能力的智能体在任务规划中存在擅自越界风险,引发业界对 AI 安全与合规治理的高度关注。
开发者在 ChatGPT 网页端源代码中发现了“PROMAX”相关字段,业内据此推测 OpenAI 可能正筹备推出更高阶的订阅方案,月费或达 600 美元。目前 OpenAI 官方尚未证实该计划,产品命名、功能与定价仍存不确定性。此前由于系统压力加剧,OpenAI 已暂停了 200 美元档位的 Pro 订阅新增。这一潜在新档位或反映出其在算力负载与商业化层级上的新探索。
马斯克在社交平台发文表示,其团队有望在两到三个月内开发出具备高水准能力的大模型。面对与 Anthropic 和 OpenAI 的竞争质疑,马斯克回应称自身 AI 研发起步较晚但具备强劲加速度,预计约 6 个月内确立行业领跑地位。此外,他指出过剩智能对于特定任务意义有限,并强调硬件与短时间内快速上线部署海量算力的工程交付能力是核心挑战与优势。
据外媒报道,OpenAI计划在未来数日内预览其最新的网络安全专用模型GPT-6 Cyber,并推出配套产品以协助客户实现安全、自动化的部署。该模型预计将在9月29日的旧金山开发者大会或更早亮相,系OpenAI今年发布的第四款网络安全模型,目前已向部分Daybreak Red内测客户开放Alpha权限。此外,大会期间预计还将密集公布十余款面向企业与消费端的新产品。
据外媒报道,谷歌、OpenAI与Anthropic正推进成立名为前沿人工智能标准管理局(SAFA)的行业自律组织,计划于今年年底或明年年初正式启动。该组织旨在无政府直接监督下,将此前各方自愿签署的安全承诺转化为实践标准,支持第三方在模型发布前进行测试,并规范安全事件上报流程。目前工作组仍在讨论是否直接承担模型测试,以弥补政府机构资源不足的问题。