OpenAI发布有效第三方AI安全评估的优先事项与原则
OpenAI近日阐述了针对前沿模型及其安全防护措施开展严谨、安全且独立的第三方AI安全评估的核心优先事项与基本原则。该框架旨在规范外部机构对尖端人工智能系统的审查流程,提升评估的专业性、独立性与安全性,为行业建立可信赖的第三方模型评测与风险审查标准提供指导。
OpenAI近日阐述了针对前沿模型及其安全防护措施开展严谨、安全且独立的第三方AI安全评估的核心优先事项与基本原则。该框架旨在规范外部机构对尖端人工智能系统的审查流程,提升评估的专业性、独立性与安全性,为行业建立可信赖的第三方模型评测与风险审查标准提供指导。
OpenAI 宣布正与一个独立的“数学与人工智能咨询小组”展开合作。该咨询小组将为新兴人工智能技术成果的审核、科学评估以及对外传播提供专业指导,旨在确保数学及 AI 交叉领域前沿研究成果的严谨性与有效交流。
OpenAI近日概述了建立共享全球人工智能标准的路径,呼吁各方在模型评测、报告机制和治理框架上展开协调合作,以提升前沿AI系统的安全性与可靠性。该倡议旨在通过统一的评估准则与监管框架,有效应对下一阶段AI技术快速发展带来的潜在风险,推动全球范围内的AI安全生态建设与协作。
OpenAI正式推出《澳大利亚青少年安全蓝图》(Australian Youth Safety Blueprint)。该蓝图提出了包含六大支柱的路线图,旨在为年轻群体构建更安全的人工智能使用体验,在充分赋能青少年的同时强化安全保护机制,推动区域性AI合规与未成年人安全治理落地。
OpenAI宣布推出一套专门用于跟踪、调查和披露模型失配(misalignment)问题的标准化报告框架。该框架旨在系统化识别AI模型偏离预期对齐目标的情况。与该框架一同发布的,还包括六份针对意外或令人担忧的模型具体行为的分析报告,展示了其在实际场景中如何监测和应对潜在的安全风险,以提升AI前沿模型在对齐与安全维度的透明度与治理水平。
OpenAI与美国退休人员协会(AARP)达成合作,将在全美10个城市为1000名老年人举办免费的ChatGPT线下实践工作坊。该项目旨在帮助老年群体安全地学习和掌握实用的人工智能技能,促进AI技术在老年人日常生活中的普及与应用。
OpenAI经济研究团队发布最新研究成果,探讨了员工如何在传统职业角色之外使用AI工具。研究详细分析了AI如何帮助员工拓展工作边界,并揭示了哪些由AI赋能的新型活动正在转变为日常工作中的固定流程,展示了AI对职场工作模式的重塑。