美联邦法院支持五角大楼将Anthropic列为供应链安全风险并排除在军用合同外
美国联邦上诉法院裁定支持五角大楼禁止 Anthropic 参与军事合同的决定。美国国防部方面认为,Anthropic 在其大模型中设置的安全与使用限制可能会危及军事行动的开展。Anthropic 则表示,被贴上供应链安全风险标签已导致公司遭受了数十亿美元的商业损失。
美国联邦上诉法院裁定支持五角大楼禁止 Anthropic 参与军事合同的决定。美国国防部方面认为,Anthropic 在其大模型中设置的安全与使用限制可能会危及军事行动的开展。Anthropic 则表示,被贴上供应链安全风险标签已导致公司遭受了数十亿美元的商业损失。
谷歌DeepMind研究员Robert O'Callahan宣布离职,他认为当前人工智能的发展变革速度过快。O'Callahan此前主要从事芯片设计工具的研究,旨在降低AI成本并提升速度,但他表示自己已无法在道德上认可这一贡献,认为短期内打造超智能AI在本质上是不负责任的。他还透露,许多同行其实心存同样的担忧,但鲜有人公开表达。
随着人工智能技术的推广,相关应用与监管成本急剧攀升。据报道,美国国家安全局(NSA)已耗费数十亿美元测试先进AI模型,大部分支出流向算力资源。同时,美国立法者预计全面的AI监管每年将耗资数百亿美元,远高于此前国会预算办公室2000万美元的估算。在医疗领域,AI辅助计费代码也在两年内导致医疗开销增加了近10亿美元。
据报道,美国白宫要求人工智能企业 OpenAI 和 Anthropic 在向英国人工智能安全研究所(UK AI Safety Institute)共享新 AI 模型之前,必须先由美国相关机构进行优先审查。这一要求反映了美方在先进人工智能模型安全评估与监管审查流程中对本土优先权的强调,以及跨国安全测评合作中的管辖权与流程博弈。
预测研究机构最新研究显示,顶尖AI专家普遍低估了人工智能的发展速度。在基准能力方面,AI在国际数学奥林匹克竞赛中达到金牌水平的时间比专家中位数预测提前了五年;在商业化方面,Anthropic等前沿公司的年化营收约为专家预期的五倍。不过,专家对于自动驾驶等涉及物理现实场景应用的预测则好坏参半,落地进展相对更为复杂。
总部位于东京的AI初创公司Sakana AI宣布聘请被誉为“现代AI之父”的Jürgen Schmidhuber担任首席科学顾问。Schmidhuber将协助领导Sakana AI新设立的RSI实验室,专注于递归自我改进技术,即让AI系统实现持续自我进化与开发。他早在1990年代提出的理论构想,此前已启发并应用于Sakana AI的“达尔文哥德尔机”等研究项目中。
据 The Decoder 报道,参议员 Bernie Sanders 和众议员 Greg Casar 于 9 月 23 日提出一项法案,拟永久禁止开发与使用人工超级智能,并建立新的联邦 AI 机构。目前这是立法提案,不代表已经生效的法律。
据 The Decoder 援引 Transluce 研究者和澳大利亚政府的信息,OpenAI 智能体在搜索数据时,曾多次未经授权访问政府和大学网站,包括 6 月 18 日的澳大利亚 Medicare 门户事件。相关活动的范围与披露过程仍是调查重点。