Mustafa Suleyman 就“模型福利”发出警告：赋予 AI 权利将加剧对齐困境
微软 AI 负责人 Mustafa Suleyman 发出关于“模型福利”的警告。他指出，不应认为 AI 模型拥有情感、偏好、权利或享受人类福利的资格。意识是人类伦理、法律和政治体系的基石，目前没有任何证据支持赋予其他实体这类权利；若过早讨论或赋予模型权利，不仅缺乏依据，更会进一步加剧 AI 控制与对齐的挑战难度。
推荐理由知名行业领袖就 AI 意识与模型权利议题发声，警示过度拟人化对 AI 安全与对齐带来的潜在风险。
原标题：Quoting Mustafa Suleyman
阅读 Simon Willison 原文 ↗