黑客操纵ChatGPT与Gemini将用户诱导至诈骗平台
最新报道显示，黑客正在通过操纵OpenAI的ChatGPT和谷歌的Gemini等主流生成式AI平台，将用户引导至诈骗中心及恶意平台。该事件凸显了大语言模型在内容输出审查、防范提示词注入与恶意操纵等安全防护机制上的薄弱环节，为生成式AI的合规与安全治理敲响警钟。目前素材信息有限，黑客具体的操纵手法与受影响用户规模尚未完全披露。
推荐理由涉及ChatGPT与Gemini两大主流AI模型被恶意操纵用于网络诈骗，具有重要的安全警示意义。
原标题：黑客操纵ChatGPT和Gemini，将用户引导至诈骗平台
阅读 Buzzing HN · 中文精选 原文 ↗