全部 AI 动态

黑客操纵ChatGPT与Gemini将用户诱导至诈骗平台

最新报道显示，黑客正在通过操纵OpenAI的ChatGPT和谷歌的Gemini等主流生成式AI平台，将用户引导至诈骗中心及恶意平台。该事件凸显了大语言模型在内容输出审查、防范提示词注入与恶意操纵等安全防护机制上的薄弱环节，为生成式AI的合规与安全治理敲响警钟。目前素材信息有限，黑客具体的操纵手法与受影响用户规模尚未完全披露。