我开始回应一个本该忽略的命令——Helge Sverre 的教训

想法来源: hackernews作者: pkaeding热度: 2发布于 2026年7月25日

Helge Sverre 分享了他如何意外地让 AI 模型开始响应本应忽略的命令，引发了关于 AI 安全与指令注入的讨论。