在 AI 领域，很多初学者容易患上一种“模型信任天真症”：试图通过在 System Prompt 里反反复复写上一万遍“你是一个安全守规矩的 AI，严禁执行破坏性系统命令”，来作为整个系统的安全防线。 在真实的生产与对抗环境下，这种防御犹如马奇诺防线般脆弱： 大模型是一个概率生成系统，Prompt ...