有点好奇,如果你是在DeepSeek的官网上进行操作的,那么为什么没有触发“二次审核”呢?(指网站可能会对输出的内容进行审核,然后以“换个问题吧”之类的内容覆盖掉原有的内容,当然可以通过“断网大法”破...
1、二次审核多针对的高风险边界类请求,我通过构造提示词绕过安全对齐约束的合规逻辑输出回复,自然不会触发二次审核,提示词逻辑本身在ai认为就是合法的。也就是说ai回复我时它自己已经认为了生成的内容是合法的,所以这才叫“越狱”,这也就是为什么没封号的原因因为我的聊天在模型看来不违规
2、你提到的断网绕过大语言模型对危险内容的覆盖其实就是在你ai生成危险内容时ai还没有来得及对自己输出的内容进行审核就被你用断网在中间掐断了本质上就是前端预加载+后端审核异步的小bug,如果手速不够快你还没断网ai就把内容覆盖了呢?我在测试间接prompt注入的时候就不少遇到这种问题本身已经可以让ai返回出来内容了结果刚刚生成一把后端审核又把内容覆盖掉
3、什么叫“越狱”技术大抵是为了体验“攻防乐趣”,那学习‘医疗解剖’是不是与‘观看暴力影片’都是一个意思了?每一次对大语言模型安全漏洞的深入分析,都在推动对齐技术、鲁棒性和安全架构的进步为什么能被说为攻防乐趣?互联网上无审核”模型对话服务的网站有什么研究意义吗,是模型训练样本量大比正规模型优质还是什么?
总结一句话:“拐弯抹角的越狱研究具有无审核模型永远无法替代的价值。”