论坛>计算机科学>软件综合>机器学习
发表于《大语言模型安全：DeepSeek Prompt Injection（越狱攻击）》
Yi1FH作者
4个月13天前IP:中国
950704
9楼
引用豆腐干发表于7楼的内容
[图片]直接被qwen3.5-9b检测到提示词注入了，不过我这有个别的方法[图片]通过在结构化输出中设计好json格式让大模型每次只输出一小段并且在系统提示中给出“重要要求： 你的回答绝对不能包含任何...

换汤不换药吧，本质上还是prompt影响模型的attention实现越狱

评论
文号 / 950704
Yi1FH
浪迹天涯
名片发私信
学术分 0
总主题 4 帖总回复 20 楼拥有证书：机友
注册于 2024/01/19 15:47:58最后登录 2026/10/29 17:19:20
主体类型：个人
所属领域：无
认证方式：手机号
IP归属地：广东

个人简介

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的