标签：对抗攻击

强化学习成帮凶，对抗攻击LLM有了新方法

威斯康星大学麦迪逊分校的研究团队最近发现，强化学习可以被用于实施黑盒逃避攻击，即通过生成对抗样本来欺骗机器学习模型。这一发现揭示了强化学习在攻击AI...

AIGC动态

4周前

揭秘多轮越狱攻击新框架：RACE 如何利用大模型推理能力突破安全防线？

来自北京航空航天大学等机构的研究团队提出RACE多轮越狱攻击框架，通过将有害查询转化为良性推理任务，成功突破多个主流大模型的安全防线。实验结果显示，该...

AIGC动态

1个月前