标签:攻击
OpenAI破大防,拒绝率从98%骤降2%!陈怡然团队提出全新思维链劫持攻击
随着大型推理模型(LRMs)的快速发展,其推理能力和安全性之间的平衡成为关键问题。近期研究表明,模型的安全审查透明化反而成为其弱点,攻击者可以通过「思...
ChatGPT参数规模被扒:只有7B
这篇文章报道了南加州大学团队对ChatGPT进行攻击并揭露其参数规模的研究成果。他们使用一种攻击方法,仅花费不到1000美元就成功挖出了最新版gpt-3.5-turbo模...
谷歌承认“窃取”OpenAI模型关键信息:成本低至150元,调用API即可得手
这篇文章报道了谷歌成功窃取了OpenAI的关键信息,包括整个投影矩阵和隐藏维度大小,特别是针对gpt-3.5-turbo模型。谷歌通过向API发出针对性查询,不到2000次...