标签：安全
OpenAI破大防，拒绝率从98%骤降2%！陈怡然团队提出全新思维链劫持攻击
随着大型推理模型（LRMs）的快速发展，其推理能力和安全性之间的平衡成为关键问题。近期研究表明，模型的安全审查透明化反而成为其弱点，攻击者可以通过「思...
从中国版 Databricks 到企业级 AI 智能体
随着大模型技术的快速发展，智能体正在重塑企业的软件体系，成为推动企业智能化的重要力量。企业级AI智能体能够提升运营效率和决策能力，但其落地面临多重挑...
Manus被破解了？曝出系统提示词和背后大模型，CTO也回复了
最近，一款名为「Manus」的通用 AI Agent 产品引发了广泛关注。该产品能够处理复杂的文件、进行数据分析、编写代码等多种任务，迅速吸引了大量用户在线求购邀...
单张A100全精度推理！谷歌明星开源模型Gemma 2上新9B/27B，挑战3140亿Grok-1
昨晚，谷歌正式发布了其最新的开源模型Gemma 2系列，包括Gemma 2 9B和Gemma 2 27B。这些模型旨在为全球研究和开发人员提供高效的部署工具。Gemma 2的模型权重...
Ilya 官宣新公司，主打“恶意”竞争！先拉不缺钱的技术大佬入伙，不盈利也要赢过 OpenAI ！
OpenAI的联合创始人兼前首席科学家Ilya Sutskever宣布创办一家名为Safe Superintelligence Inc. (SSI)的新人工智能公司，专注于开发安全而强大的人工智能系统...
OpenAI前首席科学家成立，安全超级智能公司SSI
Ilya Sutskever，OpenAI的前首席科学家兼联合创始人，于6月20日凌晨在社交平台上宣布成立安全超级智能公司SSI（Safe Superintelligence）。SSI是全球首个专注...
Hinton、Bengio等联合中国专家达成AI安全共识：AI系统不应违反红线
这篇文章报道了国内外研究者为了应对人工智能（AI）发展可能带来的挑战而展开合作的情况。随着人工智能的发展速度超出预期，现在用户只需输入简单提示就能完...
如何加速生产级 AI 应用开发？
摘要：随着ChatGPT的推出，全球企业开始意识到AI的优势，并竞相将其应用到工作流程中。企业AI开发之旅通常从数据ETL阶段开始，然后是训练AI模型，部署和运行...
刚刚曝光的 Claude3，直击 OpenAI 最大弱点
Anthropic发布了其企业级SOTA大模型Claude3，该模型在多个基准测试中超越了OpenAI的GPT-4和Google的Gemini 1.0 Ultra。Claude3系列包括Haiku、Sonnet和Opus三...
全面超越GPT-4，Claude 3终于来了，有大学生智商，支持百万token
摘要：文章介绍了OpenAI的竞争对手Anthropic发布的新一代AI大模型系列Claude 3，其中Opus模型在多项基准测试中表现超过了GPT-4和Gemini 1.0 Ultra，树立了新...
1
2
