标签：AI安全
AI手机与AIPC要安全，为什么离不开这款服务器CPU？
随着生成式人工智能（AI）技术的快速发展，AI手机、AI PC和AI汽车等设备变得日益普及。这些设备在提供便利的同时，也引发了对安全性的担忧，因为它们在运行过...
内部数百工程师可随意摄取 OpenAI 先进模型！OpenAI 前员工揭露：谏言即被开除，祈祷公司不报复
OpenAI近期面临了一系列内部问题和争议。前员工William Saunders在一场人工智能监管听证会上揭露了公司运营体系的漏洞，这些漏洞可能允许工程师绕过访问控制...
北大对齐团队独家解读：OpenAI o1开启「后训练」时代强化学习新范式
机器之心AIxiv专栏致力于发布学术和技术内容，已报道2000多篇涵盖全球顶级实验室的文章，促进了学术交流。OpenAI的o1模型在数学、代码和长程规划等领域取得显...
重磅监管！OpenAI新大模型，需要美国政府审查才能发布
OpenAI的联合创始人兼首席执行官Sam Altman宣布，该公司已与美国AI安全研究所签订合作协议，这意味着OpenAI未来的模型必须通过美国政府的安全测试后才能发布...
马斯克的「xAI」计划
Elon Musk's newly-founded AI company, xAI, has made significant strides in the field of artificial intelligence with the release of its Grok 2 mode...
两个AI关小黑屋：Llama3.1把Claude Opus聊自闭了
在一项引人注目的AI安全词模拟实验中，两个人工智能系统Llama 3.1 405B和Claude Opus之间的对话被记录和分析。实验的目的是为了测试AI系统的安全可控性，特别...
一文总结马斯克最新八小时访谈：Neuralink、xAI 及人类未来
在一次深入的讨论中，埃隆·马斯克和Neuralink团队分享了他们对人类与人工智能（AI）未来融合的愿景。马斯克强调了“第一性原理”的思维方式，认为提高人与机器...
OpenAI发布最新大模型安全对齐奖励方法——RBR
随着大型语言模型（LLM）如ChatGPT的普及，确保其输出安全性变得至关重要。然而，传统的基于人类反馈的强化学习（RLHF）方法存在成本高昂和潜在偏见的问题。...
OpenAI被举报：非法限制员工披露AI安全风险
OpenAI，作为人工智能领域的领军企业，近期却因员工权益问题陷入舆论漩涡。据《华盛顿邮报》报道，该公司被指设置非法限制，通过霸王条款限制员工对AI安全风...
要把开源管起来，还要“一举两得”限制中国，加州这个SB-1047法案被LeCun等大佬骂惨了
Meta首席人工智能科学家、深度学习之父Yann LeCun对SB-1047法案及其主要起草者Dan Hendrycks提出批评。SB-1047法案由加州参议员Scott Wiener提出，旨在设立严...
