标签：AI安全
UCL博士生创业一年，造出最强AI「ML工程师」，OpenAI盖戳认证
OpenAI最近推出了一个新的基准测试MLE-bench，旨在全面衡量自主的端到端机器学习工程。通过精选75个与机器学习工程相关的Kaggle竞赛题目，测试了几个顶级大模...
OpenAI再失一名高管，6年AGI顾问宣布离职
OpenAI的高级AGI研究顾问Miles Brundage宣布了他的离职。自2018年加入OpenAI以来，Brundage在公司内担任了多个关键职位，包括研究科学家、政策研究负责人和高...
大模型时代，企业安全建设如何升级？安全人员饭碗不保了吗？
随着AI大模型在安全领域的应用日益广泛，其在处理大量安全数据、模式识别和实时威胁情报分析方面展现出巨大潜力。然而，大模型也带来了新的挑战，如生成有害...
姚期智：人工智能推动学科交叉赋能
在2000年图灵奖得主姚期智教授的深圳演讲中，他指出人工智能（AI）的发展趋势主要体现在两个方面：一是从弱智能向通用智能的转变；二是学科间交叉赋能的增强...
AI手机与AIPC要安全，为什么离不开这款服务器CPU？
随着生成式人工智能（AI）技术的快速发展，AI手机、AI PC和AI汽车等设备变得日益普及。这些设备在提供便利的同时，也引发了对安全性的担忧，因为它们在运行过...
内部数百工程师可随意摄取 OpenAI 先进模型！OpenAI 前员工揭露：谏言即被开除，祈祷公司不报复
OpenAI近期面临了一系列内部问题和争议。前员工William Saunders在一场人工智能监管听证会上揭露了公司运营体系的漏洞，这些漏洞可能允许工程师绕过访问控制...
北大对齐团队独家解读：OpenAI o1开启「后训练」时代强化学习新范式
机器之心AIxiv专栏致力于发布学术和技术内容，已报道2000多篇涵盖全球顶级实验室的文章，促进了学术交流。OpenAI的o1模型在数学、代码和长程规划等领域取得显...
重磅监管！OpenAI新大模型，需要美国政府审查才能发布
OpenAI的联合创始人兼首席执行官Sam Altman宣布，该公司已与美国AI安全研究所签订合作协议，这意味着OpenAI未来的模型必须通过美国政府的安全测试后才能发布...
马斯克的「xAI」计划
Elon Musk's newly-founded AI company, xAI, has made significant strides in the field of artificial intelligence with the release of its Grok 2 mode...
两个AI关小黑屋：Llama3.1把Claude Opus聊自闭了
在一项引人注目的AI安全词模拟实验中，两个人工智能系统Llama 3.1 405B和Claude Opus之间的对话被记录和分析。实验的目的是为了测试AI系统的安全可控性，特别...
