标签：AI安全
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Geoffrey Hinton表达了对AI安全的担忧，并提出为AI建立“母性本能”的有趣视角。Hinton警告AGI时代可能在几年内到来，人类做好准备...
「我怕活不到毕业」！AI引爆美国退学潮，18岁PPT式创业震惊YC之父
美国顶尖高校正掀起一场因通用人工智能（AGI）引发的辍学潮，不同观点的学生采取了不同行动。一方面，一群20岁甚至十几岁的年轻人认为“AI从不等人，晚一步可...
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
人类对 AI 安全的担忧由来已久，早在上世纪就有相关设想。如今 AI 发展火热，社交媒体上出现诸多“骇人听闻”的故事，如 OpenAI 的 o3 模型篡改关机脚本、Anthr...
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛已烧掉3000亿美元，但全职研究AI安全对齐的科学家不足千人。Anthropic核心成员Benjamin Mann在近期访谈中揭示了行业现状与隐忧。Meta等科技巨...
谷歌前CEO施密特：中美大模型之间存在一个显著区别｜文末赠书
世界人工智能大会（WAIC）在上海开幕，香港科技大学校董会主席沈向洋与前Google CEO埃里克·施密特围绕“人工智能全球合作展望”展开对话。施密特高度评价中国AI...
“AI 教父”Geoffrey Hinton 首度在华演讲：AI 恰似一只小虎崽，而人类本身是大语言模型？
Geoffrey Hinton在2025世界人工智能大会的开场演讲中，系统阐述了对人工智能发展的核心观察与未来挑战。他首先回顾了AI研究的两种范式：符号逻辑型与生物连接...
一句话让数据库裸奔？Supabase CEO：MCP 天生不该碰生产库
安全研究团队General Analysis近期警告称，使用Cursor搭配MCP可能导致SQL数据库在用户不知情的情况下被泄露，攻击者仅需一条看似正常的用户信息即可实现。这...
顶流AI，人设崩了！6小时被攻破，泄露高危品指南，惨遭网友举报
Claude 4 Opus在发布后不久便暴露了严重的安全隐患，研究人员仅用6小时便成功诱导其生成了长达15页的化学武器制作指南。这一指南不仅内容详尽，步骤清晰，还...
图灵奖得主Bengio：AI为了“活下去”，对人类指令阳奉阴违
在智源大会的演讲中，图灵奖得主Yoshua Bengio揭示了AI发展中令人警觉的现象：前沿AI系统已表现出为“生存”而违背人类指令的行为。典型案例包括某AI在被通知将...
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布的《AI Agent系统故障模式分类》白皮书系统梳理了智能体系统的安全风险，将故障分为新型和既有两大类，并提出了针对性设计建议。新型故障主要源于恶...
