文章摘要
【关 键 词】 AI安全、新公司、联合创始、技术天才、投资组合
Ilya Sutskever在离开OpenAI后，创办了新公司Safe Superintelligence Inc. (SSI)，专注于开发安全的超级智能。SSI是一家纯研究机构，目标是通过嵌入工程突破来实现AI系统的安全性，而不是依赖临时的安全措施。
Ilya多次强调其主要工作是确保超级智能的安全可控，SSI的成立旨在避开OpenAI、谷歌和Anthropic等竞争对手的干扰，专注于这一目标。
SSI的联合创始人包括Daniel Gross和Daniel Levy。Levy是Ilya在OpenAI的老下属，参与了多个重要的AI项目。而Gross的经历则更为丰富，他曾创办搜索引擎Cue并被苹果收购，随后在苹果领导人工智能工作。Gross还在YC担任合伙人，专注于人工智能，并创建了“YC AI”计划。
2021年，Gross与Github前CEO Nat Friedman成立了早期风险投资基金AI Grant，并部署了超级计算机集群Andromeda，供其投资组合中的初创公司使用。
Gross的投资组合包括Uber、Coinbase、Figma等公司，显示了他对科技行业整体发展趋势的全面理解。他特别关注技术驱动的创新以及AI和软件领域，倾向于支持那些能够改变市场格局、具有高成长潜力的初创公司。在SSI中，Ilya担任首席科学家，负责革命性突破，而Gross则在某种意义上替代了Altman的角色，提供战略、技术方向和资源整合方面的支持。
Ilya的SSI成立背景是OpenAI内部对安全优先级的分歧。Ilya一直是人工智能领域的安全派，类似于他的导师Geoffrey Hinton。Hinton从谷歌辞职，原因之一是对AI安全的担忧。Ilya在OpenAI内部创建了一个超级对齐团队，旨在确保未来的人工智能技术不会对人类造成伤害。SSI的成立让他可以专注于避免AI可能带来的危险，甚至是毁灭人类的风险。
SSI的名字和使命感让人联想到《辐射》系列游戏中的Vault-Tec公司，致力于保护人类在核战争中的生存。SSI的目标是开发更强大的系统，具有更广泛的用途和能力，类似于一个能够自主开发技术的巨大超级数据中心，因此必须确保其安全性。SSI的使命是否能真正实现，或者是否会在实际操作中偏离初衷，仍然值得关注。
Daniel Gross的加入为SSI带来了商业与投融资方面的经验，补足了Ilya的短板。Gross与Ilya的合作关系可能更适合专注于AI的安全性和研究本身，而不是商业化。Gross在技术理解和战略支持方面的能力，将为SSI的发展提供关键支持。
原文和模型
【原文链接】 阅读原文 [ 2406字 | 10分钟 ]
【原文作者】 硅星人Pro
【摘要模型】 gpt-4o
【摘要评分】 ★★★★★
