智源张宏江最新对话：AI系统永远不应该欺骗人类｜钛媒体AGI

文章摘要

【关 键 词】 AI治理、国际合作、芯片影响、开源闭源、AI初创

张宏江，一位享誉国际的计算机科学家和高级管理人员，对中国人工智能（AI）技术的发展和安全问题有着深刻的见解。

张宏江在AI治理方面投入了大量精力，提高各界对AI潜在风险的认识，包括假新闻、偏见、错误信息以及更深层次的生存风险。

他强调设计和控制未来强大AI系统的重要性，以防止它们脱离人类控制。

张宏江提出了关于AI生存风险的定义，包括禁止AI系统自我复制和改进、禁止欺骗人类、禁止生产大规模杀伤性武器和化学武器，以及限制AI系统的说服力。

张宏江认为，尽管存在地缘政治因素，科学合作应继续进行。

张宏江认为这将对中国AI的长期发展产生重大影响。

张宏江强调，中国在AI领域的优势在于年轻的企业家精神、广阔的市场和丰富的应用场景。

张宏江对下一代视觉模型和人形机器人的发展表示乐观。

张宏江表示，尽管有些公司倾向于闭源模式，但开源模式在历史上已经证明非常成功。

张宏江认为，尽管市场竞争激烈，但中国公司在应用和商业化方面表现出色。

张宏江分享了他对未来AI发展的展望，特别是大型AI模型如何改变机器人技术。

原文和模型

【原文链接】 阅读原文 [ 5078字 | 21分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

Moonshot AI

月之暗面 (Moonshot AI) 创立于2023年3月，致力于寻求将能源转化为智能的最优解，通过产品与用户共创智能，2023年10月推出全球首个支持输入20万汉字的智能助手产品Kimi。创始团队核心成员参与了 Google Gemini、Google Bard、盘古NLP、悟道等多个大模型的研发，多项核心技术被Google PaLM、Meta LLaMa、Stable Diffusion等主流产品采用。