大模型
LLM,VLM,模型
MoE也有Scaling Law,「百万专家」利用率近100%!DeepMind华人挑战MoE极限
谷歌DeepMind的研究科学家Xu Owen He最近提出了一种名为PEER(参数高效专家检索)的新技术,该技术能够将混合专家(MoE)模型的专家数量扩展到百万级别,同时...
直击算力焦虑,这家清华系 AI 创企搞了个千卡异构混训平台,算力利用率最高达 97.6%
GPT-4等大型模型在自然语言处理、机器翻译和文本生成等领域取得了显著成就,但随着模型参数的增加,计算和内存需求也随之增加,给算力和内存带来了巨大挑战。...
与Sora同架构,高效、连贯文生视频模型
Snap Video是由Snap、特伦托大学、加州大学和布鲁诺凯斯勒基金会的研究人员联合推出的一款高效且具有连贯一致性的文本生成视频模型。该模型采用了与OpenAI最...
大模型,再一次爆发!
AI大模型技术已成为互联网巨头公司如Google、百度、腾讯等的热门话题,这些公司正在积极布局人工智能技术和市场。AI大模型人才需求巨大,算法相关岗位薪资待...
6700万参数比肩万亿巨兽GPT-4!微软MIT等联手破解Transformer推理密码
由微软和MIT等机构的研究人员提出的新训练范式,通过因果模型构建数据集,成功地提升了模型的推理能力。该研究团队训练了一个仅有67M参数的微型Transformer模...
揭秘快手可灵背后的「关键7人」
快手可灵,一款国内领先的AI视频团队开发的短视频生成平台,自发布以来,已迅速吸引了超过30万体验用户,并生成了超过700万条短视频。其背后的团队由来自中国...
AI 时代,网关更能打了?
网关在网络通信中扮演着关键角色,包括数据转发、协议转换、负载均衡、访问控制与身份验证、安全防护、内容审核以及服务和API的管控等。随着互联网从Web 2.0...
直击真实的甲方AGI需求,人工智能赋能产业融通发展论坛顺利召开
2024年7月6日,WAIC人工智能赋能产业融通发展论坛在世博展览馆成功举行。此次论坛聚焦于人工智能如何推动新型工业化进程和促进产业融合,涵盖了领导致辞、签...
哈工深聂礼强:多模态大模型是具身智能发展的关键动力丨具身智能十人谈
具身智能技术,将智能系统与物理实体结合,使机器人能够感知环境、进行决策并执行动作。其核心在于“具身”,即通过物理形态与世界交互。实现这一技术关键在于...
OpenAI首次提出AGI的5个等级,我们接近第2级
OpenAI在其内部会议上分享了关于通用人工智能(AGI)的五个发展等级,并指出目前人类处于第一等级,正接近第二级。OpenAI自2015年成立以来,一直将AGI作为其...