标签：Transformer
想训练类Sora模型吗？尤洋团队OpenDiT实现80%加速
摘要总结：Sora的创新：2024年，Sora的出现为文生视频研究者设立了新目标。其核心技术之一是将视觉数据转化为统一表征形式，结合Transformer和扩散模型，展现...
Mamba正式被ICLR拒收！“年度最佳技术原理解读”却火了
Mamba，这个被寄予厚望的Transformer挑战者，尽管在学术界引起了广泛关注，但最终还是被ICLR会议拒绝。尽管如此，Mamba的热度并未受到影响，一篇关于它的最新...
补齐Transformer规划短板，田渊栋团队的Searchformer火了
摘要：机器之心报道了Meta FAIR田渊栋团队提出的Searchformer模型，这是一种基于Transformer的模型，旨在提升Transformer在多步规划任务中的性能。尽管Transf...
国内公司有望做出Sora吗？这支清华系大模型团队给出了希望
Sora 视频生成技术引发关注OpenAI 发布的 Sora 视频生成技术引起了业界的广泛关注。Sora 能够生成长达 1 分钟的流畅、逼真视频，这一技术突破让研究者担心国...
Stable Diffusion 3来啦！提示文本理解更好，图像质量更强
本文介绍了专注于AIGC领域的专业社区，关注大语言模型（LLM）的发展和应用落地。2月23日，stability.ai推出了Stable Diffusion 3，该版本在多个方面进行了增...
爆火Sora震惊威尔·史密斯，真人整活吃意面视频！OpenAI技术路线或早在1月被成功预言
威尔·史密斯的AI视频震惊全网威尔·史密斯发布了一段视频，视频中的他吃意面，这段视频看起来如此逼真，以至于许多人认为这是AI生成的。然而，这段视频实际上...
Meta、谷歌、特斯拉，竞争对手联合起来吐槽OpenAI！Sora不懂物理世界，它只是GPT3！
OpenAI发布了其首个视频生成模型Sora，引起了广泛关注。然而，Sora的Transformer模型也遭到了来自Meta和谷歌等竞争对手的研究人员的批评。他们认为Sora并未真...
一文搞懂ChatGPT相关概念和区别：GPT、大模型、AIGC、LLM、Transformer、羊驼、LangChain…..
在近期的文章中，介绍了一系列与人工智能相关的概念，其中包括了Transformer、GPT、InstructGPT、ChatGPT、大模型等。Transformer是一种基于自注意力机制的深...
改变当今人工智能格局的重要技术——Transformer
本文主要介绍了自然语言处理（NLP）领域的重要技术——Transformer。Transformer自2017年提出以来，迅速改变了NLP的发展轨迹，具有并行计算能力和捕捉长距离依...
Transformer的无限之路：位置编码视角下的长度外推综述
作者信息 【原文作者】 机器之心 【作者简介】 专业的人工智能媒体和产业服务平台 【微 信 号】 almosthuman2014 文章摘要 【关 键 词】 Trans...
