多 Transformer 集合可挑战 GPT-4，推理能力是单一Transformer 的 18 倍

【原文作者】 AI科技评论
【作者简介】 雷峰网旗下AI新媒体。聚焦AI前沿研究，关注AI工程落地。
【微 信 号】 aitechtalk

【关 键 词】 Transformer、图灵完备性、Find+Replace Transformer、多Transformer、计算能力
【文章摘要】
该文介绍了一篇正在审核中的ICLR 2023投稿论文，指出单一Transformer不具备图灵完备性，但多Transformer可以实现。
论文提出了一种名为“Find+Replace Transformer”的多Transformer架构，证明了通过集成多个Transformer，能够解决单一Transformer无法胜任的任务。该架构模拟了λ演算中的归约规则，使得多个Transformer可以模拟通用图灵机的逻辑行为，实现对任意可计算问题的解决能力。实验结果显示，Find+Replace Transformer在处理复杂任务上表现出超越传统单一Transformer的性能，甚至能解决GPT-4无法解决的问题。
该研究成果揭示了多Transformer系统在实现图灵完备性方面的潜力，以及在面对特定计算难题时，提高模型的逻辑推理和抽象表达能力的重要性。
文章最后呼吁在研究和应用深度学习技术时，需要理性地看待每一项技术，关注其优势和局限，并结合实际问题来选择和调整合适的技术。

【原文链接】 阅读原文
【原文字数】 2933
【阅读时长】 10分钟