Transformer、RNN和SSM的相似性探究：揭示看似不相關的LLM架構之間的聯系

• 通過探索看似不相關的大語言模型(LLM)架構之間的潛在聯系，我們可能為促進不同模型間的思想交流和提高整體效率開辟新的途徑。盡管Mamba等線性循環神經網絡(RNN)和狀態空間模型(SSM)近來備受關注，Transformer架構仍然是LLM的主要支柱。這種格局可能即將發生變化：像Jamba、Samba和Griffin這樣的混合架構展現出了巨大的潛力。這些模型在時間和內存效率方面明顯優于Transformer，同時在能力上與基于注意力的LLM相比并未顯著下降。近期研究揭示了不同架構選擇之間的深層聯系，包括T
• 關鍵字： Transformer  RNN  SSM  模型