도형준 지식 볼트

태그: Hybrid-Architecture

4건의 항목

  • 2026년 7월 21일

    Griffin: 상태 공간 기반 시퀀스 모델

    • Google-DeepMind
    • Griffin
    • Hawk
    • Hybrid-Architecture
    • Linear-Recurrence
    • Local-Attention
    • Real-Gated-Linear-Recurrent-Unit
    • RG-LRU
    • Sliding-Window-Attention
  • 2026년 7월 21일

    H3: 상태 공간 기반 시퀀스 모델

    • FlashConv
    • H3
    • Hybrid-Architecture
    • Language-Model
    • Long-Range-Dependencies
    • Multiplicative-Gating
    • Shift-SSM
    • ssm
    • Stanford
  • 2026년 7월 21일

    Mamba-3: 상태 공간 기반 시퀀스 모델

    • Carnegie-Mellon-University
    • Hybrid-Architecture
    • In-context-Learning
    • Mamba-3
    • RoPE
    • Sequence-Parallelism
    • Sparse-Attention
    • ssd
    • ssm
  • 2026년 7월 21일

    Jamba 1.6: MoE 기반 대규모 언어 모델

    • AI21-Labs
    • Hybrid-Architecture
    • Jamba-1.6
    • Long-Context
    • Mamba
    • MoE
    • ssm
    • State-Space-Model

Created with Quartz v4.5.2 © 2026

  • GitHub
  • Discord Community