도형준 지식 볼트

태그: Google-Research

6건의 항목

  • 2026년 7월 21일

    FNet: 상태 공간 기반 시퀀스 모델

    • Attention-free
    • Efficient-Transformer
    • FFT
    • FNet
    • Fourier-Transform
    • Google-Research
    • Linear-Complexity
    • Token-Mixing
  • 2026년 7월 21일

    Flan-T5: 명령어 튜닝으로 소형 모델이 거대 모델을 넘다

    • Chain-of-Thought
    • Flan-Collection
    • Flan-T5
    • Google-Research
    • Instruction-Tuning
    • MMLU
    • Multitask-Fine-tuning
    • T5
    • Zero-Shot
    • Zero-Shot-Generalization
  • 2026년 7월 21일

    Switch Transformer: MoE 기반 대규모 언어 모델

    • Expert-Capacity
    • Google-Research
    • load-balancing
    • Mixture-of-Experts
    • Sparse-MoE
    • Switch-Routing
    • Switch-Transformer
    • Top-1-Routing
  • 2026년 7월 21일

    T5: 오픈소스 대규모 언어 모델

    • C4-Dataset
    • Google-Research
    • Multitask-Learning
    • Relative-Attention-Bias
    • Span-Corruption
    • T5
    • Text-to-Text
    • Unified-Framework
  • 2026년 7월 21일

    mT5: 오픈소스 대규모 언어 모델

    • Cross-lingual-Transfer
    • Google-Research
    • Large-Vocabulary
    • mC4-Dataset
    • mT5
    • Multilingual
    • Temperature-Sampling
  • 2026년 7월 21일

    UL2: 노이즈 제거 혼합으로 언어 학습 패러다임을 통합하다

    • Encoder-Decoder
    • Flan-UL2
    • Google-Research
    • Mixture-of-Denoisers
    • Mode-Token
    • R-Denoiser
    • S-Denoiser
    • UL2
    • Unified-LM
    • X-Denoiser

Created with Quartz v4.5.2 © 2026

  • GitHub
  • Discord Community