도형준 지식 볼트

태그: glue

3건의 항목

  • 2026년 7월 21일

    ALBERT: 경량 BERT의 파라미터 효율화

    • ALBERT
    • Cross-Layer-Parameter-Sharing
    • Efficient-Model
    • Factorized-Embedding
    • glue
    • Google
    • Lite-BERT
    • Memory-Efficient
    • Parameter-Sharing
    • SOP
  • 2026년 7월 21일

    XLNet: 순열 언어 모델링으로 BERT의 한계를 넘다

    • AR-+-Bidirectional
    • CMU
    • glue
    • Google-Brain
    • Permutation-Language-Model
    • Permutation-LM
    • Segment-Recurrence
    • SQuAD
    • Transformer-XL
    • Two-Stream-Attention
    • XLNet
  • 2026년 7월 21일

    RoBERTa: BERT 학습 레시피의 최적화

    • BERT-Optimization
    • Byte-level-BPE
    • Dynamic-Masking
    • glue
    • Large-Batch
    • Large-Batch-Training
    • Meta-FAIR
    • No-NSP
    • Pre-training-Recipe
    • RoBERTa
    • Robust-Pre-Training

Created with Quartz v4.5.2 © 2026

  • GitHub
  • Discord Community