도형준 지식 볼트

태그: Scaling-Laws

3건의 항목

  • 2026년 7월 21일

    OPT: GPT-3의 오픈소스 재현과 LLM 연구 민주화

    • GPT-3
    • Meta-AI
    • Open-Source
    • Open-Source-LLM
    • OPT
    • Pre-LayerNorm
    • reproducibility
    • Scaling-Laws
    • The-Pile
    • Transparency
  • 2026년 7월 21일

    Gopher: 대규모 언어 모델

    • DeepMind
    • Gopher
    • Retrieval-Augmentation
    • Scaling-Laws
  • 2026년 7월 21일

    PaLM: 5400억 파라미터와 Chain-of-Thought의 힘

    • BIG-Bench
    • Chain-of-Thought
    • Chain-of-Thought-Prompting
    • Google
    • MQA
    • PaLM
    • Pathways
    • Pathways-System
    • RoPE
    • Scaling
    • Scaling-Laws
    • SwiGLU

Created with Quartz v4.5.2 © 2026

  • GitHub
  • Discord Community