Diffusion — MOC

상위: VAULT-INDEX · 규칙: 설계 규약

확산 모델을 **생성 확산(이미지/영상)**과 Diffusion-LM(텍스트) 두 갈래로 분리.

1. 생성 확산 (Image / Video)

  • 이론: DDPM·DDIM·score-matching·score-SDE·EDM·flow-matching·rectified-flow·consistency·VDM
  • 이미지: LDM·SD3·SDXL·DiT·GLIDE·Imagen·DALL·E 2/3·PixArt-α·Flux/Flux-2
  • 영상: Sora/Sora-2·Veo/Veo-3·Kling·Runway-Gen4·HunyuanVideo·CogVideoX
  • 제어: ControlNet·CFG·classifier-guidance

2. Diffusion-LM (텍스트 확산) — 2024–2026 동향

프레이밍: 연속(embedding) vs 이산/마스킹(discrete) vs 블록/semi-AR. 주류는 이산 마스킹+블록.

  1. 기초·패러다임: D3PM → Diffusion-LM → SSD-LM → Plaid → SEDDMDLM → SMDM → BD3LM(Block) → uniform-state(Duo/UDLM)
  2. 오픈웨이트: LLaDA(+1.5/MoE/2.0 100B) · Dream 7B · TESS 2 · DiffuCoder · Eso-LM · Seed Diffusion · SDAR · DiffusionGemma · LLaDA-V/MMaDA
  3. 커머셜: Mercury(Inception) · Gemini Diffusion (벤더 수치는 비공식)
  4. 추론·디코딩: Fast-dLLM · ReMDM · KV캐시 · dInfer · CFG · semi-AR
  5. 학습: A2D(DiffuLLaMA) · SFT · RL(d1/diffu-GRPO·VRPO) · 스케일링
  6. 난제: ParallelBench(품질↔병렬) · likelihood gap · long-context
  7. 자료: 서베이 arxiv 2508.10875 · repo ZHZisZZ/dllm·kuleshov-group/mdlm·bd3lm

키워드: #diffusion #diffusion-lm LLaDA SEDD MDLM Stable-Diffusion Sora

현재 노트 (34)