Diffusion — MOC
상위: VAULT-INDEX · 규칙: 설계 규약
확산 모델을 **생성 확산(이미지/영상)**과 Diffusion-LM(텍스트) 두 갈래로 분리.
1. 생성 확산 (Image / Video)
- 이론: DDPM·DDIM·score-matching·score-SDE·EDM·flow-matching·rectified-flow·consistency·VDM
- 이미지: LDM·SD3·SDXL·DiT·GLIDE·Imagen·DALL·E 2/3·PixArt-α·Flux/Flux-2
- 영상: Sora/Sora-2·Veo/Veo-3·Kling·Runway-Gen4·HunyuanVideo·CogVideoX
- 제어: ControlNet·CFG·classifier-guidance
2. Diffusion-LM (텍스트 확산) — 2024–2026 동향
프레이밍: 연속(embedding) vs 이산/마스킹(discrete) vs 블록/semi-AR. 주류는 이산 마스킹+블록.
- 기초·패러다임: D3PM → Diffusion-LM → SSD-LM → Plaid → SEDD → MDLM → SMDM → BD3LM(Block) → uniform-state(Duo/UDLM)
- 오픈웨이트: LLaDA(+1.5/MoE/2.0 100B) · Dream 7B · TESS 2 · DiffuCoder · Eso-LM · Seed Diffusion · SDAR · DiffusionGemma · LLaDA-V/MMaDA
- 커머셜: Mercury(Inception) · Gemini Diffusion (벤더 수치는 비공식)
- 추론·디코딩: Fast-dLLM · ReMDM · KV캐시 · dInfer · CFG · semi-AR
- 학습: A2D(DiffuLLaMA) · SFT · RL(d1/diffu-GRPO·VRPO) · 스케일링
- 난제: ParallelBench(품질↔병렬) · likelihood gap · long-context
- 자료: 서베이 arxiv 2508.10875 · repo
ZHZisZZ/dllm·kuleshov-group/mdlm·bd3lm
키워드: #diffusion #diffusion-lm LLaDA SEDD MDLM Stable-Diffusion Sora
현재 노트 (34)
- Diffusion-LM - 개요와 최근 동향
- cfg
- classifier-guidance
- cogvideox
- consistency-model
- controlnet
- dalle-2
- dalle-3
- ddim
- ddpm
- diffusion-thermo
- dit
- edm
- flow-matching
- flux-2
- flux
- glide
- hunyuanvideo
- imagen
- kling-3
- kling
- ldm
- pixart-alpha
- rectified-flow
- runway-gen4
- score-matching
- score-sde
- sd3
- sdxl
- sora-2
- sora
- vdm
- veo-3
- veo