확산 모델의 원칙

확산 모델의 개발은 데이터가 점진적으로 노이즈로 변질되는 '정방향 과정'을 정의하는 것으로 시작됩니다. 이 과정은 간단한 사전 분포와 데이터 분포를 중간 단계의 연속체를 통해 연결합니다.

목적은 노이즈를 다시 데이터로 변환하면서 동일한 중간 단계를 복구하는 '역방향 과정'을 배우는 것입니다.

세 가지 관점에서 확산 모델을 설명합니다:

• 변분적 관점: 변분 오토인코더에 영감을 받아 단계적으로 노이즈를 제거하는 방법을 학습합니다.
• 점수 기반 관점: 에너지 기반 모델링에서 파생된 것으로, 점진적으로 변화하는 데이터 분포의 기울기를 학습하여 더 가능성 있는 영역으로 샘플을 이동시킵니다.
• 흐름 기반 관점: 정상화 흐름(normalizing flows)과 관련이 있으며, 샘플을 노이즈에서 데이터로 이동시키는 학습된 속도장을 따라 매끄러운 경로를 확인합니다.

세 관점은 시간 종속 속도장을 공통적으로 사용하며, 이는 간단한 사전에서 데이터로 샘플을 이동시킵니다. 샘플링은 노이즈를 데이터로 변환하는 미분 방정식을 해결하는 과정으로 여겨집니다.

이러한 기반 위에서 제어 가능한 생성의 지침, 효율적인 수치 해석기, 임의의 시간 간의 직접적 매핑을 배우는 확산 기반 흐름 맵 모델을 논의합니다.

이 논문은 기본적인 심층 학습 지식을 가진 독자를 대상으로 개념적이고 수학적으로 확산 모델에 대한 이해를 제공합니다.