LLM Wiki

스코어 스무딩(Score Smoothing): 확산 모델의 창의성이 어디서 오는지에 대한 Google Research의 연구

Properties2
descriptionPyTorchKR 9bow 게시글의 핵심 내용과 실무적 의미를 원문에 근거해 정리한다.
tagsai-models, open-source, research

6 min read

출처

개요

이 글은 Google Research 논문 「On the Interpolation Effect of Score Smoothing in Diffusion Models」을 바탕으로 확산 모델의 창의성이 어디서 비롯되는지 설명합니다. 완벽한 경험적 스코어 함수(ESF)를 사용하면 생성 과정이 학습 데이터를 그대로 복원해 암기로 이어질 수 있습니다. 반면 신경망의 정규화와 암묵적 정규화는 스코어 함수를 매끄럽게 만들고, 디노이징 과정에서 학습 데이터 사이를 보간하는 표본을 생성하게 합니다. 연구는 1차원 예제와 고차원 매니폴드 분석을 통해 이 보간 효과를 수학적으로 설명합니다. 다만 실제 대규모 확산 모델과 복잡한 데이터 분포에 그대로 일반화하려면 추가 연구가 필요합니다.

핵심 포인트

  • 경험적 스코어 함수(ESF)는 노이즈가 추가된 학습 데이터 분포의 정확한 스코어이며, 이를 완벽하게 사용하면 디노이징 결과가 학습 데이터 지점으로 수렴해 암기가 발생합니다.
  • 신경망은 가중치 감쇠와 같은 명시적 정규화 또는 학습 과정 자체의 암묵적 정규화로 인해 ESF의 날카로운 구조를 그대로 근사하기보다 매끄러운 함수를 학습하는 경향이 있습니다.
  • 연구는 1차원에서 정규화된 신경망의 스코어가 Smoothed PL-ESF라는 매끄러운 구간별 선형 함수로 근사될 수 있음을 제시합니다.
  • 매끄러운 스코어를 사용하면 학습 데이터 사이의 중앙 영역에서 입자들이 특정 학습점 하나로 붕괴하지 않고 연속적인 위치로 퍼져 보간 표본을 만듭니다.
  • 고차원 매니폴드에서는 스무딩이 접선 방향의 학습 데이터 간 수렴은 늦추지만, 법선 방향의 매니폴드 수렴은 크게 방해하지 않는 것으로 분석됩니다.
  • 따라서 생성 결과는 학습 데이터 주변의 매니폴드에는 머물면서도 개별 학습 샘플을 그대로 복제하지 않는 방향으로 형성될 수 있습니다.
  • 2차원 점 집합, 원형 데이터, 고차원 곡면 매니폴드 실험에서 신경망 스코어가 ESF보다 매끄럽고, 학습점 사이를 보간하는 결과를 보였습니다.

왜 중요한가

이 연구는 확산 모델의 생성적 특성을 단순히 모델의 규모나 데이터의 양으로만 설명하지 않고, 신경망이 스코어 함수를 근사하는 방식에서 분석합니다. 특히 암기와 일반화의 차이를 “완벽한 스코어”와 “매끄럽게 된 스코어”의 차이로 설명해, 확산 모델이 학습 데이터 사이의 새로운 영역을 탐색하는 과정을 수학적으로 해석하려고 합니다. 이는 생성 품질과 참신함의 균형, 데이터 암기 및 개인정보·저작권 위험을 이해하는 데 참고가 될 수 있습니다. 다만 논문의 이론은 단순한 데이터 배치와 2층 ReLU 신경망 등을 중심으로 전개되므로, 실제 대규모 모델에 대한 결론으로 확대 해석해서는 안 됩니다.

후속으로 볼 링크 및 키워드

관련 위키

원문 보존 위치

원문 전체는 raw source: 2026-07-27-pytorchkr-topic-11326-score-smoothing-google-research에 source_url 및 HTML 원문과 함께 저장되어 있습니다.