출처
- source_url: https://discuss.pytorch.kr/t/error-diffusion-dale-feat-sakana-ai/11365
- author: 9bow
- published: Tue, 21 Jul 2026 13:00:36 +0000
- raw: raw source:
2026-07-21-pytorchkr-topic-11365-error-diffusion-dale-feat-sakana-ai
개요
생물학적 뉴런은 흥분만 하거나 억제만 한다(Dale의 원리). 반면 인공 신경망은 연결마다 부호를 자유롭게 두고, 역전파는 순방향 가중치의 정확한 전치를 역방향에 써야 하는 가중치 수송 문제를 안고 있다. Sakana AI의 논문 「Diffusing Blame」은 역전파 없이 Dale의 원리를 엄격히 지키면서 학습할 수 있는지를 묻는다. 국소 정보만 쓰는 학습 규칙 Error Diffusion(ED, Kaneko 2000)을 이중 스트림 구조로 확장해 이미지 분류와 강화학습 양쪽에서 시험했다.
핵심 포인트
- 기존 연구의 공백: FA·DFA는 가중치 수송은 피하지만 부호 제약을 지키지 못하고, Dale의 ANN은 부호 제약을 지키지만 역전파에 의존한다. 두 제약을 동시에 만족하는 규칙은 드물었다.
- 이중 스트림 구조: 각 층을 흥분성 스트림 p와 억제성 스트림 n으로 나눈다. 네 가중치 행렬은 모두 0 이상이고, 억제를 만드는 음의 부호는 학습 파라미터가 아니라 구조에 고정된다. 대신 파라미터가 약 4배 늘어난다(DFA 약 8M → ED 약 32M).
- 모듈로 오차 라우팅: 은닉 유닛 i를 출력 채널
i mod C에 고정 배정해 출력 오차를 직접 흘려보낸다. 강화학습에서 역전파 그래디언트와의 코사인 유사도가 약 0.8로, 무작위 희소·스칼라 브로드캐스트·DFA식 밀집 피드백보다 높고 안정적이었다. - 분류용 기법 3가지: 층별 시그모이드 폭(출력→첫 은닉층 그래디언트가 25배 감쇠하므로), 배치 중심화 클래스 오차(원-대-전체의 9:1 불균형 완화), 비대칭 E/I 초기화(3:1).
- 분류 결과: MNIST 96.7%, CIFAR-10 61.7%. ED가 합성곱 신경망에 적용된 첫 사례다. DFA(97.6%·69.1%)보다는 낮은데, 격차가 MNIST 0.9p에서 CIFAR-10 7.4p로 커져 부호 제약의 비용이 과제 난이도에 비례함을 보여준다.
- 과제에 따라 뒤집히는 ablation: MNIST에서는 시그모이드 폭 제거가 치명적(−71.4p)이고 배치 중심화는 거의 무관(−0.3p)했다. CIFAR-10에서는 반대로 배치 중심화 제거가 가장 파괴적(−47.9p)이었다. 단일 벤치마크만으로 평가하면 설계 트레이드오프를 놓친다는 교훈이다.
- ED-PPO(강화학습): HalfCheetah 5494로 BP-PPO(3520)를 유의하게 앞섰고 Ant는 동등했다. Humanoid·Craftax에서는 BP-PPO에 뒤지고 분산이 크다. DFA는 분류에선 가장 강했지만 Craftax에서는 가장 약했다.
- 창발 현상: 3:1로 시작한 E/I 비율이 학습 중 약 1.0으로 스스로 수렴했고, 깊은 합성곱 층일수록 억제 우세가 됐다(피질 관찰과 느슨하게 일치). 가중치의 37.3%가 하한에 붙는 암묵적 희소성이 생겼고(억제성 FC 최대 68.8%), 일반화 격차 0.98%는 과적합이 아니라 과소적합을 시사한다.
왜 중요한가
생물학적으로 타당한 학습 규칙도 도메인별 구성 요소를 보강하면 분류와 강화학습을 모두 감당할 수 있음을 보였다. 음수 없는 가중치는 아날로그·광자·뉴로모픽 하드웨어와 잘 맞고, 흥분/억제 분리는 해석 가능성의 단서가 될 수 있다. 저자들은 아이디어 도출과 자율 실험에 AI를 활용했다고 밝혔다.
참고 링크
- 원문: https://discuss.pytorch.kr/t/error-diffusion-dale-feat-sakana-ai/11365
- 논문: Diffusing Blame: Task-Dependent Credit Assignment in Biologically Plausible Dual-Stream Networks (arXiv)
관련 위키
원문 보존 위치
원문 전체는 raw source: 2026-07-21-pytorchkr-topic-11365-error-diffusion-dale-feat-sakana-ai에 source_url 및 HTML 원문과 함께 저장되어 있습니다.