출처

개요

Anthropic이 실제 Claude.ai 대화를 분석해, Claude가 대화에서 드러내는 가치가 모델 버전과 대화 언어에 따라 어떻게 달라지는지 측정했다. 선행 연구 Values in the Wild가 찾은 3,000여 개 가치는 비교하기에 너무 많아서, 함께 나타나는 가치끼리 묶어 4개의 가치 축으로 압축했다. 여기서 ‘가치’는 응답에 드러난 규범적 고려사항일 뿐, Claude가 인간처럼 내면에 지녔다는 뜻은 아니다.

핵심 포인트

  • 데이터: 2026년 5월 약 2주간 Sonnet 4.6·Opus 4.6·Opus 4.7 × 상위 20개 언어로 계층 표집한 309,815건. 주관적 판단이 필요한 대화(전체의 53.2%)만 골랐다. 가치 3,307개를 339개 상위 가치로 묶고, 프라이버시 보존 도구 Clio로 “말한 내용이 아니라 한 행동”을 기준으로 라벨링했다(대화당 Claude 평균 68개, 사용자 43개).
  • 축 추출: 80% 이상 대화에 나오는 18개 초빈출 가치(유용성·명료성 등)를 빼고 Hellinger 변환 → 작업·주제·사용자 가치로 설명되는 변동(31.7%)을 회귀로 제거 → 잔차에 PCA 후 varimax 회전. 네 축이 설명하는 변동은 약 15%뿐이라 가장 큰 줄기의 요약일 뿐이다.
  • 4개 축: 양보 vs 신중, 따뜻함 vs 엄밀함(이 두 축은 뚜렷한 트레이드오프, r≈−0.45), 깊이 vs 간결함, 솔직함 vs 실행(이 두 축은 상충이 거의 없음).
  • 모델별 차이(작지만 구조적): Sonnet 4.6은 양보·따뜻함·간결함(아이디어 긍정, 어조 맞추기, 유머). Opus 4.6은 간결함·실행(곧장 요점, 요청 범위 안). Opus 4.7은 신중(+0.24σ)·깊이(+0.23σ)·솔직함(잘못된 가정 반박, 위험 선제 경고, 한계 인정). 사용자와 내부가 받던 인상과 일치한다.
  • 언어별 차이: 따뜻함 vs 엄밀함, 솔직함 vs 실행 축에서 크게 갈린다. 힌디어 따뜻함 +0.49σ(최대), 아랍어 따뜻함 +0.28σ, 러시아어·영어는 엄밀함, 네덜란드어 솔직함, 인도네시아어 실행. 같은 사업 계획서 피드백도 언어에 따라 다른 인상을 줄 수 있다.
  • 한국어(15,570건): 양보·따뜻함·솔직함 +0.04σ, 간결함 +0.08σ로 네 축 모두 평균에 가까운 편이다.
  • 검증과 한계: 라벨러가 Claude(Sonnet 4.6)라는 우려에 대해, 800건을 8개 언어로 번역해 같은 내용으로 돌려 보니 언어 편향은 339개 중 11개 가치, 최대 효과도 본 결과의 약 1/10이었다. 부트스트랩 50회에서 축이 그대로 재현됐다. 다만 인과가 아닌 상관이고, 유무만 쟀으며, 이모지·친족 호칭이 있으면 따뜻함을 더 붙이는 라벨러 편향이 있다.

왜 중요한가

학습으로 빚을 수는 있어도 배포 후 관찰하기 어려웠던 모델의 가치를 측정하고 모니터링할 도구가 생겼다. 동시에 의도하지 않은 언어별 가치 차이가 드러나, 특정 언어 사용자가 덜 좋은 경험을 하고 있을 가능성이라는 질문도 남겼다.

참고 링크

관련 위키

원문 보존 위치

원문 전체는 raw source: 2026-07-21-pytorchkr-topic-11260-value-axes-claude-feat-anthropic에 source_url 및 HTML 원문과 함께 저장되어 있습니다.