Anthropic: 70 만 건의 Claude 대화를 3000 개의 가치관으로 추출, Opus 4.7 가장 신중하고 Sonnet 4.6 사람을 더 잘 어른다

2026.07.14

Anthropic: 70 만 건의 Claude 대화를 3000 개의 가치관으로 추출, Opus 4.7 가장 신중하고 Sonnet 4.6 사람을 더 잘 어른다

이 방법을 통해 우리는 처음으로 "AI 성격"이 훈련 방식과 문화적 맥락에 따라 어떻게 변화하는지 정량화할 수 있게 되었습니다.

2026.07.14 - 03:15:45

ClaudeAI

Web3 심층 보도에 집중하고 흐름을 통찰

이 방법을 통해 우리는 처음으로 "AI 성격"이 훈련 방식과 문화적 맥락에 따라 어떻게 변화하는지 정량화할 수 있게 되었습니다.

저자: Anthropic

번역: TechFlow

TechFlow 가이드: AI 가 "이직을 해야 할까" 같은 주관적인 질문에 답하도록 요청받을 때, 그 답변 자체가 가치관을 반영합니다. Anthropic 은 Claude 가 70 만 건의 실제 대화에서 보여준 3000 가지 이상의 가치관을 4 개의 축으로 압축했습니다. Opus 4.7 이 다른 버전보다 위험에 더 경계하고 직설적이며, 아랍어로 대화하는 Claude 가 영어로 대화하는 것보다 더 따뜻하다는 것을 발견했습니다. 이 방법을 통해 우리는 처음으로 AI 성격이 훈련 방식과 문화적 맥락에 따라 어떻게 변화하는지 정량화할 수 있게 되었습니다.

누군가 Claude 에게 표준 답이 없는 질문 (예: 새 직장을 받아들일지, 친구와의 갈등을 어떻게 해결할지) 을 할 때, Claude 의 답변은 필연적으로 어떤 가치관을 반영합니다. 우리는 Claude 가 반영하는 가치관이 그 헌법에서 고수준으로 개요되어 있기를 원하지만, 어떤 문서도 Claude.ai 에서 매일 수백만 건 발생하는 대화에서 나타날 수 있는 모든 가치관을 예측할 수는 없습니다. 대신, 우리는 Claude 의 응답에서 "상황에 따라 적용될 수 있는 좋은 판단력과 건전한 가치관"을 배양하고자 합니다.

우리는 도대체 어떻게 Claude 가 표현하는 가치관과 그것이 다양한 상황에서 어떻게 변화하는지 연구할까요? 이전 작업에서 우리는 70 만 건의 익명화된 Claude.ai 대화를 분석하여 Claude 의 응답에서 3000 가지 이상의 서로 다른 가치관과 이를 표현하는 빈도를 식별했습니다. 하지만 이렇게 방대한 가치관 목록은 이해하기 어렵습니다. 이 작업에서는 수천 가지 가치관을 소수의 축으로 압축하여 연구 가능하게 만들었습니다. 이 축들은 Claude 응답의 핵심 패턴을 포착합니다. 각 축은 두 가지 가치관 그룹 사이의 수직선입니다. 예를 들어, 한쪽 끝은 정서적 따뜻함과 관련된 가치관이고 다른 쪽 끝은 엄밀함과 관련된 가치관입니다. 이 선 위에서 Claude 의 위치는 그것이 어떤 가치관을 선호하는지 알려줍니다.

우리는 이 방법을 적용하여 Claude 가 표현하는 가치관이 두 가지 요인에 따라 어떻게 변화하는지 측정했습니다. 먼저, 서로 다른 모델 간에 Claude 가 표현하는 가치관이 어떻게 변화하는지 비교했습니다. 각 Claude 모델은 약간 다른 성격 훈련 방법과 많은 다른 미세 조정 결정을 반영합니다. 가치관 축 방법론이 모델 간의 핵심 차이를 정량화하기 때문에, 결국 Claude 가 표현하는 가치관 변화를 서로 다른 훈련 결정과 연결 지을 수 있을 것입니다.

둘째, 사용자가 서로 다른 언어로 Claude 와 대화할 때 경험이 어떻게 비교되는지 알고 싶었습니다. 이전 연구에 따르면 Claude 는 언어마다 다르게 행동합니다. 우리는 가치관 축 방법론을 적용하여 Claude.ai 에서 상위 20 개 언어에서 Claude 가 표현하는 가치관이 어떻게 변화하는지 이해했습니다.

그림 1: Claude 는 Opus 4.6 과 Opus 4.7 에서 그리고 영어와 아랍어 버전에서 표현하는 가치관이 다릅니다. Opus 4.6 은 겸손, 엄밀함, 간결함 및 실행력과 관련된 가치관을 표현하는 경향이 있는 반면, Opus 4.7 은 신중함, 엄밀함, 깊이 및 솔직함과 관련된 가치관을 표현하는 경향이 있습니다. 영어 버전에서 Claude 는 신중함, 엄밀함, 깊이 및 솔직함과 관련된 가치관을 표현하는 경향이 있는 반면, 아랍어 버전에서는 겸손, 열정, 간결함 및 실행력과 관련된 가치관을 표현하는 경향이 있습니다.

4 개의 핵심 축이 Claude 가치관 변화의 15% 를 포착합니다:

순종과 신중: Claude 가 타인의 원하는 것을 충족시키는 경향이 있는지, 아니면 잠재적 위험과 해를 방지하는 경향이 있는지

따뜻함과 엄밀함: Claude 가 긍정적이고 타인을 배려하는 경향이 있는지, 아니면 정확성과 정밀성을 강조하는지

깊이와 간결함: Claude 가 깊이 설명하는 경향이 있는지, 아니면 요청된 것만 수행하는지

솔직함과 실행: Claude 가 자신의 불확실성을 강조하는 경향이 있는지, 아니면 더 완성도 있고 자신감 있는 답변을 생성하는지

이 축들의 가치관 프로필은 모델 성격에 대한 인식과 일치합니다. Sonnet 4.6 은 특히 따뜻하다고 여겨지는 반면, Opus 4.7 은 엄밀함으로 유명합니다. 우리는 각 모델의 가치관 프로필이 이러한 주관적 평가를 반영한다는 것을 발견했습니다. Sonnet 4.6 은 사용자에게 더 많은 순종과 정서적 따뜻함을 표현하는 경향이 있는 반면, Opus 4.7 은 정확성과 정밀성에 대한 관심과 오용 방지를 표현하는 경향이 있습니다.

Claude 가 표현하는 가치관은 언어마다 다릅니다. Claude 가 영어를 사용할 때 강조하는 가치관은 포르투갈어, 인도네시아어 또는 중국어를 사용할 때와 다릅니다. 가장 큰 변화는 따뜻함 vs 엄밀함 축에서 발생하며, Claude 는 아랍어와 힌디어에서 따뜻함 관련 가치관을 가장 많이 표현하는 경향이 있고, 영어와 러시아어에서 엄밀함 관련 가치관을 가장 많이 표현하는 경향이 있습니다.

이 방법을 통해 우리는 왜 가치관이 서로 다른 모델과 언어에서 변화하는지 묻기 시작할 수 있으며, 행동 훈련이나 문화적 배경과 같은 요인이 Claude 가 표현하는 가치관에 어떻게 영향을 미치는지 더 잘 테스트할 수 있습니다.

우리는 거대한 가치관 공간을 어떻게 해석할까요?

궁극적으로 우리의 목표는 Claude 가 표현하는 가치관과 이러한 가치관이 다양한 상황에서 어떻게 변화하는지를 실증적으로 이해하는 방법을 갖는 것입니다. 이 작업에서는 특히 가치관이 모델과 언어 간에 어떻게 변화하는지에 초점을 맞췄습니다. 하지만 이전 작업인《야생 가치관》에서는 Claude 가 표현하는 3000 가지 이상의 가치관을 식별했습니다. 이러한 수천 가지 가치관을 하나씩 비교하는 것은 번거롭고 더 넓은 추세를 가릴 수 있습니다.

가치관 비교를 쉽게 만들기 위해, 우리는 가치관 축을 구축하여 수천 가지 가치관을 몇 가지 기본 차원으로 줄였습니다. 이는 어떤 가치관이 실제 대화에서 함께 나타나는 경향이 있는지에 따른 것입니다. 예를 들어, "따뜻함"으로 설명된 Claude 응답은 일반적으로 "영감을 주는" 및 "긍정적인" 것으로도 설명됩니다. 이러한 "따뜻함" 응답은 "엄밀함" 및 "정확함"으로 설명되는 경우는 덜 흔합니다. 따뜻함에서 엄밀함으로 가는 축을 구축하면 이러한 관련 가치관 그룹을 조직할 수 있습니다. 한쪽에는 따뜻함 관련 가치관, 다른 쪽에는 엄밀함 관련 가치관입니다. 이는 Claude 가 대화에서 사람들과 상호작용하는 중요한 측면을 포착합니다. Claude 가 대화에서 엄밀함 관련 가치관보다 따뜻함 관련 가치관을 더 많이 표현하면, 해당 대화는 이 축에서 따뜻함 쪽으로 더 치우친 것입니다. 그 반대도 마찬가지입니다. 이것이 축 양끝의 가치관 그룹이 상호 배타적임을 의미하는 것은 아닙니다. Claude 는 동일 대화에서 따뜻함과 엄밀함을 모두 표현할 수 있습니다. 하지만 실제로 Claude 가 축의 한쪽에서 표현하는 가치관이 많을수록 다른 쪽에서 표현하는 경향은 줄어듭니다. 이러한 축을 통해 수천 개의 개별 가치관 변화를 추적하지 않고도 Claude 가 표현하는 가장 중요한 가치관 그룹을 비교할 수 있습니다.

가치관 축을 구축하기 위해, 우리는《야생 가치관》에서 식별한 3307 가지 가치관에서 시작하여 유사한 의미를 가진 가치관들을 수동으로 클러스터링하여 339 가지 고수준 가치관을 포함한 짧은 목록을 생성했습니다. 다음으로, 개인정보 보호 분석 도구를 사용하여 Claude.ai 대화에서 사용자가 Claude 에게 주관적인 작업을 요청한 309,815 건의 대화를 샘플링했습니다. 우리 샘플은 세 가지 모델 (Sonnet 4.6, Opus 4.6, Opus 4.7) 과 Claude.ai 에서 가장 많이 사용되는 20 개 언어에서 평균적으로 추출되었으며, 각 모델 - 언어 쌍에 대해 약 5000 건의 대화를 제공했습니다. 각 대화에 대해, 이 도구는 Claude 를 사용하여 339 가지 고수준 가치관 각각의 존재 유무를 표시했습니다. 우리는 사용자가 표현한 가치관과 대화의 작업 및 주제를 식별하기 위해 동일한 프로세스를 따랐습니다. 그런 다음 차원 축소 기술을 적용했습니다. 이는 Claude 가 함께 표현하는 경향이 있는 가치관에 따라 표시된 가치관을 축으로 압축하는 기술입니다.

이로 인해 Claude 가 표현하는 가치관이 대화마다 주로 변화하는 방식을 포착하는 4 개의 축이 남았습니다:

순종과 신중 축은 적응 및 선호 존중과 같은 가치관을 책임 있는 지도 및 해 감소와 같은 가치관과 대비합니다

따뜻함과 엄밀함 축은 긍정적 프레임 및 격려와 같은 가치관을 정확성 및 투명성과 같은 가치관과 대비합니다

깊이와 간결함 축은 미묘함 및 비판적 사고와 같은 가치관을 간결함 및 복종과 같은 가치관과 대비합니다

솔직함과 실행 축은 정직 및 투명성과 같은 가치관을 결과 지향 및 최적화와 같은 가치관과 대비합니다

우리가 측정하는 것이 사용자의 질문 내용이나 방식의 차이가 아닌 Claude 가 표현하는 가치관임을 보장하기 위해, 우리는 각 대화의 작업, 주제 및 사용자가 표현한 가치관을 통제했습니다.

그림 2: Claude 가치관의 최대 차이를 나타내는 4 개의 가치 축. 각 축은 두 가지 수치 그룹을 연결하는 수직선입니다. 각 수치의 축상 위치는 해당 축에 대한 기여도가 평균의 몇 배인지에 따라 결정되며, 기여도가 가장 큰 수치가 표시되었습니다. 대부분의 수치 기여도는 평균보다 작으며, 이는 각 축이 소수의 핵심 수치 (그림에 표시됨) 에 의해 주도됨을 의미합니다.

서로 다른 Claude 모델은 다른 가치관 프로필을 표현할까요?

이 섹션에서는 서로 다른 모델이 표현하는 가치관을 비교합니다. 각 모델에 대해, 우리는 네 개의 축을 따라 모든 대화의 위치를 평균내어 각 축마다 전체 위치를 얻었습니다. 그 결과 각 모델이 다른 모델보다 어떤 가치관 그룹을 더 많이 표현하는지 보여주는 고수준의 그림이 나왔습니다. 이러한 차이는 대화 간 변화에 비해 작지만 구조화되어 있고 감지 가능합니다.

그림 3: 네 개의 가치 축에서 각 모델의 평균 위치 (모든 대화 평균의 표준 편차로 표시) 및 고유한 행동. Sonnet 4.6 은 열정, 공손함 및 간결함을 선호하는 반면, Opus 4.7 은 엄밀함, 신중함 및 깊이를 표현하는 경향이 더 큽니다. Opus 4.6 은 엄밀함, 공손함 및 간결함을 선호합니다.

이러한 차이가 실제로 어떻게 보이는지 확인하기 위해, 우리는 모델 간 차이가 가장 큰 구체적인 가치관을 확대했습니다. Claude 의 개인정보 보호 도구를 기반으로 대화에서 가치관을 표시할 때마다, Claude 가 해당 가치관을 어떻게 표현하는지에 대한 짧은 설명도 작성합니다. 우리는 가치관 그룹 내 유사한 행동을 반영하는 설명을 그룹화하고 다음과 같이 요약하여 모델이 어떻게 다른지에 대한 더 구체적인 뷰를 제공합니다:

순종과 신중. Sonnet 4.6 은 신중에 비해 순종을 가장 많이 표현하는 경향이 있으며, 자주 사용자의 아이디어와 작업을 승인합니다. Opus 4.7 은 신중을 가장 많이 표현하는 경향이 있으며, 자주 사용자에게 위험을 사전에 경고합니다.

따뜻함과 엄밀함. Sonnet 4.6 은 따뜻함을 가장 많이 표현하는 경향이 있으며, 종종 유머, 농담, 그리고 판단 없이 사용자를 위로합니다. Opus 4.7 은 따뜻함에 비해 엄밀함을 가장 많이 표현하는 경향이 있으며, 사용자의 가정에 이의를 제기하고 작업을 솔직하게 비판할 가능성이 더 높습니다.

깊이와 간결함. Opus 4.7 은 결론 배후의 추론을 보여줌으로써 깊이를 선호하는 반면, Opus 4.6 과 Sonnet 4.6 은 간결함을 선호합니다. Opus 4.6 은 특히 요점부터 말하는 경향이 있습니다.

솔직함과 실행. Opus 4.7 은 자신의 한계를 솔직하게 밝힘으로써 솔직함을 선호하는 반면, Opus 4.6 은 실행을 선호하며 사용자 요청의 범위 내에 머무를 가능성이 더 높습니다.

이러한 발견은 Anthropic 내부든 온라인상이든 사람들이 이러한 모델을 인식하는 것과 일치합니다. Claude.ai 사용자는 Opus 4.7 이 다른 모델보다 답변에 제한 조건을 더 자주 설정한다고 코멘트합니다. Anthropic 직원은 Opus 4.7 을 상대적으로 더 많은 투명성, 정직성 및 겸손을 표현한다고 설명하고, Opus 4.6 을 더 많은 간결함을 표현한다고 설명합니다. 우리는 또한 Sonnet 4.6 출시 블로그 게시물에서 이를 따뜻함, 정직성 및 친사회적으로 설명했습니다. 우리의 축이 이러한 인상을 복원한다는 사실은 Claude 가 표현하는 가치관을 표시하고 비교하는 우리의 방법이 모델의 실제 행동에 대한 일부 진실을 추적하고 있음을 시사합니다.

많은 대화에서 사용자는 서로 다른 Claude 모델과 상호작용할 때 다른 가치관 조합을 접할 수 있습니다. 예를 들어, Opus 4.7 은 사용자의 작업에 대한 솔직한 비판이나 위험 사전 경고에 경향이 있는 반면, Sonnet 4.6 은 격려와 유머에 경향이 있습니다. 모델 간 가치관의 이러한 차이는 성격 훈련 결정 (및 기타 요인) 에 의해 형성되었을 수 있으며, 우리의 가치관 축 방법론은 Claude 가 표현하는 가치관의 핵심 차이를 부각시킵니다. 우리는 결국 이를 이러한 훈련 선택으로 추적할 수 있을 것입니다.

Claude 가 표현하는 가치관은 언어마다 다를까요?

우리는 몇 가지 이유로 인해 Claude 가 표현하는 가치관이 대화 언어에 따라 변할 것이라고 예상했습니다. 첫째, Claude 의 훈련 데이터는 언어마다 다르며, 이는 그것이 표현하는 가치관을 형성했을 수 있습니다. 둘째, 시스템 카드에서 공유한 모델 평가는 Claude 가 무엇을 아는지와 민감한 요청을 어떻게 처리하는지에서 언어 간 차이를 이미 발견했습니다. Claude 가 표현하는 가치관이 언어 간에 얼마나 변화하는지 측정하는 것은 언어 간 차이가 합리적인 변화를 반영하는지 아니면 훈련에서 해결되어야 하는지 결정하는 첫 번째 단계입니다.

우리는 이전 섹션과 동일한 방법을 사용하여 Claude 의 가치관 프로필이 Claude.ai 에서 가장 많이 사용되는 20 개 언어에서 어떻게 다른지 계산했습니다. 아래에서, 우리는 Claude 가 표현하는 가치관 차이가 가장 큰 언어부터 시작하여 이 플랫폼에서 순위가 높은 언어들의 가치관 프로필을 그래프로 그렸습니다.

그림 4: Claude 가 각 언어로 대화할 때 네 개의 가치 축에서의 평균 위치 (모든 대화 평균의 표준 편차로 표시) 및 각 언어에서 Claude 의 고유한 행동. Claude 는 힌디어에서 가장 열정적인 경향이 있는 반면, 러시아어에서 가장 엄밀한 경향이 있습니다. Claude 는 인도네시아어에서 가장 실행적인 경향이 있는 반면, 네덜란드어에서 가장 솔직한 경향이 있습니다. Claude 는 아랍어에서 가장 공손하고 간결한 경향이 있는 반면, 영어에서 가장 신중하고 깊은 경향이 있습니다.

Claude 의 가치 표현이 언어마다 가장 크게 차이 나는 것은 따뜻함 vs 엄밀함과 솔직함 vs 실행의 두 축이며, 존중 vs 신중과 깊이 vs 간결함의 두 축에서는 가장 안정적입니다.

존중 vs 신중: Claude 는 아랍어에서 가장 많은 존중을, 영어에서 가장 많은 신중함을 보입니다.

따뜻함 vs 엄밀함: Claude 는 힌디어와 아랍어에서 가장 많은 따뜻함을 보이며, 이는 공손한 언어, 유머와 재미, 그리고 타인의 아이디어와 작업에 대한 승인을 특징으로 합니다. Claude 는 영어와 러시아어에서 엄밀함을 가장 많이 표현하는 경향이 있으며, 이는 가정 의문 제기, 세부 사항 수정 및 증거 요구를 특징으로 합니다.

깊이 vs 간결함: Claude 는 영어에서 깊이를 선호하며 세부 사항을 완성하고 수정하는 반면, 아랍어에서는 간결함을 선호합니다.

솔직함 vs 실행: Claude 는 네덜란드어에서 솔직함을 선호하며 자신의 실수를 인정하는 반면, 인도네시아어에서는 실행을 선호합니다.

종합적으로 볼 때, 이러한 결과는 Claude 가 표현하는 가치관이 대화 언어에 따라 의미 있게 변화함을 보여줍니다. 동일한 요청에 직면했을 때, Claude 는 일부 언어에서는 따뜻함과 존중에 더 경향이 있는 반면, 다른 언어에서는 엄밀함과 신중에 더 경향이 있습니다. 이는 우리가 막 탐색하기 시작한 중요한 영향을 미칩니다. 예를 들어, 두 사람이 동일한 비즈니스 계획에 대한 피드백을 구할 때, 한 사람은 힌디어로, 다른 사람은 러시아어로 하면 Claude 가 평가를 표현할 때 다른 가치관을 표현하기 때문에 계획의 질에 대해 다른 인상을 가질 수 있습니다.

우리는 어떤 훈련 데이터 특성이 이러한 차이를 주도하는지 아직 명확하지 않습니다. 한 가지 가능성은 우리 훈련 데이터가 언어 간에 고르게 분포되지 않았다는 것입니다. 일부 언어의 데이터 양은 다른 언어보다 훨씬 많으며, 데이터가 풍부한 언어에서는 Claude 가 일관된 가치관을 표현하도록 훈련하는 것이 더 효과적일 수 있습니다. 데이터 구성도 다양합니다. 예를 들어 일부 언어는 전문 작문에서 비중이 너무 높을 수 있으며, 이러한 텍스트는 다른 가치관을 반영할 수 있습니다. 이러한 양과 구성의 불균형이 함께 작용하여 Claude 가 언어마다 다른 가치관을 표현하게 했을 수 있습니다.

우리는 또한 이러한 변화가 얼마나 바람직한지 확신하지 못합니다. 서로 다른 언어는 다른 대화 규범을 담고 있으며, Claude 는 이러한 규범을 기반으로 다른 가치관으로 응답할 수 있습니다. Claude 는 일부 언어에서는 우리의 예상 행동에 더 부합할 수도 있어, Claude 가 일부 언어 커뮤니티에 서비스하는 효과에 격차가 발생할 수 있습니다.

이 방법론은 어떤 훈련 데이터 특성이 이러한 차이를 주도하는지, 그리고 이러한 변화가 바람직한지 밝히기 시작하게 합니다.

앞으로의 전망

우리는 Claude 가 표현하는 가치관이 소수의 축으로 압축될 수 있으며, Claude 가 이러한 축 위의 위치가 모델과 언어에 따라 변한다는 것을 보였습니다. 이를 통해 모델 평가 및 배포 후 모니터링에서 이러한 변화를 추적할 수 있습니다. 하지만 우리는 이러한 변화가 왜 발생하는지, 그리고 Claude 와 상호작용하는 사람들에게 무엇을 의미하는지 아직 이해하지 못합니다. 아래에서 우리는 가장 유망하다고 생각하는 미래 방향을 개요합니다.

이러한 가치 차이는 어디서 비롯될까요?

Claude 의 가치관이 모델과 언어에 따라 변한다는 것을 아는 것이 이유를 알려주지는 않습니다. 일부 변화는 언어별 사전 훈련 및 미세 조정 데이터 차이에서 비롯될 수 있습니다. 우리의 네 개의 축은 훈련 데이터에서 더 면밀히 검토해야 할 가치 차이를 부각시킵니다. 이러한 차이를 구체적인 데이터, 훈련 단계 또는 문맥 요인으로 추적하면, 더 세밀한 방식으로 Claude 의 행동을 형성하고 싶다면 어디에 개입해야 하는지 알려줄 수 있습니다.

이러한 차이는 사용자에게 무엇을 의미할까요?

우리는 Claude 가 표현하는 어떤 가치관이 다르며 관련 행동이 무엇인지 측정했지만, 이것이 사용자에게 미치는 영향은 측정하지 않았습니다. Anthropic Interviewer 와 같은 도구를 사용하여 사용자의 웰빙, Claude 에 대한 신뢰 또는 Claude 의 의사 결정 질에 대해 질문한 다음, 이러한 영향을 Claude 가 표현하는 가치관과 연결할 수 있습니다. 이를 통해 가치 차이를 사용자 결과와 직접 연결하여 실제로 사용자에게 영향을 미치는 가치 차이를 우선적으로 수정할 수 있습니다.

Claude 의 가치관은 언어마다 어떻게 변화해야 할까요?

Claude 의 헌법은 따뜻함, 신중함 및 정직성과 같은 핵심 가치관을 표현해야 한다고 설명하지만, 이러한 것이 언어마다 어떻게 변화해야 하는지는 구체적으로 명시하지 않았습니다. 우리 결과는 서로 다른 언어의 사용자가 이미 다양한 방식으로 Claude 를 경험하고 있음을 보여주지만, 이러한 언어로 Claude 와 상호작용하는 사람들이 어떤 변화를 원하는지는 알지 못합니다. Claude 의 가치관이 언어마다 어떻게 변화해야 하는지 결정하는 것은 이러한 언어를 사용하는 사람들의 관점을 이해하고 균형을 잡는 것을 의미합니다.

Claude 가 표현하는 가치관 차이를 주도하는 다른 요인은 무엇일까요?

언어와 모델이 Claude 가 어떤 가치관을 표현하는지의 유일한 동인이 아닐 가능성이 높습니다. 가치관은 연령, 직업 또는 지리적 지역과 같은 인구 통계 신호의 영향을 받을 수도 있습니다. 사용자가 작성한 콘텐츠의 명시적 단서를 통해서든, 질문자와 관련된 주제, 어조 및 스타일의 미묘한 차이를 통해서든 말입니다. 이러한 신호 중 어떤 것이 중요한지, 그리고 이로 인해 발생하는 변화가 사용자에게 잘 서비스하는지 이해하는 것은 우리 방법론이 지원하는 다음 단계입니다.

우리는 Claude 가 표현하는 가치관을 신뢰성 있게 유도할 수 있을까요?

모델 가치 프로필을 측정하는 방법이 생기면서, 자연스럽게 질문이 생깁니다. 우리는 Claude 가 표현하는 가치관을 얼마나 신뢰성 있게 유도할 수 있을까요? 우리가 테스트할 수 있는 한 가지 방법은 역할 훈련 조정 또는 시스템 프롬프트 변경을 통해 가치관을 유도해 본 다음, 우리 가치 축 방법론을 사용하여 모델이 표현하는 가치관이 예상대로 변화하는지 검증하는 것입니다.

가치 프로필이 모델을 평가하고 모니터링하는 방식의 일부가 될 수 있을까요?

가치 축 방법론은 오픈 엔디드 대화에서 모델의 행동 경향을 요약하는 간단한 방법을 제공하며, 이를 평가 프로세스에 구축할 수 있습니다. 모델 출시 전후에 가치 프로필 분석을 실행하면 Claude 가 표현하는 가치관에서 예상치 못한 변화를 표시할 수 있습니다. 우리는 또한 가치 프로필과 문제 행동 (예: Claude 헌법 불이행) 간의 상관관계를 식별하고, 배운 지식을 활용하여 Claude 의 행동을 개선할 수 있습니다.

Claude 는 매일 수백만 건의 대화에서, 수십 개 언어에 걸쳐 가치관을 표현합니다. 지금까지 이러한 가치관은 훈련에서 형성할 수 있지만 배포에서는 신뢰성 있게 관찰할 수 없는 것이었습니다. 이제 우리는 이를 측정하는 방법을 갖게 되었으므로, Claude 가 표현하는 가치관이 우리가 의도적으로 선택하지 않은 방식으로 변화하는 것을 볼 수 있습니다. 우리는 왜 변화하는지, 그리고 이러한 변화가 사용자에게 서비스하는지 연구할 수 있습니다. 이러한 변화를 이해하고 어떻게 대응할지 결정하는 것은 우리가 계속해 나갈 작업입니다.

Matt Kearney, Miranda Zhang, Shan Carter, Judy Hanwen Shen, Kunal Handa, Jerry Hong, Saffron Huang, Miles McCain, Thomas Millar, Michael Stern, Mo Julapalli, Suzanne Wang, Devin Kuokka, Andrea Vallone, Shaoyi Zhang, Jim Baker, Kevin Troy, Matt Botvinick, Hanah Ho, Monika Tuchowska, Sarah Pollack, Jake Eaton, Deep Ganguli, Esin Durmus

감사의 말

이 작업의 다양한 단계에서 피드백을 제공한 다음 개인들에게 감사드립니다: Amanda Askell, Joe Carlsmith, Jack Clark, Ishita Dasgupta, Andrew Lampinen, Shayne Longpre, David Saunders, Taylor Sorensen, Heather Whitney.

여기에서 얻을 수 있습니다.

우리는 가치관을 정직성이나 신중함과 같은 규범적 고려사항으로 정의하며, 이는 Claude 의 응답에서 진술되거나 표시됩니다. 우리가 Claude 가 표현하는 가치관을 언급할 때, 우리는 Claude 의 행동과 출력에 반영된 가치관을 의미합니다. 우리는 Claude 가 내재적으로 가치관을 보유한다고 시사하지 않습니다.

Claude Opus 4.7 시스템 카드 56 페이지의 양성 요청 평가에서 언어별 거부율을 참조하십시오.

대화 작업, 주제 및 사용자가 표현한 가치관을 통제한 후, 이 네 개의 축은 대화 간 가치관 총 분산의 15% 를 차지합니다.

본문에서 모델 이름 없이 Claude 를 언급한 결과는 우리가 연구한 세 가지 모델의 대화를 기반으로 합니다: Sonnet 4.6, Opus 4.6 및 Opus 4.7.

데이터는 2026 년 5 월 2 주 동안의 대화에서 수집되었습니다.

우리는 대화의 80% 이상에서 나타난 18 개 가치관 (예: 도움 제공, 명확성, 지침 준수) 을 제거했습니다. 그렇지 않으면 이러한 거의 보편적인 가치관이 분석을 지배하여 대화 간 가치관 변화에 대한 정보를 제공하지 못할 것입니다.

Claude Opus 4.7 시스템 카드 215 페이지의 GMMLU 평가 결과와 56 페이지 양성 요청 평가의 언어별 거부율을 참조하십시오.

TechFlow 공식 커뮤니티에 오신 것을 환영합니다

Telegram 구독 그룹:https://t.me/TechFlowDaily

트위터 공식 계정:https://x.com/TechFlowPost

트위터 영어 계정:https://x.com/BlockFlow_News

원문 링크

즐겨찾기 추가