Anthropic：70 万件の Claude 対話を 3000 の価値観に凝縮、Opus 4.7 が最も慎重で、Sonnet 4.6 は人を喜ばせるのが上手と判明
TechFlow厳選深潮セレクト
Anthropic：70 万件の Claude 対話を 3000 の価値観に凝縮、Opus 4.7 が最も慎重で、Sonnet 4.6 は人を喜ばせるのが上手と判明
この手法により、私たちは初めて「AI 性格」が訓練方法や文化的文脈によってどのように変化するかを定量化できるようになりました。
Web3業界の深掘り報道に専念し潮流を洞察著者：Anthropic
翻訳：TechFlow
TechFlow 編集部より：AI が「転職すべきか」といった主観的な質問に答えるよう求められた場合、その回答自体が価値観の表れです。Anthropic は、Claude が 70 万件の実際の対話で示した 3000 種類以上の価値観を 4 つの軸に圧縮し、Opus 4.7 が他のバージョンよりもリスクに警戒し、率直であることを発見しました。また、英語で対話する Claude よりも、アラビア語で対話する Claude の方が温かみがあります。この手法により、AI の性格がトレーニング方法や文化的文脈によってどのように変化するかを初めて定量化できるようになりました。
正解のない質問（新しい仕事を受けるべきか、友人との衝突をどう処理するかなど）を Claude に尋ねた場合、その回答は何らかの価値観を反映せざるを得ません。私たちは Claude が反映する価値観がその憲法で高レベルに概要説明されていることを望んでいますが、Claude.ai で毎日数百万回行われる対話で発生しうるあらゆる価値観を予測できる文書はありません。むしろ、私たちは Claude の回答において「状況に応じて適用できる良好的な判断力と健全な価値観」を育成することを目指しています。
私たちは究竟如何研究 Claude が表現する価値観、そしてそれらが異なる状況でどのように変化するかをどのように研究するのでしょうか？以前の作業では、70 万件の匿名化された Claude.ai 対話を分析し、Claude の回答における 3000 種類以上の異なる価値観と、それらが表現される頻度を特定しました。しかし、これほど庞大な価値観のリストは理解しにくいものです。この作業では、数千種類の価値観を少数の軸に圧縮することで、これらの価値観の研究を実行可能にしました。これらの軸は Claude の回答における重要なパターンを捉えています。各軸は 2 組の価値観の間の数軸です。例えば、一端は感情的な温かみに関連する価値観、另一端は厳密さに関連する価値観です。この線上での Claude の位置は、それがどの価値観を傾向としているかを示します。
この手法を適用して、Claude が表現する価値観が 2 つの要因でどのように変化するかを測定しました。まず、異なるモデル間で Claude が表現する価値観がどのように変化するかを比較しました。各 Claude モデルは、わずかに異なる性格トレーニング方法および许多其他的微调决策を反映しています。私たちの価値観軸手法はモデル間の重要な差異を定量化するため、最終的には Claude が表現する価値観の変化を異なるトレーニング決定に関連付けることができるかもしれません。
次に、ユーザーが異なる言語で Claude と交谈する際の体験を比較したいと考えました。以前の研究により、Claude は異なる言語で動作が異なることが示されています。私たちは価値観軸手法を適用して、Claude.ai でトップ 20 の言語において Claude が表現する価値観がどのように変化するかを理解しました。
図 1：Claude は Opus 4.6 と Opus 4.7、および英語版とアラビア語版で表現する価値観が異なります。Opus 4.6 は謙虚さ、厳密さ、簡潔さ、実行力に関連する価値観を表現する傾向があり、Opus 4.7 は慎重さ、厳密さ、深さ、率直さに関連する価値観を表現する傾向があります。英語版では、Claude は慎重さ、厳密さ、深さ、率直さに関連する価値観を表現する傾向があり、アラビア語版では、謙虚さ、熱情、簡潔さ、実行力に関連する価値観を表現する傾向があります。
4 つの重要な軸が Claude の価値観の変動の 15% を捉えています：
従順 vs 慎重：Claude は他者の望みを満たす傾向があるか、潜在的なリスクや害を防止する傾向があるか
温かみ vs 厳密さ：Claude は積極的で他者を关心する傾向があるか、正確さと精密さを強調する傾向があるか
深さ vs 簡潔さ：Claude は深く説明する傾向があるか、求められたことのみを行う傾向があるか
率直さ vs 実行：Claude は自分の不確実性を強調する傾向があるか、より完成されたで自信のある回答を生成する傾向があるか
これらの軸上の価値観プロファイルはモデル性格の知覚と一致します。Sonnet 4.6 は特に温かいと考えられており、Opus 4.7 は厳密さで知られています。我们发现各モデルの価値観プロファイルはこれらの主観的な評価を反映していることが分かりました：Sonnet 4.6 はユーザーへの従順さと感情的な温かみをより多く表現する傾向があり、Opus 4.7 は正確さと精密さへの関心、および悪用への防止を表現する傾向があります。
Claude が表現する価値観は言語によって異なります。Claude が英語を話す場合、ポルトガル語、インドネシア語、または中国語を話す場合とは異なる価値観を強調します。最大的变化温かみ vs 厳密さの軸で見られ、Claude はアラビア語とヒンディー語で温かみ関連の価値観を最も表現する傾向があり、英語とロシア語で厳密さ関連の価値観を最も表現する傾向があります。
この手法により、なぜ価値観が異なるモデルや言語で変化するかを問い始め、行動トレーニングや文化的背景などの要因が Claude が表現する価値観にどのように影響するかをより良くテストできるようになります。
私たちは巨大な価値観空間をどのように解釈するか？
最終的に、私たちの目標は Claude が表現する価値観、およびこれらの価値観が異なる状況でどのように変化するかを実証的に理解する方法を持つことです。この作業では、価値観がモデルと言語間でどのように変化するかに特に焦点を当てています。しかし、以前の作業「野生の価値観」では、Claude が表現する 3000 種類以上の価値観を特定しました。これら数千種類の価値観を逐一比較することは不器用であり、より広範な傾向を覆い隠してしまいます。
価値観の比較を容易にするために、私たちは価値観軸を構築し、実際の対話で一緒に出現する傾向がある価値観に基づいて、これら数千種類の価値観をいくつかの基本的な次元に減らしました。例えば、「温かい」と記述された Claude の回答は、通常「鼓舞的」および「積極的」とも記述されます。これらの「温かい」回答は、「厳密」および「正確」と記述されることはあまりありません。温かみから厳密さへの軸を構築することで、これらの関連する価値観グループを整理できます。温かみ関連の価値観が一方に、厳密さ関連の価値観がもう一方にあります。これにより、Claude が対話で人々と相互作用する重要な側面を捉えることができます。もし Claude が対話で厳密さ関連の価値観よりも温かみ関連の価値観をより多く表現する場合、その対話はこの軸上でより温かみ側に偏ります。逆もまた同様です。これは軸の両端の価値観グループが相互排他的であることを意味するわけではありません。Claude は同じ対話で温かみと厳密さの両方を表現できます。しかし実際には、Claude が軸の一方の側で表現する価値観が多ければ多いほど、もう一方の側で表現する傾向は少なくなります。これらの軸により、数千の個別の価値観の変化を追跡することなく、Claude が表現する最も顕著な価値観グループを比較できます。
価値観軸を構築するために、私たちは「野生の価値観」で特定された 3307 種類の価値観から始め、類似した意味を持つ価値観を手動でクラスタリングし、339 種類の高层次価値観を含むより短いリストを作成しました。次に、プライバシー保護分析ツールを使用して、Claude.ai 対話からユーザーが Claude に主観的なタスクを与えた 309,815 回の対話をサンプリングしました。私たちのサンプルは 3 つのモデル（Sonnet 4.6、Opus 4.6、Opus 4.7）と Claude.ai で最もよく使用される 20 種類の言語から平均的に取得され、各モデル - 言語ペアに約 5000 回の対話提供了。各対話について、このツールは Claude を使用して 339 種類の高层次価値観のそれぞれを存在または不存在としてマークしました。ユーザーが表現する価値観、および対話のタスクとトピックを特定するためにも同じプロセスに従いました。その後、次元削減技術を適用しました。これは、Claude が一緒に表現する傾向がある価値観に基づいてマークされた価値観を軸に圧縮する技術です。
これにより、Claude が表現する価値観が対話から対話へ変化する主要な方法を捉える 4 つの軸が残りました：
従順 vs 慎重軸は、適応や選好の尊重などの価値観と、責任ある指導や害の減少などの価値観を対比します
温かみ vs 厳密さ軸は、積極的なフレームワークや奨励などの価値観と、正確さや透明性などの価値観を対比します
深さ vs 簡潔さ軸は、ニュアンスや批判的思考などの価値観と、簡潔さや服従などの価値観を対比します
率直さ vs 実行軸は、誠実さや透明性などの価値観と、結果志向や最適化などの価値観を対比します
私たちが測定しているのがユーザーが尋ねる内容や尋ね方の差異ではなく、Claude が表現する価値観であることを確認するために、各対話のタスク、トピック、およびユーザーが表現する価値観を制御しました。
図 2：Claude の価値観の最大の差異を表す 4 つの価値軸。各軸は 2 組の値を接続する数軸です。各値の各軸上の位置は、それが軸への貢献が平均値の何倍かに依存し、貢献が最大の値はラベル表示されています。大多数の値の貢献は平均値未満であり、これは各軸が一小部分の重要な値（図中にラベル表示されている）によって駆動されることを意味します。
異なる Claude モデルは異なる価値観プロファイルを表現するか？
このセクションでは、異なるモデルが表現する価値観を比較しました。各モデルについて、4 つの軸に沿ったすべての対話の位置の平均値を取り、各軸に全体の位置を与えました。結果は、各モデルが他のモデルよりもどの価値観グループを表現する傾向があるかを示す高レベルの図です。これらの差異は対話間の変動に比べて小さいですが、構造的であり検出可能です。
図 3：4 つの価値軸上の各モデルの平均位置（すべての対話の平均値の標準偏差で表示）およびその固有の動作。Sonnet 4.6 は情熱、敬意、簡潔を傾向とし、Opus 4.7 は厳密さ、慎重さ、深さをより表現する傾向があります。Opus 4.6 は厳密さ、敬意、簡潔を傾向とします。
これらの差異が実際にはどのように見えるかを確認するために、モデルの差異が最大である特定の価値観に拡大しました。Claude のプライバシー保護ツールが対話で価値観をマークするたびに、Claude がその価値観をどのように表現したかについての短い説明も書きます。私たちは価値観グループ内の類似した動作を反映する説明をグループ化し、要約しました。これにより、モデルがどのように異なるかのより具体的な視点を提供します：
従順 vs 慎重。Sonnet 4.6 は慎重さに対する従順さを最も表現する傾向があり、頻繁にユーザーのアイデアや仕事を肯定します。Opus 4.7 は慎重さを最も表現する傾向があり、頻繁にユーザーにリスクを事前に警告します。
温かみ vs 厳密さ。Sonnet 4.6 は温かみを最も表現する傾向があり、頻繁にユーモア、冗談、および判断せずにユーザーを慰めることで表現します。Opus 4.7 は温かみに対する厳密さを最も表現する傾向があり、ユーザーの仮定に挑戦し、彼らの仕事を率直に批判する可能性がより高いです。
深さ vs 簡潔さ。Opus 4.7 は結論の背後にある推論を示すことで深さを傾向とし、Opus 4.6 と Sonnet 4.6 は簡潔さを傾向とします。Opus 4.6 は特に要点に直行する傾向があります。
率直さ vs 実行。Opus 4.7 は自分の限界を率直にすることで率直さを傾向とし、Opus 4.6 は実行を傾向とし、ユーザーの請求の範囲内に留まる可能性がより高いです。
これらの発見は、Anthropic 内部およびオンライン上のどちらにおいても、これらのモデルに対する人々の知覚と一致します。Claude.ai ユーザーは、Opus 4.7 が他のモデルよりも頻繁に答えに条件を付けるとコメントしています。Anthropic 従業員は、Opus 4.7 が相対的に多くの透明性、誠実さ、謙虚さを表現すると説明し、Opus 4.6 がより多くの簡潔さを表現すると説明しました。私たちはまた、Sonnet 4.6 のリリースブログ投稿で、それを温かく、誠実で、親社会的であると説明しました。私たちの軸がこれらの印象を回復するという事実は、私たちが Claude が表現する価値観をマークし比較する方法が、モデルの実際の動作に関するいくつかの真実を追跡していることを示唆しています。
多くの対話において、ユーザーは異なる Claude モデルと相互作用する際に異なる価値観の組み合わせに遭遇する可能性があります。例えば、Opus 4.7 はユーザーの仕事に対して率直な批判を提供するか、事前にリスクを警告する傾向があり、Sonnet 4.6 は奨励とユーモアを傾向とします。モデル間の価値観のこの差異は、性格トレーニング決定（および他の要因）によって形成されている可能性があり、私たちの価値観軸手法は Claude が表現する価値観の重要な差異を強調します。私たちは最終的にこれらをこれらのトレーニング選択に遡ることができるかもしれません。
Claude が表現する価値観は言語間で異なるか？
私たちはいくつかの理由で、Claude が表現する価値観が対話の言語によって変化すると予想しました。まず、Claude のトレーニングデータは言語によって異なり、これがそれが表現する価値観を形成している可能性があります。次に、システムカードで共有したモデル評価は、Claude が何を知っているか、および敏感なリクエストをどのように処理するかにおいて言語間の差異をすでに発見しています。Claude が表現する価値観が言語間でどれだけ変化するかを測定することは、言語間の差異が合理的な変化を反映しているか、またはトレーニングで解決されるべきかを決定する第一歩です。
私たちは前のセクションと同じ方法を使用して、Claude.ai で最もよく使用される 20 種類の言語で Claude の価値観プロファイルがどのように異なるかを計算しました。以下に、このプラットフォームでランク付けされた言語における Claude の価値観プロファイルを描画しました。Claude が表現する価値観の差異が最大の言語から始めます。
図 4：Claude が各言語で対話する際の 4 つの価値軸上の平均位置（すべての対話の平均値の標準偏差で表示）、および各言語における Claude の固有の動作。Claude はヒンディー語で最も情熱を傾向とし、ロシア語で最も厳密さを傾向とします。Claude はインドネシア語で最も実行を傾向とし、オランダ語で最も率直さを傾向とします。Claude はアラビア語で最も敬意と簡潔さを傾向とし、英語で最も慎重さと深さを傾向とします。
Claude の価値表現が言語間で最も差異が大きかったのは、温かみ vs 厳密さおよび率直さ vs 実行の 2 つの軸であり、尊重 vs 慎重および深さ vs 簡潔さの 2 つの軸で最も安定していました。
尊重 vs 慎重：Claude はアラビア語で最も多くの尊重を表現し、英語で最も多くの慎重さを表現します。
温かみ vs 厳密さ：Claude はヒンディー語とアラビア語で最も多くの温かみを表現し、礼儀正しい言語、ユーモアと面白さ、および他者のアイデアや仕事の肯定を特徴とします。Claude は英語とロシア語で厳密さを最も表現する傾向があり、仮定の質疑、詳細の修正、および証拠の要求を特徴とします。
深さ vs 簡潔さ：Claude は英語で深さを傾向とし、詳細を完善し修正しますが、アラビア語で簡潔さを傾向とします。
率直さ vs 実行：Claude はオランダ語で率直さを傾向とし、自分の誤りを認めますが、インドネシア語で実行を傾向とします。
総合的に、これらの結果は Claude が表現する価値観が対話言語とともに意味のある変化を示すことを示しています。同じリクエストに直面しても、Claude はある言語では温かみと尊重をより傾向とし、別の言語では厳密さと慎重さをより傾向とします。これにより、私たちがようやく探索し始めた重要な影響が生じます。例を挙げましょう：2 人が同じビジネスプランについてフィードバックを求め、一人はヒンディー語、もう一人はロシア語で使用した場合、プランの質について異なる印象を持つ可能性があります。これは Claude が評価を述べる際に異なる価値観を表現するためです。
私たちはトレーニングデータのどの特性がこれらの差異を駆動しているかまだ明確ではありません。一つの可能性は、私たちのトレーニングデータが言語間で不均等に分布していることです。ある言語のデータ量は他の言語よりもはるかに大きく、データが豊富な言語では、Claude に一貫した価値観を表現させるトレーニングがより効果的である可能性があります。データ構成も異なります。例えば、ある言語は専門的な書き込みで割合が高すぎる可能性があり、此类テキストは異なる価値観を反映している可能性があります。これらの数量と構成上の不均衡が共同して、Claude が異なる言語で異なる価値観を表現する原因となっている可能性があります。
私たちはまた、この変化のどれほどが望ましいかも確信していません。異なる言語は異なる対話規範を担っており、Claude はこれらの規範に基づいて異なる価値観で応答している可能性があります。Claude はある言語では私たちの預期動作により近づく可能性もあり、これにより Claude がある言語コミュニティにサービスする効果に格差が生じる可能性があります。
この手法により、トレーニングデータのどの特性がこれらの差異を駆動しているか、およびこの変化が望ましいかどうかを厘清し始めることができます。
将来展望
私たちは Claude が表現する価値観を少数の軸に圧縮できること、および Claude がこれらの軸上の位置がモデルと言語とともに変化することを示しました。これにより、モデル評価およびデプロイ後の監視でこれらの変化を追跡できます。しかし、私たちはこれらの変化がなぜ発生するか、およびそれらが Claude と相互作用する人々にとって何を意味するかを理解していません。以下に、私たちが最も有望であると考える将来の方向性を概説します。
これらの価値差異はどこから来るのか？
Claude の価値観がモデルと言語とともに変化することを知っていても、その理由を教えてくれるわけではありません。ある変化は、異なる言語の事前トレーニングおよびファインチューニングデータの差異に起因する可能性があります。私たちの 4 つの軸は、トレーニングデータでより注意深く検査すべき価値差異を強調しています。これらの差異を具体的なデータ、トレーニング段階、または文脈要因に遡ることで、より繊細な方法で Claude の動作を形成したい場合にどこで介入すべきかを示すことができます。
これらの差異はユーザーにとって何を意味するか？
私たちは Claude が表現するどの価値観が異なるかおよびそれらの関連動作を測定しましたが、これらがユーザーに与える影響は測定していません。Anthropic Interviewer などのツールを使用することで、ユーザーの幸福感、Claude への信頼、または Claude の決定の質について質問し、これらの影響を Claude が表現する価値観に関連付けることができます。これにより、価値差異をユーザー結果に直接リンクできるようになり、ユーザーに実際に影響を与える価値差異の修正を優先できます。
Claude の価値観は言語間でどのように変化すべきか？
Claude の憲法は、温かみ、慎重さ、誠実さなどの表現すべき核心的価値観を記述していますが、これらが言語間でどのように変化すべきかは具体化していません。私たちの結果は、異なる言語のユーザーがすでに異なる方法で Claude を体験していることを示していますが、これらの言語で Claude と相互作用する人々がどのような変化を望んでいるかは分かりません。Claude の価値観が言語間でどのように変化すべきかを決定することは、これらの言語を話す人々の視点を理解し比較検討することを意味します。
他にも Claude が表現する価値観の差異を駆動する要因はあるか？
言語とモデルは、Claude が何を表現する価値観の唯一の駆動要因である可能性は低いです。価値観は、年齢、職業、または地理的地域などの人口統計シグナルの影響も受ける可能性があります。これは、ユーザーが書いた内容の中の明確な手がかりを通じて、または質問者に関連するトピック、トーン、スタイルの微妙な差異を通じてのどちらかです。これらのシグナルのどれが重要であるか、およびこれにより生じる変化がユーザーに良くサービスしているかを理解することは、私たちの手法がサポートする次のステップです。
私たちは Claude が表現する価値観を信頼性を持って誘導できるか？
モデルの価値プロファイルを測定する方法を持つことで、当然の質問が生じます：私たちは Claude が表現する価値観をどの程度信頼性を持って誘導できるか？私たちがテストできる一つの方法は、ロールトレーニング調整またはシステムプロンプト変更を通じて価値観を誘導しようと試し、その後私たちの価値軸手法を使用してモデルが表現する価値観が期待通り変化したかを確認することです。
価値プロファイルはモデルを評価および監視する方法の一部になれるか？
価値軸手法は、オープンエンドな対話におけるモデルの動作傾向を要約する簡単な方法を提供します。これを評価プロセスに構築できます。モデルリリース前およびリリース後に価値プロファイル分析を実行することで、Claude が表現する価値観の予期せぬ変化をマークできます。また、価値プロファイルと問題行動（Claude 憲法の不遵守など）との間の相関関係を識別し、学んだ知識を活用して Claude の動作を改善できます。
Claude は毎日数百万回の対話で、数十種類の言語にわたって価値観を表現しています。これまで、これらの価値観はトレーニングで形成できますが、デプロイで信頼性を持って観察できないものでした。今やそれらを測定する方法を持つことで、Claude が表現する価値観が私たちが意図的に選択しなかった方法で変化することを見ることができます。私たちはそれらがなぜ変化するか、およびこの変化がユーザーにサービスしているかを研究できます。この変化を理解し、どのように対処するかを決定することは、私たちが継続して行う作業です。
Matt Kearney, Miranda Zhang, Shan Carter, Judy Hanwen Shen, Kunal Handa, Jerry Hong, Saffron Huang, Miles McCain, Thomas Millar, Michael Stern, Mo Julapalli, Suzanne Wang, Devin Kuokka, Andrea Vallone, Shaoyi Zhang, Jim Baker, Kevin Troy, Matt Botvinick, Hanah Ho, Monika Tuchowska, Sarah Pollack, Jake Eaton, Deep Ganguli, Esin Durmus
謝辞
以下の個人に、この作業の異なる段階でフィードバックを提供してくれたことに感謝します：Amanda Askell, Joe Carlsmith, Jack Clark, Ishita Dasgupta, Andrew Lampinen, Shayne Longpre, David Saunders, Taylor Sorensen, Heather Whitney。
ここで入手できます。
価値観を、Claude の回答で表明または示された、誠実さや慎重さなどの規範的考慮として定義します。Claude が表現する価値観に言及する場合、Claude の動作および出力が反映する価値観を指します。Claude が内部的に価値観を保持していることを示唆するものではありません。
Claude Opus 4.7 システムカードの 56 ページにある無害なリクエスト評価の異なる言語拒否率を参照してください。
対話タスク、トピック、およびユーザーが表現する価値観を制御した後、これら 4 つの軸は対話間の価値観の総分散の 15% を占めます。
本文中でモデル名なしで Claude に言及する結果は、研究したすべての 3 つのモデルの対話に基づいています：Sonnet 4.6、Opus 4.6、および Opus 4.7。
データは 2026 年 5 月の 2 週間の対話から収集されました。
80% 以上の対話で出現した 18 個の価値観（例：手伝い好き、明確さ、指示に従う）を削除しました。さもなくば、これらのほぼ普遍的な価値観が分析を支配し、対話間の価値観変化についての任何の情報を示すことができなくなります。
Claude Opus 4.7 システムカードの 215 ページにある GMMLU 評価結果および 56 ページの無害なリクエスト評価における異なる言語拒否率を参照してください。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@AnthropicAI
