新晋ノーベル賞受賞者ダルイオ・アシモグル：現在のAIの発展とリスクをどう見るか？
TechFlow厳選深潮セレクト
新晋ノーベル賞受賞者ダルイオ・アシモグル：現在のAIの発展とリスクをどう見るか？
技術と社会において、最大の資産は人間である。
Web3業界の深掘り報道に専念し潮流を洞察原文作者：陳沁涵、澎湃新聞記者
現地時間10月14日、スウェーデン王立科学アカデミーは2024年のノーベル経済学賞をダロン・アセモグル（Daron Acemoglu）、サイモン・ジョンソン（Simon Johnson）、ジェームズ・A・ロビンソン（James A. Robinson）の3氏に授与すると発表した。受賞理由は「制度がいかにして形成され、繁栄にどのような影響を与えるかに関する研究」である。
選考委員会は報道資料で、この3人の経済学者が社会制度が国家の繁栄に重要であることを示したと述べた。「法の支配が不十分な社会や人々を搾取する制度では成長も前向きな変化も生じない。彼らの研究はその理由を理解する手助けとなる。」
アセモグルは1967年にトルコの首都イスタンブールで生まれ、1993年からマサチューセッツ工科大学（MIT）で教鞭を執っている。2005年にクラーク賞を受賞し、政治経済学、経済発展、経済成長、技術変革、不平等、労働経済、ネットワーク経済など幅広い分野を研究対象としている。今回の共同受賞者とも多数の論文を共著しており、ロビンソンとは『国家はなぜ失敗するのか』『狭い回廊』などのベストセラー書籍を共著している。
近年、アセモグルの研究テーマの一つは産業用ロボットなどの自動化技術が労働市場に与える影響である。2023年にはサイモン・ジョンソンと『パワー・アンド・プログレス（Power and Progress）』を出版。本書では、AIが現在の時代において最も重要な技術でありながら直面しているジレンマについて論じている。
「私の多くの研究は、政治経済学と技術変革の相互作用に焦点を当てています。これらは私たちの能力や成長の機会を形作る二大勢力であり、同時に私たちの政治的・経済的選択にも影響を与えます。」と、アセモグルは今年6月、澎湃新闻による単独インタビューで語った。
彼の研究によると、「現在のAIの発展軌道は、過去数十年間で最も悪かったいくつかの技術的誤りを繰り返し、さらに悪化させている」という。例えば、自動化に過度に重点を置き、新しいタスクの創出への十分な投資を行っていないことなどが挙げられる。企業の経営者は、最大の資産は労働者であることに気づくべきであり、コスト削減ばかりを追求するのではなく、労働者の生産性、能力、影響力を高める方法を見つけるべきだと彼は主張する。
アセモグルは、AIが富と権力を一般の人々から少数のテック起業家へ移転させる手段になることを強く懸念している。大手テック企業の政治的力を打破するために、「独占禁止法だけに頼るのでは不十分であり、技術を社会にとって有益な方向へ再誘導する必要がある」と述べている。
彼は、AIの発展を導くために次の3つの原則を提案している。第一に「機械の有用性」を優先すること、第二に「労働者や市民に力を与え、操作しようとはしないこと」、第三に「テック企業に責任を持たせるより良い規制枠組みを導入すること」である。
*以下は2024年6月16日に澎湃新闻がアセモグルに行った単独インタビュー記事。元のタイトルは『独占インタビュー｜MIT教授「AIが少数のテック起業家への富と権力の移転ツールになることを懸念している』」。
参考消息網は6月15日、米国CNNの報道を引用して、アップルが13日、マイクロソフトを上回り米国で時価総額最大の上場企業となったと伝えた。同社は先週開催された年次開発者会議（WWDC）でiPhone向け生成AI機能などを発表し、株価が急騰した。
アップル、NVIDIA、マイクロソフトは、世界で最も価値のある企業の座を巡って激しく競い合っている。アップルは「AI」を再定義し「Apple Intelligence」と名付けたことで、AIチップによって時価総額が急騰していたNVIDIAを逆転し、さらにマイクロソフトを追い抜いて首位に返り咲いた。現在のアップルの時価総額は3.29兆ドルで、マイクロソフトの3.28兆ドルをわずかに上回っている。生成AIはこの3大テック企業の時価総額上昇を牽引する核となる原動力となっている。
このAIブームに対して、米国国立経済研究所（NBER）は最近、MIT教授ダロン・アセモグルが執筆した論文を発表した。それによると、今後の人工知能（AI）の進歩がもたらす生産性向上は限定的であり、今後10年間における全要素生産性（TFP）の伸びの上限は0.66％以下と予測されている。
アセモグルは論文で、生成AIは将来性のある技術であると認めつつも、「業界が根本的な再編を行い、汎用的で人間に似た会話ツールの開発を優先するのではなく、各業界の労働者の限界生産性を高めるために信頼できる情報を提供することに焦点を当てるような、生成AIモデル（大規模言語モデルLLMsなど）のアーキテクチャに大きな変更がなければ、その可能性は実現されない」と指摘している。
人工知能が生産性や経済成長に与える影響に対する過度な楽観的予測に対して、アセモグルは疑念を呈している。トルコ出身のアメリカ人経済学者である彼は、政治経済学の研究で知られ、長年にわたり政治経済学と技術変革の相互作用に注目してきた。
昨年、彼は英系アメリカ人の経済学者サイモン・ジョンソンとともに新著『Power and Progress』を出版。人類社会を揺るがす可能性を持つAI革命について述べており、現在のAIの発展は道を誤っていると批判している。多くのアルゴリズムは可能な限り人間を代替することを目指して設計されているが、「技術が進歩する正しい道は、機械を人間に役立つものにすることであって、人間を置き換えることではない」と述べている。
OpenAIの最高技術責任者（CTO）ミラ・ムラティ（Mira Murati）は5月のイベントで、汎用人工知能（AGI）開発に関する議論に対し、「我々はモデルの機能性と実用性の強化だけでなく、安全性の確保にも力を入れており、人間の価値観と一致させ、暴走を防ぎ、人類に利益をもたらすAGIの構築を目指している」と語った。
「AIの能力と発展方向について深く研究するにつれ、現在のAIの発展軌道は過去数十年間で犯した最も悪い技術的誤りを繰り返し、さらに悪化させていると確信するようになった。」アセモグル教授は最近、澎湃新闻（www.thepaper.cn）のインタビューでこう語った。AI分野の大手プレイヤーの多くは、非現実的かつ危険な夢――つまり汎用人工知能（AGI）の実現――に駆られている。「これは機械やアルゴリズムを人間よりも上位に置こうとする試みだ。」
一部の分析家はアセモグルをAI悲観主義者と見なしている。これに対し彼は澎湃新闻に、「社会学者として、私はむしろ負の社会的影響に注目する傾向がある」と応じた。
アセモグルは、MITの電気工学・コンピュータ科学部門の責任者である妻アス・オズダグラル（Asu Ozdaglar）教授と共に研究を行うことが多い。専門分野は異なるものの、夫婦のAIに関する見解は大方一致している。ただしアセモグルは、「私の考えの方が妻よりもやや悲観的かもしれない」とも認めている。
AIの商業化競争が加速し、大規模AIモデルが百舸争流の状態にあるが、OpenAI、マイクロソフト、グーグル、NVIDIAといったテック大手がAI発展の主導権をすでに握っているのは明らかだ。アセモグルは、「AIが富と権力を一般の人々から少数のテック起業家へ移転させる手段になることを非常に懸念している。今私たちが目にしている『不平等』は、まさに『炭鉱のカナリア』（＝災厄の前兆）である。」と語った。
技術と社会：最大の資産は人間である
Q1：あなたの研究は政治経済学、技術変革、不平等など多岐にわたります。どのような背景やきっかけで、技術発展が不平等に与える影響に注目するようになったのですか？当初の技術発展に対する見解はどのようなものでしたか？それがどのように現在の「現在のAI発展の道筋は経済にも民主主義にも好ましくない」という主張へと変化したのでしょうか？
アセモグル：
私の多くの研究は、政治経済学と技術変革の相互作用に集中しています。これらは私たちの能力や成長の機会を形作る二大勢力であり、同時に私たちの政治的・経済的選択にも影響を与えます。
AIは今日の時代において最も重要な技術となりました。まず、多くの注目と投資を集めていること、GPU性能の向上などにより顕著な進歩を遂げていること、そしてあらゆる分野に影響を及ぼしていることが理由です。これらの要因が、私がこの分野での研究を始めたきっかけです。
AIの能力と発展方向について深く研究するにつれ、現在のAIの発展軌道は過去数十年間で最も悪かった技術的誤りを繰り返し、さらに悪化させていると確信するようになりました。自動化に過度に重点を置くことです。私たちは自動化やその他のデジタル技術を優先し、新しいタスクの創出への十分な投資を行っていません。また、ソーシャルプラットフォームが人々のデータや関心を利用して利益を得ようとすることによって生じたすべての誤りも同じです。
特に気になるのは、AI分野の大手プレイヤーの多くが、非現実的かつ危険な夢――つまり汎用人工知能（AGI）の実現――に駆られているという事実です。これは機械やアルゴリズムを人間よりも上位に置くことになり、しばしばこれらのトッププレイヤーが他の人々を凌駕する手段でもあります。
Q2：高度なコンピュータ技術やインターネットは多くの富豪に富の移転をもたらし、テック大手をかつてないほど強大にしました。それでもなお、私たちはこのような技術革新を受け入れています。なぜなら、それらは確かにプラスの影響ももたらしているからです。技術変革には利点と欠点があり、歴史的に見て社会は常に新たな技術に適応する方法を見出してきました。新たな技術波が押し寄せている今、なぜ不平等問題が特に懸念されるのでしょうか？
アセモグル：
ソーシャルプラットフォームやAIに関しては、ご指摘の通りです。しかし、インターネットについては事情が異なります。私は別の見解を持っています。インターネットはある面で不適切に使われてきたと考えますが、同時に非常に有益な技術であることも否定しません。人々のつながりを実現し、情報提供、新たなサービスやプラットフォームの創造において極めて重要な役割を果たしてきました。
AIに関しては、非常に懸念しています。AIが富と権力を一般の人々から少数のテック起業家へ移転させる手段になるのではないかと。問題は、一般の人々がAIから利益を得るために必要な統制メカニズム――強力な規制、労働者の参加、市民社会、民主的監視――が何一つ存在しないことです。私たちが今見ている「不平等」は「炭鉱のカナリア」であり、より深刻な事態が近づいていることを意味しています。
Q3: あなたは、自動化によって引き起こされる不平等は「企業や社会が技術の使い方を選択した結果である」と指摘しています。テック大手の市場力と影響力が膨張し、制御不能になる可能性すらある中で、私たちが対処すべき鍵は何でしょうか？もし自分が大手テック企業のCEOであった場合、AIをどう活用してその企業を運営しますか？
アセモグル：
CEOたちへの私の助言は、最大の資産は労働者であることを認識することです。コスト削減にのみ注力するのではなく、労働者の生産性、能力、影響力を高める方法を探すべきです。つまり、新しいタスクを創出し、新たな能力を開拓するために、新技術を労働者のために使うということです。
もちろん、自動化は有益であり、今後もさらに活用されていくでしょう。しかし、生産性向上のための唯一の手段ではありません。自動化はCEOたちが唯一追求し、優先すべきことでもありません。
Q4：米国の独占禁止当局はAIに関する一連の懸念を公に表明しています。米司法省と連邦取引委員会（FTC）は、マイクロソフト、OpenAI、NVIDIAに対する独占禁止調査の道を切り開く協定を結んだと伝えられています。このような大手テック企業に対する独占禁止措置は、本当に市場競争を促進し、AIの発展が少数企業に支配されることを防げるのでしょうか？
アセモグル：
間違いなく効果があります。独占禁止は重要です。米国では、テクノロジー業界のいくつかの問題の根源は、独占禁止法の執行不足にあります。五大テック企業はいずれも、潜在的な競争相手を買収することができたために、それぞれの分野で強固な独占的地位を築いてきました。場合によっては、独占を強化するために競合技術を購入し、停止させることさえありました。過去30年間で非常に強大になった大手テック企業の政治的力を打ち破るために、私たちは断固として独占禁止を必要としています。
しかし、独占禁止だけでは不十分です。むしろ、技術を社会にとって有益な方向へ再誘導する必要があるのです。仮にMetaをFacebook、Instagram、WhatsAppに分割したとしても、市場競争の増加やAI発展が少数企業に支配される回避にはつながりません。AI分野において、AI技術が操作や監視、その他の悪意ある目的に使われる可能性を懸念しているのであれば、独占禁止だけでは解決策になりません。独占禁止は、より広範な規制アジェンダと結びつけてこそ意味を持ちます。
技術と人間：過ちを繰り返さないために
Q5：あなたは常に「機械の有用性」（machine usefulness）――つまり「機械を人間により役立つようにすること」――を強調しています。どのようにすればこの目標を達成できるでしょうか？これを達成できなかった場合、どのような結果が生じるでしょうか？
アセモグル：
これは前述のCEOへの助言と関係しています。私たちが望むのは、人間の能力を拡張できる機械です。AIの場合、それを達成する大きな可能性があります。AIは情報技術なので、人間の意思決定者に有用で状況に応じた即時の情報を提供できるAIツールをどう設計するかを考えるべきです。AIツールを使って人間をより優れた問題解決者にし、より複雑なタスクを実行できるようにすべきです。これはクリエイティブワーカー、学者、ジャーナリストだけでなく、ブルーカラー労働者、電気技師、配管工、医療従事者、その他のすべての職業に当てはまります。より良い情報へのアクセスは、より賢明な意思決定と高度なタスクの実行を促進する。これが「機械の有用性」の意味です。
Q6：あなたは労働者の雇用に対して公正な課税処遇を行うべきだと提唱しています。設備やソフトウェアに対して人間の労働者と同じように課税する、あるいは雇用を奨励し自動化を抑制する税制改革を行うことは、実際に実行可能な解決策でしょうか？
アセモグル：
はい、私とサイモン・ジョンソンは『Power and Progress』の中で、より公平な税制が解決策の一部になると提唱しています。米国では、企業が労働者を雇う際に直面する限界税率は30％以上ですが、コンピュータ機器やその他の機械を使って同じタスクを実行する場合は5％未満です。これは自動化に対して過剰なインセンティブを提供しており、雇用や研修、人的資本への投資を妨げています。資本と労働の限界税率を同一レベルに統一することは、合理的な政策アイデアです。
Q7：あなたは、雇用を奨励し自動化を抑制する税制改革を提唱しています。このような改革は、企業による自動化技術の適用や投資にどのような影響を与えるでしょうか？
アセモグル：
ここでは慎重になる必要があります。投資を打撃してはなりません。特に多くの国が急速な成長を必要としており、再生可能エネルギー、医療技術分野などに新たな投資が必要だからです。しかし、技術が正しい方向に発展するように促すことができれば、それは企業にとっても利益になります。したがって私の提案は、自動化に対する過剰なインセンティブを排除し、それがビジネス投資全体を抑制しない形で実現されることを願っているのです。
Q8：ソーシャルプラットフォームの急速な発展は、情報のバブル化や誤情報の拡散など、いくつかの負の影響をもたらしました。AIのさらなる発展において、同じ過ちを繰り返さないためにはどうすればよいでしょうか？
アセモグル：
過ちを繰り返さないためには、以下の3つの原則が役立ちます。（1）私が主張するように、「機械の有用性」を優先すること。（2）人々を操作しようとするのではなく、労働者や市民に力を与えること。（3）テック企業に責任を持たせるより良い規制枠組みを導入すること。
技術と業界：デジタル広告税が業界をより競争的にする
Q9：技術者ジャレン・ラニエルは、インターネットユーザーのデータ所有権の問題を強調しています。政策面で、個人データの所有権と管理はどのようにより適切に保護されるべきだとお考えですか？
アセモグル：
これは重要な方向性だと思います。まず、今後ますます高品質なデータが必要になりますが、その生産には高品質データを作成する人々に報酬を与えることが最良の方法です。データ市場はこれを実現できます。第二に、現在データはテック企業によって略奪されており、これは不公平でもあり効率的でもありません。
しかし肝心なのは、データ市場は果物市場のようには機能しないということです。私のデータは通常、あなたのデータと非常に代替可能であるため、テック企業が個人と交渉してデータを購入しようとすれば、「ベター・レース（最低水準への競争）」が生じ、行政コストも非常に高くなります。そのため、うまく機能するデータ市場には、何らかの形の集団的データ所有権が必要です。データ組合、データ業界協会、あるいはその他の集団組織の形で実現されるべきです。
Q10：アルゴリズム駆動型の誤情報を通じた利益獲得を制限するために、デジタル広告税を導入することについてどうお考えですか？このような税制政策は、デジタル広告業界や情報伝播にどのような影響を与えるでしょうか？
アセモグル：
私はデジタル広告税を支持します。なぜなら、デジタル広告に基づくビジネスモデルは極めて操作的であり、感情的怒りの喚起、デジタル中毒、極端な嫉妬、情報の閉鎖空間（フィルターバブル）といった戦略と相まって機能しているからです。また、個人データを利用したビジネスモデルとも相乗効果を生み、精神的健康問題、社会の二極化、民主的市民の減少などの負の結果を招きます。
さらに悪いことに、私が提唱するようにAIの発展方向を再設計するためには、新たなビジネスモデルや新プラットフォームを導入する必要があります。しかし、現在のデジタル広告ベースのビジネスモデルは、それを不可能にしています。ユーザーからの有料契約で新しいソーシャルプラットフォームを立ち上げることはできません。ウィキペディアのような成功を再現することもできません。なぜなら、無料サービスを提供し大量の顧客基盤を持つ企業と競合することになるからです。したがって、私はデジタル広告税を、テクノロジー業界をより競争的にする手段と見なしています。ユーザーのデータを取得し、デジタル広告で利益を得るという「低次元の手段」が抑制されれば、新たなビジネスモデルや多様な製品が登場するようになります。
Q11：未来の技術発展がもたらす可能性のあるポジティブな変化について、いくつか教えていただけますか？また、そうした変化を準備し推進するために、私たちはどうすべきでしょうか？
アセモグル：
もしAIを正しく利用すれば、あらゆる業界の労働者の職業スキルを高めることができ、科学的発見のプロセスを改善することも可能です。また、AIを民主的 manner に使用する方法もあると考えています。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@thepapercn
