Soraが「神」に封印されても、加速的に進化するAIは「守護神」になるのか、「悪魔」になるのか？
TechFlow厳選深潮セレクト
Soraが「神」に封印されても、加速的に進化するAIは「守護神」になるのか、「悪魔」になるのか？
Web3は暗黒の森であり、AIはむしろパンドラの箱に似ている。その未来を冷静かつ包括的に学び、理解する必要がある。
Web3業界の深掘り報道に専念し潮流を洞察執筆：博文、白露会客厅
Soraの爆発的人気は、すでに中国中央テレビ（CCTV）でも取り上げられている。
人間から動物へ、陸地から海底へ、壮大な自然景観からにぎわう街中まで、高度にリアルな車の走行シーンから想像力あふれるサイバーパンクの世界まで。Soraがこの勢いを維持すれば、「誰もが映画制作者になれる時代」はそう遠くないだろう。
かつてChatGPTが記者、翻訳者、プログラマーといった職業に一石を投じたように、今度はSoraが撮影、編集、特殊効果、さらには俳優の仕事にも強烈な一撃を与えた。AIは数年以内に、何百万人、何千万人の労働者を失業させるのか？筆者自身もそのたびに、身震いしてしまう。
実際、AIに関する情報を丁寧に収集してみると、AIの影響は「ホワイトカラー」の雇用機会に留まるものではない。医療・バイオ、自動運転、気象予測、さらには軍事作戦に至るまで、AIはすでに人類の生活のあらゆる側面に関与しているのだ。
多様化するAIの応用シナリオ
生成AIの中でも最も有名なのはもちろんSoraだが、「バード」やDALL-E、Runwayなども無視できない存在だ。
今年2月、グーグルはAIモデル「バード」を「ジェミナイ（Gemini）」に名称変更すると発表した。これはテキスト、コード、音声、画像、動画など異なる形式の情報を理解・統合できるマルチモーダル大規模モデルである。現在の「バード」は、ユーザーが入力した複数のキーワードに基づいて、短編小説や詩を即座に生成することができる。
驚くべきことに、「バード」は数ヶ月でインターネット上のほぼすべてのコンテンツを読み込んだ。その言語モデルを活用することで、多くの一般人よりもはるかに高い水準の詩を作成できる。
DALL-Eは芸術作品の生成に特化している。6億枚以上の画像データを学習した結果、DALL-Eは個々の物体だけでなく、複数の物体間の関係性も理解でき、わずかなテキスト入力から対応する芸術作品を連想して描き出すことができる。一方、Runwayはビジュアルエフェクトに強みを持つ。AIの支援により、映画制作における「高額なポストプロダクション」のハードルは大きく下がるだろう。
生成コンテンツは氷山の一角にすぎず、それ以外の分野でのAI応用はさらに想像力を掻き立てる。1月29日、イーロン・マスク氏は、彼が率いる脳神経インターフェース企業「Neuralink（ニューラリンク）」が初の脳内デバイス人体移植手術を完了し、被験者の状態は良好であり、AIと人間の脳が同期に成功したと発表した。
1月30日、清華大学の公式サイトは、同大学医学部の脳機械インターフェース研究チームと首都医科大学宣武病院が2023年10月、世界初の無線・ミニマム侵襲型脳機械インターフェースの臨床試験に成功したと発表した。AIの支援により、14年間麻痺状態だった患者が3か月の訓練を経て、自ら手を握ったり、水を飲んだりする機能を回復した。
米国FDAもすでに約420種類のAI画像診断アルゴリズムを承認しており、がん治療に使用されている。これらのアルゴリズムの正確性は既に80％から90％に達している。
インドでは「ドライビングコンパニオン」ロボットの実験が進んでおり、欧州中期予報センター（ECMWF）のウェブサイトには、ファーウェイクラウドの気象大規模モデル「Pangu Weather」が導入された。この発展スピードを考えれば、近い将来、もはや「AIについて議論する必要がなくなる」かもしれない。なぜなら、AIはもはやどこにでもあり、ごく当たり前の存在になるからだ。
技術とともに進む、議論と課題
技術の発展は常に両刃の剣である。AIの場合、生成コンテンツによる著作権の問題や詐欺行為はもはや珍しくない。AIが作った作品に著作権はあるのか？ 問題が起きた場合、誰が責任を負うのか？ どう解決すべきなのか？これらはすでに激しい規制論争へと発展している。
2018年、コンピュータ科学者スティーブン・テイラー氏は「DABUS」というAIシステムを開発し、『Heaven's Gate（天国の新しい入り口）』という芸術作品を創作した。注目を集めた後、テイラー氏はアメリカ、イギリス、南アフリカ、オーストラリア、サウジアラビアなどで積極的に特許出願を行った。
しかし、米国著作権局はこれに興味を示さず、「著作権法は人間による創造物のみを保護対象とする」と主張。AI生成物にどれだけ人間の貢献があるかは計り難いとしている。裁判所も同様に、「何世紀にもわたる確立された認識に基づけば、著作権には人間による創作者資格が不可欠である」と判断した。
しかし、テイラー氏は納得していない。「法律は作品の創作者が人間であることを明示していない。米国憲法が著作権を推奨するのは、科学および実用美術の進歩を促すためであり、AIの著作権概念はまさにこの目的に合致している」と主張する。
似たような問題に明確な答えがあるわけではない。中国で実際に起きた事件を例に挙げよう。2023年2月、主人公の李昀锴氏は、黄昏時の光の中で写真のようなスタイルの美女のクローズアップ画像を生成したいと考え、Stable Diffusionモデルに次のようなプロンプトを入力した：芸術形式は「超現実写真」「カラー写真」、主題は「日本のアイドル」、肌の質感、目の色、髪の色などの詳細、環境は「屋外」「ゴールデンアワー」「ダイナミックライティング」、人物の姿勢は「かっこいいポーズ」「カメラを見つめる」、スタイルは「フィルムテクスチャ」「フィルムシミュレーション」など。また、初期生成画像をもとに追加のプロンプトを加え、パラメータを調整し、最終的に満足のいく女性の上半身写真を選んだ。その後、李氏はこの画像を小紅書（シャオホンシュウ）に投稿した。
2023年3月、被告の劉某は「三月の恋、桃花の中に」というタイトルの文章を投稿する際に、李氏が生成した画像を使用した。記事末尾には「詩文はオリジナル、素材はネットより引用、削除希望の方はお申し出ください」と記載されていた。その後、李氏は北京インターネット法院に提訴し、被告に対しアカウントでの謝罪声明掲載と5000元の損害賠償を求めた。
2023年11月27日、中国初の「AIテキスト-to-画像」著作権侵害事件の第一審判決が下された。裁判所は、AIペインティングモデルが生成した当該画像が著作権法上の美術作品に該当すると認め、原告がその著作権を有すると判断した。ただし、裁判所は著作権主体の認定において「人間中心主義」を堅持し、「生成AIモデルは自由意志を持たず、法的主体ではない。そのため、AIモデルを使って画像を生成する際に、どちらが創作者かという二主体間の問題は生じない。」と明言した。つまり本質的には、人がツールを使って創作しているのであり、知的活動の主体は人間であってAIモデルではない、という判断だ。
しかし、この判決が本当に法に則っているかどうかは疑問の余地がある。中国の『著作権法』は明確に、「作品を創作した自然人が著作者である」と規定している。これを厳密に適用すれば、AIが生成したコンテンツはそもそも「作品」ではなく、著作権も認められるべきではない。
AIは「神」になるのか、「悪魔」になるのか？
著作権の問題は、比較的解決しやすい部分に過ぎない。より明確な法整備である程度の対策が可能だ。しかし、より難しいのはそれ以外の複雑な問題だ。例えば詐欺、AIの誤解釈によるミス、そして私たちが最も恐れていること――AIが意識を持つようになったらどうするのか？
2024年2月、香港メディアによると、香港でAI「Deepfake（ディープフェイク）」技術を使った大規模な詐欺事件が発生した。被害額は2億香港ドルにのぼり、香港史上最大の「顔合成」詐欺事件であるだけでなく、初めてAIによる「複数人物の顔合成」が使われたケースでもある。
通報者はある多国籍企業の香港支店の社員で、1月中旬に本社の最高財務責任者（CFO）から機密取引を行うとの連絡を受け、数名の財務担当者を招いて複数人参加のビデオ会議が開催された。相手側の人物たちの容貌が現実と一致していたため、社員は疑わず、前後15回にわたり合計2億香港ドルを5つの地元銀行口座に送金した。その後、本社に確認したところ、すべて詐欺であったことが判明した。
現在分かっている情報によれば、詐欺師は企業のYouTube動画や他の公開メディア資料から、英国本社の幹部の外見と声を模倣し、Deepfake技術を使って偽の動画を作成。複数人が参加しているかのように見せかけたが、実際には会議に参加していた社員だけが「本物」だった。
事前に作成された動画であったため、会議中は上司から部下への指示が一方的に伝えられ、社員が他の出席者とやり取りする機会はなかった。ビデオ会議は社員の簡単な自己紹介後すぐに終了し、以降の指示は即時メッセージアプリを通じて送られた。
AI詐欺は選挙にも影響を与えている。1月23日、2024年米国大統領選の共和党予備選がニューハンプシャー州で行われたが、多くの有権者が「ジョー・バイデン大統領からの電話」を受けたと報告した。バイデン氏の口癖で始まり、「トランプに投票しないでくれ。代わりに11月の大統領選で民主党に票を入れてほしい」と呼びかける内容だった。
もっと恐ろしいのは、こうした技術の乱用が軍事問題にまで及んでいることだ。2023年11月、イスラエル国防軍は声明を出し、ガザ地区での軍事作戦においてAIシステムを活用して「標的を迅速に生成」していると明らかにした。攻撃目標の特定は、従来の年間50件から、現在は毎日100件に増加。AIの導入により、イスラエル軍の標的発見効率は数百倍に跳ね上がった。しかし、それに伴ってガザ地区の死傷者数も急増している。皮肉なことに、このAIシステムの名前は「ゴスペル（福音）」と呼ばれている。
しかし、ニュースメディア『+972 Magazine』の調査によれば、イスラエルは「ゴスペル」システムを使って攻撃目標を選定しており、数量重視で、軍事目標の定義が非常に緩く、民間施設内の人物も攻撃対象となっている。あるハマス戦闘員一人を殺害するために、AIが選定した標的は一棟の住宅全体の爆撃だった、という報道もある。
さらに懸念されるのは、AIが戦場でどのように使われるかの性質が不明確なため、こうした行動に対する介入や制止が極めて困難になる点だ。もしAIが現代兵器と完全に融合し、標的の誤認によって大規模な悲劇が起こったら、その結果は想像を絶するだろう。
結びに
Soraは人々に衝撃と熱狂をもたらした。しかし筆者の視点からすれば、AIという「産業革命」レベルの生産性変革こそ、冷静に向き合うべき時なのだ。AI産業には確かに大きな機会が潜んでいるが、その技術革新の裏には、応用が現実に落とし込めるか、制御可能か、どのような規制が加わるか、重大な欠陥はないか、といった一連の問題が隠されている。Web3は暗黒の森のようなものだが、AIはそれ以上に「パンドラの箱」に似ている。より冷静に、より包括的かつ継続的に学び続けることで、初めてAI産業の未来の姿が見えてくるだろう。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
