デジタル政策フォーラム

ネットワークと自己修正メカニズム

　生成AIの急速な普及によってネットワークの有り様が大きく変わろうとしている。歴史学者のユヴァル・ノア・ハラリ氏が近著「NEXUS情報の人間史」で指摘しているように、これまでネットワークは「通信網」として人と人を繋いできた。技術が進化して伝送速度の高速化や伝送容量の大規模化がどれだけ実現しても、繋がっている主体はあくまで人だった。

　ところが、人と人のコミュニケーションがSNS経由となり、かつ膨大な数のAIもネットワークに参加し、人間を介することなくAIとAIが直接ネットワーク経由でコミュニケーションをとる場面も今後増えていく。SNSやAIが依存しているのはアルゴリズムだ。つまり、人とアルゴリズム（SNSやAI）の塊がネットワーク化され、人による意思決定にアルゴリズムが大きく影響を与えるようになる。

　SNSが採用しているアルゴリズムは参加者の注目（アテンション）を集める記事がより目立つように流通し、SNSの投稿記事がアテンションを集める（記事の閲覧数が多い）ことで投稿者に報酬が付与される仕組みとなっている。そして、こうした仕組みであるが故にアテンションを取りやすい偽誤情報の流通が増え、また、偽誤情報は正しい情報に比べて数倍の速度で拡散するという人間の弱い面が状況をさらに悪化させる。

　一般に、民主的な世界において人は議論すれば考えが変わったり、妥協や新たな気づきによって、より多くの人々が合意できる中間解（コンセンサス）が生まれる。これをハラリ氏は「自己修正メカニズム」と呼ぶ。これは民主主義の基本原則だ。しかし、ボットのアルゴリズムは人々の議論の過程でも変更されることはない。つまり、ボット比率の高いネットワークでは自己修正メカニズムが働かない。このため民主的な議論が有効に機能せず、議論が収斂しないばかりか議論における立場の違い（対立）が先鋭化するといった事態を招く可能性がある。この状況では民主主義が機能しなくなることが懸念される。

　新聞やテレビといったメディアは、取材や裏付け補強を通じて情報の健全性を維持するための一種の社会的フィルターとして機能し、上記の左図にあるように、１（メディア）は不特定多数のN（人々）に対して信頼性のある情報を提供してきた。

　しかしweb2.0の世界になって誰もが情報発信をすることができるN:Nの双方向のネットワークが主流となり、アテンションを獲得できるのであれば「合理的でない意見」であっても広く発信・共有される。アルゴリズムの比重が高まり、アルゴリズム同士が直接ネットワークで繋がることになれば、偽誤情報が「オールタナティブファクト」や「陰謀論」として無秩序に拡散する。そして、同様の情報しか消費しようとしないフィルターバブルやネットワークにおけるバンドワゴン効果（大勢が支持している情報が、“大勢が支持している”という事実を基に更なる支持を集める傾向）も加わって偽誤情報が幾何級数的に拡散する。こうしたアルゴリズムを担っているプラットフォーマーの数が限定的で競争抑制的（寡占）であることも状況を悪化させる大きな要因となっている。

　このように、アルゴリズムの比率が高いネットワーク（アルゴリズム化されたネットワーク）は偽誤情報やネガティブな情報を生み出し、人々の間で共有させやすい構造を有している。

アルゴリズムによる国家統制

　インターネットが社会インフラとなって一国の世論動向を左右しうる力を持つに至り、国の中にはアルゴリズムを徹底的に利用することで一国の動向を制御しようとする動きも顕在化してきている。換言すれば、「アルゴリズムによる国家統制」が試みられており、実際に効果を上げている。その具体例を挙げてみよう。

　まず、国によるサイバー主権(国家によるサイバー空間の統制)の強化。国の方針や国が認める思想信条に適合しないアルゴリズムを利用することを禁止することで、国の意向に沿ったコンテンツモデレーションしか認めない状況を作り出す。中国はその代表例であり、例えば2023年6月に施行された「生成人工知能サービス管理のための規則」では、社会主義の中核的価値観を遵守し、国家権力の転覆の煽動、社会主義システムの転覆、国家の安全と利益を危険にさらす（中略）など、法律や行政規則で禁止されているコンテンツの作成を禁止している。

　このサイバー主権とも関連するが、ネットワークのアルゴリズム化は認知戦をより効果的なものとする。攻撃対象となる相手国のアルゴリズム化されたネットワークを利用し、偽誤情報の活用などによるアルゴリズムの改変、自国の主帳をビルトインしたボットの配備やロジックボム（一定の条件下で破壊活動等を行うマルウェアの一種）の流布などを通じて相手国の世論を操作したり政治の不安定化を招く。

　こうした状況に対してアルゴリズムのチューニング（調整）が行われず人々がフィルターバブルの中に閉じこもっている限り、上記の自己修正プログラムが機能せず、民主主義の機能が失われていくことになる。

アルゴリズム化するネットワークとデジタルガバナンス

　このようにアルゴリズム化したネットワークが広く普及する状況において、我々はデジタル技術をどのように統治すべきか。アルゴリズム化するネットワークはデジタルガバナンスの問題に直結している。具体的には、以下の３点に集約される。

　第一に、グローバルなデジタルガバナンスの確保策についての議論が求められる。デジタル空間における国家のあり方はどのような国体を選択するかという国家主権（デジタル主権）の問題となる。

　中国などは国家統制により情報を中央（政府）に集中することで効果的な国家運営を実現するサイバー主権を確立しようとしている。これに対し、日米欧の旧西側諸国はあくまで自由主義を旗印として国家によるサイバー空間への介入は最小限にとどめる（安全保障関連の問題を除く）という姿勢を堅持している。

　今後さらにデジタル技術が社会システムに実装される中、中国やロシアのサイバー主権（国家覇権主義）と旧西側諸国の自由主義との対立が激化し、「デジタル冷戦」ともいうべき状況が続く可能性が大きい。そうした中、第二次世界対戦集結からこれまで約80年続いてきた国連という国際調整メカニズムのあり方についても見直しが必要になる可能性が高い。国際的なデジタルガバナンスのあり方が問われる時代が到来している。

　第二に、国内のデジタルガバナンスも新たな視点の導入が必要となる。アルゴリズムを利用した他国からの干渉、民間プラットフォーマーの提供するアルゴリズムの問題（コンテンツモデレーションのあり方）などを排除することは経済安全保障という文脈でデジタル主権を守るためにも必要だろう。

　これまで表現の自由との兼ね合いでコンテンツ規制は最小限にとどめられてきたが、アルゴリズム化されたネットワークの時代において、引き続き従来と同じソフトロー的なアプローチでよいだろうか。一定の規制を導入するハードロー的なアプローチが必要となる場面もありうると考えられる一方、安全保障というキーワードを安易に拡大解釈することで表現の自由や報道の自由が損なわれることのないよう、今後とも広範囲なステークホルダーによる議論が必要だろう。

　第三に、アルゴリズム化するネットワークによって自己修正プログラムが機能せず、結果として民主主義が確立されなくなる可能性がある一方、デジタル技術を最大限活用することで直接民主主義に近い民意を反映した政治体制に向かう可能性がある。こうしたデジタル民主主義のあり方についても真剣に議論していくことが必要だろう。

（参考文献）
ユヴァル・ノア・ハラリ著「NEXUS情報の人間史（下）AI革命」（2025年3月、河出書房新社）