AIが裏で操る情報社会｜見たいものしか届かない世界の危険性

今、私たちが日々目にしているインターネット上のコンテンツの多くが、実は「ボット」によって自動的に作成されていることをご存じでしょうか。ボットとは、簡易なプログラムやスクリプトを用いて、コメントの投稿や情報収集などの作業を自動で行うコンピュータープログラムのことです。特に近年では、もともと人と人がつながる場であったはずのソーシャルメディア上にこうしたボットが大量に入り込み、その比重が急速に増しています。TikTok、X（旧Twitter）、InstagramといったSNSには、虚偽の情報やボットによる自動投稿、過剰な広告があふれ、私たちの情報環境を大きく揺るがしています。

ボットに操られる人間の感情と社会

2017年から2021年頃にかけて、「インターネットはすでにボットに支配されているのではないか」という懸念が社会に広がりました。この説によれば、現在ネット上に存在するコンテンツの多くは、ボットやAIによって生成された「偽物」であるというのです。SNS上の自動化されたボットアカウントは、ユーザーのネガティブな感情を意図的に強く刺激し、コメントやシェア、フォローといった反応を誘発するよう設計されています。人々がそれに反応することで投稿は拡散され、さらに多くの人の目に触れます。それがまた新たな反応を生むというサイクルが成立し、フィードバックループが生まれるのです。この循環は、人間とボットの相互作用を通じてアルゴリズムに影響を与え、ネット空間全体の情報の流れを変えてしまうほどの影響力を持ちます。

その結果、私たちが日々触れているオンライン空間は、もはや人間ではなくボットによって形成されつつあります。自分と同様の意見を持つ人々の投稿ばかりが何度も繰り返し表示され、それを読むうちに知らず知らずのうちに考えが偏っていき、より強化されていく。そのような構造が、現実社会にも深刻な影響を及ぼします。選挙期間中には、このような現象が顕著に見られます。政治的立場や政党間の対立が過剰に強調され、人々の意見や投票行動がボットを操る者の思惑どおりに誘導されてしまうのです。実際、こうしたボットの介入は近年のアメリカ大統領選挙や、2023年に行われたナイジェリアの総選挙など、世界各地で確認されています。

ボットと人間のウェブトラフィック比較
Credit: Imperva via Statista

コンテンツ制作者もファクトチェックを怠る現状

なかでも、意図的に仕組まれたフェイクニュースや、事実誤認によって生まれる誤情報の拡散は、現代のグローバル社会において極めて深刻な問題です。インターネットの情報を鵜吞みにせず、事実関係を確認することが大切だと分かっていても、それを実行している人は多くありません。実際、デジタルコンテンツ制作者の約7割が、ファクトチェックを行わずに記事や投稿を作成しているというデータもあります。こうした表面的で安易な情報に基づく発信は、誤情報を拡散するリスクを高めるだけでなく、信頼できる情報源との接点を私たちから遠ざけてしまう可能性もあります。その結果、社会は情報操作に対してより脆弱な状態に陥り、負の循環が生まれてしまうのです。

氾濫するボットに人間はどう立ち向かえるのか

ボットの影響力が高まりアクセス数も急増する中、ウェブサイトの運営側はその動きを制御する必要に迫られています。たとえば、人間とボットを見分けるために CAPTCHA（キャプチャ）と呼ばれる認証機能を導入し、ボットからの不正アクセスのブロックや、AI学習に無許可で利用されることを防ぐ対策を行っています。また、ボットが短時間に何度もアクセスを繰り返すことでサーバーに過剰な負荷をかけないよう、アクセス回数に制限を設ける方法も一般的です。さらに、「ハニーポット」と呼ばれる仕組みを利用して、大量の無意味なデータを意図的にボットに与え、収集されるデータの質を下げる工夫も行われています。

一方で、専門のファクトチェッカーなど、人間の関与も欠かせません。たとえば、Xに導入されている「コミュニティノート」は、誤解を招くおそれのある投稿に対し、ユーザーが匿名で補足情報を追加することができます。これにより、情報の正確性を補い、誤情報の拡散を防ぐことが期待できます。また、ソーシャルメディアプラットフォームでは、「コンテンツモデレーター」と呼ばれる担当者が、投稿された文章や画像、動画などを常に監視しながら審査を行い、ルール違反の投稿や誤情報、攻撃的な表現などをチェックしています。ただし、こうした対策にも限界があり、ボットによる膨大な情報の氾濫を完全に食い止めるには至っていません。

現代のようなデジタル社会において、私たちに求められているのは、事実とフェイクの見極めです。様々な情報が入り乱れる中で「何が本当で、何が嘘か」、そしてその発信者がボットか人間かどうかを、しっかり見分けることが重要です。日々目にするニュースやフォロー中の人物、自分が興味を持つコンテンツに対しても、私たちはこれまで以上に慎重にならなくてはいけません。そして、自分が発信側になる際には、その情報が誰にどのような影響を与えるのかを常に意識し、投稿ボタンを押す前に一度立ち止まって考える習慣を持つことが大切です。また時には、インターネットから離れ、外の空気を吸い、自然と触れ合うこと。そうした人間らしい行動が、客観的な感覚に自分自身をリセットし、何が本物の情報なのかを見極められる、もっとも確かな方法なのかもしれません。