【速報】中国世論操作文書流出
2024.09.24
【速報】「調査報道・新世紀 File6 中国・流出文書を追う」
中国世論操作文書流出 世論操作ツール 2024年2月、中国のサイバーセキュリティー企業の“内部文書”がネット上に流出した。
詳しい実態が分かっていない中国のサイバー空間での「暗躍」を明らかにできるのではないか。世界7つの国と地域の専門家と文書を徹底分析した。
文書に含まれていたのは、SNSで世論をコントロールするシステム。調べると中国による「世論操作」の一端が見えてきた。
■謎の流出「i-SOON文書」
それはことし2月のことだった。台湾のセキュリティー会社「TEAM T5」＝T5。
リサーチャーのひとりが、旧ツイッター、Xに不思議な投稿を見つけた。投稿にはURL。その先に飛ぶと、ある文書がダウンロードできるようになっていた。
TEAM T5 張哲誠さん
「何者かが、情報漏えいのために作成したようです」
中国の企業から流出したとみられることは、すぐにわかった。
上海に本社を置くサイバーセキュリティー企業「i-SOON」だった。中国当局と連携して世界でサイバー攻撃を展開しているのではないかと、T5がかねてからマークしていた企業のひとつだった。
膨大な“内部資料”
“i-SOON文書
文書は大量にあり、その内容は驚くべきものだった。
ハッキングなどのサイバー攻撃に使えるセキュリティー製品の技術書や取引先とみられる一覧表。海外の組織などから盗み取ったと見られるデータのリスト。そして、3年に及ぶ社内チャットの記録など、合わせて577点に上った。
■TEAM T5 張哲誠さん
「中国のサイバーセキュリティー企業からこれほど多くの内部資料が流出したのは初めてです。中国政府と民間企業の関係を理解する上で、近年で最も重要な文書です」
この文書を詳しく調べれば、中国のサイバー空間での活動が明らかにできるのではないか。
私たちは、7つの国と地域の専門機関と連携し「i-SOON文書」を徹底的に分析することにした。
“世論操作システム”
T5と私たちが、最も注目したのが、あるシステムの説明書だ。
■「Twitter世論コントロールシステム」という名称だった。
説明を読み込んでいくと、このシステムには、主に2つの機能が備わっていることがわかった。
ひとつは、SNSのアカウントの乗っ取りだ。
このシステムを使って偽のリンクを生成。メールで送るなどして、クリックさせれば、たちまち、アカウントを乗っ取ることができる、としていた。
もう一つは、複数のアカウントを一元的に管理・操作できるというもの。
大量のアカウントを一度に操作し、特定の情報を拡散させることができる仕様になっていた。
SNS上で、標的となるアカウントを黙らせたり、自分たちに有利な言説を広めたりすることができる、その名の通り「世論操作ツール」といえそうだ。
i-SOON文書のチャット記録には、これとは別に、Facebook向けのシステムの開発をうかがわせる内容もあった。T5は、これまでにも過去に中国のハッカーが使用していたとみられるSNSの攻撃ツールを発見したことがあるという。
■TEAM T5 張哲誠さん
「以前、私たちが遭遇したいくつかの類似のケースでは、攻撃者が悪意のあるプログラムを使用して、特定のソーシャルプラットフォームのサービスアカウントとパスワードを盗むことができました。Gmailやフェイスブック、それにアウトルックなどでした。日々、運営されているSNSが、ハッカーの道具に変わってしまう可能性があるのです」
説明書から「アカウント」特定
このシステムで行われる「世論操作」とは、一体どんなものなのか。
21ページに及ぶ説明書に掲載されているシステムの機能を紹介する図などをひとつひとつ確かめていった。
すると、システムのデモンストレーション画面のスクリーンショットに、いくつかのSNSアカウントが小さく映り込んでいることに気づいた。
システムでコントロールされているアカウントと見られる。
ーこのアカウントを特定できないかー。
IDやアイコンの一部に、モザイクがかけられており、難航したが、AIを使った光学文字認識の技術を使いながら、少しずつ画像を明らかにしていった。
その結果、ひとつのアカウントを、判別することができた。日本のアニメキャラクターをアイコンにした、あるアカウントだ。
X上で検索すると、特徴が一致するアカウントが見つかった。
背景のデザイン、プロフィールの文章、そしてIDの数字が同じだった。
アカウントは、生きていた。過去の投稿を確認してみた。
中国国営メディアなどの記事に対して、拡散＝リポストしたり、「非常に素晴らしい」と返信をしたりしていた。
■“人間ではなかった”
このアカウントの持ち主は何者なのか？
東京の調査会社「ジャパン・ネクサス・インテリジェンス」＝JNIに協力を仰いだ。
この会社は日本政府などの依頼を受け、偽情報の拡散など、SNSの監視・分析を行っている。
■JNI 高森雅和さん
「他のアカウントとの関係や発しているメッセージをひもづけながら見ていくのが最初の手がかりかなと」
JNIはパートナー企業であるイスラエルのセキュリティー企業とともに、アカウントの分析を進めた。
依頼から2週間後。
このアカウントは「人間」ではない可能性が判明した。
JNI 石井大智さん
「ボットのような動きをしていることが分かりました」
ボットとは、実在する人間が投稿しているようにみせながら、背後でプログラムによって機械的に操作されているアカウントを意味する。
さらに、アカウントは、ある特定の時期に集中して投稿を繰り返すという不自然な動きもしていたことがわかった。
その時期とは、2019年。香港で、政府への抗議デモ活動が活発化していたころだ。いずれもデモに対して批判的で、中国政府当局の主張に賛同する投稿を繰り返していた。
■拡散は日本の話題まで…
さらに、同様の投稿をしていた他のアカウントを調査すると、ボットのような動きを見せるグループが浮かびあがってきた。
少なくとも50ほどのアカウントからなる、このグループは、一様に、中国国営メディアなど、中国政府の主張に沿った内容を多く広めていたという。
そして、このボットグループが拡散していたアカウントに、あるひとりのインフルエンサーがいた。
中国国外に住んでいるという、この人物は、16万人以上のフォロワーを抱えていた。
投稿の中には、去年、東京電力福島第一原子力発電所から放出された処理水について、誤解を与える情報もあった。
放出された汚染物質が海に拡散していくような印象を与える動画だったが、処理水とは無関係のシミュレーションのものだった。
この投稿には、2000件を超えるリポストが行われていた。
検証した結果、このリポストは54％、半数以上がボットによるものの可能性が高いことがわかった。
つまり「人為的につくられた」拡散だった。
JNI 高森雅和さん
■システムを買ったのは…
中国のセキュリティー会社が開発したとされるツールが、ボットを生み出し、こうしたグループが、特定の情報の拡散に加担していくというメカニズムがみえてきた。
i-SOON文書には、このツールを購入したとする組織も書かれていた。
取引先とみられるリストだ。
確認していくと、こうしたシステムを購入した組織の中には、中国の警察組織にあたる「公安」当局も記されていた。
リストによれば、たとえば、チベット自治区のラサの公安局は、ほかの製品とともに、あわせて、6000万円あまりで購入していたとしている。
このリストが正しければ、i-SOONの世論操作ツールは中国当局に使われていた可能性がある。
■世界に広がる「世論操作」
私たちが追跡した、「Twitter世論コントロールシステム」にあったアカウントは先に述べたように、2019年の香港のデモについての記事を繰り返し拡散していた。
中国の情報工作について、長年、調査を行っているアメリカのセキュリティー会社「マンディアント」のジョン・ハルクイスト氏は、中国による「世論操作」は、このころに始まったと指摘する。
マンディアント ジョン・ハルクイストさん
「この活動は2019年に初めて発見されました。当初は中国語の活動に非常に集中しており、コンテンツの大部分は、香港に焦点を当てた活動でした。それが、世界規模のキャンペーンに発展したと考えられます」
香港の抗議活動を巡っては、当時のフェイスブック社とツイッター社が、多くの不正アカウントが中国政府による情報操作に使われていたと公表し、国家レベルの世論誘導が繰り広げられていた疑いが明らかになっている。
マンディアントによれば、中国はその後、工作の現場を世界に拡大していったという。
■マンディアント ジョン・ハルクイストさん
「香港での成功を感じて、さらに広げようと決めたのかもしれません。直後に、この活動が世界中の複数の言語で展開されているのを目にしました。彼らはおそらく十数か国語と数十のプラットフォームで活動していると思います。目的は、政府や社会の制度、そして社会そのものへの信頼を攻撃し、弱体化させることにあります」
■急速に発展するAI
さらに人工知能＝AIの技術が、「世論操作」をより巧妙化させている現状も見えてきた。
文書に掲載されていたi-SOON社の製品には、AI機能を搭載したものもあった。
それは公安組織向けとされた製品で、さまざまな「インテリジェンス」＝情報を収集できるプラットフォームだという。
台湾AIラボ 杜奕瑾さん
「（こうしたツールを使えば）AI時代には中国に反対する言論に大きな影響を与え、各国のオピニオンリーダーや政治リーダーを攻撃することもできるのです」
台湾でAIを使って偽情報の拡散の傾向を分析する調査団体「台湾AIラボ」。
ことし１月に投開票が行われた総統選挙の時期にネットに出回ったという動画を見せてくれた。
この動画は去年１２月に出回ったもので、女性が、当時の候補者で、いまの総統・頼清徳氏のスキャンダル情報を語っているものだが、フェイクだ。
よくみると、女性の口元は、ぼやけていて、違和感を覚える。ディープフェイクと呼ばれる技術で、AIも活用されているものとみられている。
■台湾AIラボ 杜奕瑾さん
「選挙期間中には頼清徳氏に関するディープフェイクビデオがありました。このビデオでは、美しい人物が宣伝に使われていることが特徴です。しかし、口がぼやけており、時々、動きが大きくなったり小さくなったりします」
この動画は、生身の人間の映像に比べるとアラが目立ち、偽だと気づくことができそうだ。
続いて、およそ１週間ほどたった後に、出回った別の動画もみせてくれた。顔の表情は自然で、違和感がないほどになっていた。
■台湾AIラボ 杜奕瑾さん
「AIの計算能力は急速に進化しており、3か月で1年分の進展があるとも言われています。これまでは“目に見えるものこそが信じるべきもの”とされてきましたが、今後は、その信頼性があいまいになっていく可能性があります。短い期間にディープフェイクの技術がめざましい進歩をとげているのです」
加速度的に進む技術革新を取り入れて、ひそかに行われる「世論操作」。i-SOON文書から見えてきたのは、私たちの気づかないところで情報がゆがめられているかもしれないという、新たな脅威だった。
中国世論操作文書流出 世論操作ツール 2024年2月、中国のサイバーセキュリティー企業の“内部文書”がネット上に流出した。
詳しい実態が分かっていない中国のサイバー空間での「暗躍」を明らかにできるのではないか。世界7つの国と地域の専門家と文書を徹底分析した。
文書に含まれていたのは、SNSで世論をコントロールするシステム。調べると中国による「世論操作」の一端が見えてきた。
■謎の流出「i-SOON文書」
それはことし2月のことだった。台湾のセキュリティー会社「TEAM T5」＝T5。
リサーチャーのひとりが、旧ツイッター、Xに不思議な投稿を見つけた。投稿にはURL。その先に飛ぶと、ある文書がダウンロードできるようになっていた。
TEAM T5 張哲誠さん
「何者かが、情報漏えいのために作成したようです」
中国の企業から流出したとみられることは、すぐにわかった。
上海に本社を置くサイバーセキュリティー企業「i-SOON」だった。中国当局と連携して世界でサイバー攻撃を展開しているのではないかと、T5がかねてからマークしていた企業のひとつだった。
膨大な“内部資料”
“i-SOON文書
文書は大量にあり、その内容は驚くべきものだった。
ハッキングなどのサイバー攻撃に使えるセキュリティー製品の技術書や取引先とみられる一覧表。海外の組織などから盗み取ったと見られるデータのリスト。そして、3年に及ぶ社内チャットの記録など、合わせて577点に上った。
■TEAM T5 張哲誠さん
「中国のサイバーセキュリティー企業からこれほど多くの内部資料が流出したのは初めてです。中国政府と民間企業の関係を理解する上で、近年で最も重要な文書です」
この文書を詳しく調べれば、中国のサイバー空間での活動が明らかにできるのではないか。
私たちは、7つの国と地域の専門機関と連携し「i-SOON文書」を徹底的に分析することにした。
“世論操作システム”
T5と私たちが、最も注目したのが、あるシステムの説明書だ。
■「Twitter世論コントロールシステム」という名称だった。
説明を読み込んでいくと、このシステムには、主に2つの機能が備わっていることがわかった。
ひとつは、SNSのアカウントの乗っ取りだ。
このシステムを使って偽のリンクを生成。メールで送るなどして、クリックさせれば、たちまち、アカウントを乗っ取ることができる、としていた。
もう一つは、複数のアカウントを一元的に管理・操作できるというもの。
大量のアカウントを一度に操作し、特定の情報を拡散させることができる仕様になっていた。
SNS上で、標的となるアカウントを黙らせたり、自分たちに有利な言説を広めたりすることができる、その名の通り「世論操作ツール」といえそうだ。
i-SOON文書のチャット記録には、これとは別に、Facebook向けのシステムの開発をうかがわせる内容もあった。T5は、これまでにも過去に中国のハッカーが使用していたとみられるSNSの攻撃ツールを発見したことがあるという。
■TEAM T5 張哲誠さん
「以前、私たちが遭遇したいくつかの類似のケースでは、攻撃者が悪意のあるプログラムを使用して、特定のソーシャルプラットフォームのサービスアカウントとパスワードを盗むことができました。Gmailやフェイスブック、それにアウトルックなどでした。日々、運営されているSNSが、ハッカーの道具に変わってしまう可能性があるのです」
説明書から「アカウント」特定
このシステムで行われる「世論操作」とは、一体どんなものなのか。
21ページに及ぶ説明書に掲載されているシステムの機能を紹介する図などをひとつひとつ確かめていった。
すると、システムのデモンストレーション画面のスクリーンショットに、いくつかのSNSアカウントが小さく映り込んでいることに気づいた。
システムでコントロールされているアカウントと見られる。
ーこのアカウントを特定できないかー。
IDやアイコンの一部に、モザイクがかけられており、難航したが、AIを使った光学文字認識の技術を使いながら、少しずつ画像を明らかにしていった。
その結果、ひとつのアカウントを、判別することができた。日本のアニメキャラクターをアイコンにした、あるアカウントだ。
X上で検索すると、特徴が一致するアカウントが見つかった。
背景のデザイン、プロフィールの文章、そしてIDの数字が同じだった。
アカウントは、生きていた。過去の投稿を確認してみた。
中国国営メディアなどの記事に対して、拡散＝リポストしたり、「非常に素晴らしい」と返信をしたりしていた。
■“人間ではなかった”
このアカウントの持ち主は何者なのか？
東京の調査会社「ジャパン・ネクサス・インテリジェンス」＝JNIに協力を仰いだ。
この会社は日本政府などの依頼を受け、偽情報の拡散など、SNSの監視・分析を行っている。
■JNI 高森雅和さん
「他のアカウントとの関係や発しているメッセージをひもづけながら見ていくのが最初の手がかりかなと」
JNIはパートナー企業であるイスラエルのセキュリティー企業とともに、アカウントの分析を進めた。
依頼から2週間後。
このアカウントは「人間」ではない可能性が判明した。
JNI 石井大智さん
「ボットのような動きをしていることが分かりました」
ボットとは、実在する人間が投稿しているようにみせながら、背後でプログラムによって機械的に操作されているアカウントを意味する。
さらに、アカウントは、ある特定の時期に集中して投稿を繰り返すという不自然な動きもしていたことがわかった。
その時期とは、2019年。香港で、政府への抗議デモ活動が活発化していたころだ。いずれもデモに対して批判的で、中国政府当局の主張に賛同する投稿を繰り返していた。
■拡散は日本の話題まで…
さらに、同様の投稿をしていた他のアカウントを調査すると、ボットのような動きを見せるグループが浮かびあがってきた。
少なくとも50ほどのアカウントからなる、このグループは、一様に、中国国営メディアなど、中国政府の主張に沿った内容を多く広めていたという。
そして、このボットグループが拡散していたアカウントに、あるひとりのインフルエンサーがいた。
中国国外に住んでいるという、この人物は、16万人以上のフォロワーを抱えていた。
投稿の中には、去年、東京電力福島第一原子力発電所から放出された処理水について、誤解を与える情報もあった。
放出された汚染物質が海に拡散していくような印象を与える動画だったが、処理水とは無関係のシミュレーションのものだった。
この投稿には、2000件を超えるリポストが行われていた。
検証した結果、このリポストは54％、半数以上がボットによるものの可能性が高いことがわかった。
つまり「人為的につくられた」拡散だった。
JNI 高森雅和さん
■システムを買ったのは…
中国のセキュリティー会社が開発したとされるツールが、ボットを生み出し、こうしたグループが、特定の情報の拡散に加担していくというメカニズムがみえてきた。
i-SOON文書には、このツールを購入したとする組織も書かれていた。
取引先とみられるリストだ。
確認していくと、こうしたシステムを購入した組織の中には、中国の警察組織にあたる「公安」当局も記されていた。
リストによれば、たとえば、チベット自治区のラサの公安局は、ほかの製品とともに、あわせて、6000万円あまりで購入していたとしている。
このリストが正しければ、i-SOONの世論操作ツールは中国当局に使われていた可能性がある。
■世界に広がる「世論操作」
私たちが追跡した、「Twitter世論コントロールシステム」にあったアカウントは先に述べたように、2019年の香港のデモについての記事を繰り返し拡散していた。
中国の情報工作について、長年、調査を行っているアメリカのセキュリティー会社「マンディアント」のジョン・ハルクイスト氏は、中国による「世論操作」は、このころに始まったと指摘する。
マンディアント ジョン・ハルクイストさん
「この活動は2019年に初めて発見されました。当初は中国語の活動に非常に集中しており、コンテンツの大部分は、香港に焦点を当てた活動でした。それが、世界規模のキャンペーンに発展したと考えられます」
香港の抗議活動を巡っては、当時のフェイスブック社とツイッター社が、多くの不正アカウントが中国政府による情報操作に使われていたと公表し、国家レベルの世論誘導が繰り広げられていた疑いが明らかになっている。
マンディアントによれば、中国はその後、工作の現場を世界に拡大していったという。
■マンディアント ジョン・ハルクイストさん
「香港での成功を感じて、さらに広げようと決めたのかもしれません。直後に、この活動が世界中の複数の言語で展開されているのを目にしました。彼らはおそらく十数か国語と数十のプラットフォームで活動していると思います。目的は、政府や社会の制度、そして社会そのものへの信頼を攻撃し、弱体化させることにあります」
■急速に発展するAI
さらに人工知能＝AIの技術が、「世論操作」をより巧妙化させている現状も見えてきた。
文書に掲載されていたi-SOON社の製品には、AI機能を搭載したものもあった。
それは公安組織向けとされた製品で、さまざまな「インテリジェンス」＝情報を収集できるプラットフォームだという。
台湾AIラボ 杜奕瑾さん
「（こうしたツールを使えば）AI時代には中国に反対する言論に大きな影響を与え、各国のオピニオンリーダーや政治リーダーを攻撃することもできるのです」
台湾でAIを使って偽情報の拡散の傾向を分析する調査団体「台湾AIラボ」。
ことし１月に投開票が行われた総統選挙の時期にネットに出回ったという動画を見せてくれた。
この動画は去年１２月に出回ったもので、女性が、当時の候補者で、いまの総統・頼清徳氏のスキャンダル情報を語っているものだが、フェイクだ。
よくみると、女性の口元は、ぼやけていて、違和感を覚える。ディープフェイクと呼ばれる技術で、AIも活用されているものとみられている。
■台湾AIラボ 杜奕瑾さん
「選挙期間中には頼清徳氏に関するディープフェイクビデオがありました。このビデオでは、美しい人物が宣伝に使われていることが特徴です。しかし、口がぼやけており、時々、動きが大きくなったり小さくなったりします」
この動画は、生身の人間の映像に比べるとアラが目立ち、偽だと気づくことができそうだ。
続いて、およそ１週間ほどたった後に、出回った別の動画もみせてくれた。顔の表情は自然で、違和感がないほどになっていた。
■台湾AIラボ 杜奕瑾さん
「AIの計算能力は急速に進化しており、3か月で1年分の進展があるとも言われています。これまでは“目に見えるものこそが信じるべきもの”とされてきましたが、今後は、その信頼性があいまいになっていく可能性があります。短い期間にディープフェイクの技術がめざましい進歩をとげているのです」
加速度的に進む技術革新を取り入れて、ひそかに行われる「世論操作」。i-SOON文書から見えてきたのは、私たちの気づかないところで情報がゆがめられているかもしれないという、新たな脅威だった。
2024.09.24 10:47
| 
