偽アカウントの見分け方：4層のシグナルと誤判定しやすいポイント

銀行や著名人になりすました詐欺アカウント、集中して現れる低評価、水増しの高評価、公共の話題での協調的な投稿の背後には、いずれも一群の偽装アカウントがいる可能性があります。金融機関のリスク管理、ブランド広報、ECプラットフォーム、公共部門はいずれも、目の前のアカウントが自然な参加なのか、公然とした動員なのか、それとも身元や相互の関係を隠した協調的な工作なのかを見分ける必要があります。本記事では、4層のシグナル、各層で実在の人を誤認しうるケース、研究ツールの現状、そして検証記録の書き方を整理します。

個人によるチェックとシステムによる検出は別物です

一般のユーザーが単一のアカウントを判断する際は、いくつかの表面的な兆候を確認できます。プロフィール画像がネット上の素材のように見えないか、アカウントが作成されたばかりではないか、フォロワーが極端に少なくないか、名前が数字の羅列ではないか、などです。投資を勧めるメッセージや、カスタマーサポートを名乗るメッセージが届いたときは、これらの兆候を手がかりに、返信する前に公式の窓口を確認するとよいでしょう。

しかし、これらの兆候でアカウントの真偽を判断するのは信頼性に欠けます。プラットフォームに参加したばかりの実在の人も新規アカウントですし、顔を出したくない人は風景をプロフィール画像にすることもあります。逆に、計画的な工作者はアカウントを育て、プロフィールを埋め、日常的な投稿を混ぜることで、単一のアカウントをごく普通に見せることができます。

システムによる検出の違いは、規模と関係性にあります。人手による一つひとつの照合は時間とデータ量に制約されますが、システムは大量のアカウントを時間、内容、インタラクションの面で同時に照合し、単一のアカウントを見ただけではわからない同期や重複を見つけ出せます。ただし、出力されるのはあくまで検証待ちの手がかりです。

4層のシグナル：何を見るか、何を捉えられるか、何を誤判定しうるか

本記事では、公開研究とプラットフォームのレポートに基づき、観察可能な手がかりをアカウント属性、投稿行動、コンテンツ、アカウント間のインタラクションの4層に整理しました。これは本記事の編集上の整理であり、業界統一の基準ではありません。まず下の表で要点をまとめ、その後に各層を説明します。

第1層：アカウント属性

見るポイント：アカウントの作成日時、表示名とアカウントIDのパターン、プロフィール画像の出所、自己紹介やプロフィール欄の充実度、名前やプロフィール画像の変更履歴。

捉えられるもの：単一アカウントの属性も手がかりになりますが、アカウント群の属性の分布は、アカウント間の関連を補足する材料になります。たとえば、同じ週に作成され、名前がすべて人名に数字の羅列を加えた形で、プロフィール画像のスタイルも統一されているアカウント群は、さらに調べる価値があります。プロフィール画像にも注意が必要です。AIで生成された画像が本物の写真のように見えることもあり、見た目だけでアカウントが本物かどうかは判断できません。

起こりうる誤判定：新しく登録した実在の人や、プライバシーを重視して写真を載せない、あるいはプロフィールをあまり記入しない人も、同じ特徴を持つことがあります。各プラットフォームで公開される項目も異なり、プロフィールページに登録日を表示するものもあればしないものもあるため、照合できる属性はプラットフォームによって変わります。もう一つの盲点は、買い取られたり乗っ取られたりした古いアカウントです。プロフィールが充実したまま残っていることがあり、作成日時とプロフィールの充実度だけを見ても異常に気づかない場合があります。

第2層：投稿行動

見るポイント：1日の中での投稿時間帯の分布、連続する2つの投稿の時間間隔、転送とオリジナル投稿の比率、短期間での投稿数の変化、長い休眠の後に突然活発になるケース。

捉えられるもの：自動化プログラムは一定間隔で投稿したり、短時間に大量に転送したりすることがあります。人手で代理運用されるアカウント群は、同じ時間帯に一緒にオンラインになり、一緒に沈黙することがあります。普段はほとんど投稿しないアカウントが、ある話題が出たときだけ集中的に発言し、終わると再び沈黙する場合、その活動パターンは記録しておく価値があります。

起こりうる誤判定：企業やメディアのアカウントが一定間隔で予約投稿している場合も、規則的な投稿間隔になることがあります。シフト勤務者、海外のユーザー、夜型の人は深夜に投稿することがあり、議論の参加者が大きな出来事の期間中に投稿を増やすこともあります。投稿行動からわかるのは、そのアカウントの活動パターンが普通ではないということだけで、偽物であることまではわかりません。

第3層：コンテンツの類似度

見るポイント：異なるアカウントの投稿やコメントが同一または非常に似ているか、同じURLや同じ画像を繰り返し投稿していないか、同じ誤字、句読点の癖、ハッシュタグの組み合わせを使っていないか。

捉えられるもの：コピー＆ペーストや数文字だけ変えた協調的なコメント、人々を同じ投資グループやショッピングURLへ集中的に誘導する投稿、複数のファンページに同時に現れる同一の低評価。同じ誤字や珍しい言葉の組み合わせは、文章が同じ出所から来ているかを検証する手がかりになります。

起こりうる誤判定：キャンペーンに賛同したユーザーが同じ文面を貼り付けたり、同じニュースを転送する人が同じリンクを添えたりすることがあり、これらは自然な類似です。生成AIもこの層の効果を弱める可能性があります。各アカウントが言い回しは違っても意味は同じ文章を作成できるため、文字どおりの重複だけを照合するとこうした内容を見逃します。照合はナラティブのレベルにまで広げられますが、同じ立場やナラティブそれ自体は不正行為の証拠ではなく、実在の人が同じ意見を持つこともあるため、それを根拠にアカウントを公に名指しすることはできません。ナラティブ照合の方法については「フェイクニュースの検出方法」の生成AIに関する段落をご参照ください。

第4層：インタラクションネットワーク

見るポイント：どのアカウントが常に同じ投稿群を転送しているか、互いにいいねやコメントをしているか、同じ投稿の下にほぼ同時に現れるか、そしてそれらの関係が時間とともにどう変化するか。

捉えられるもの：協調的な工作の核心は複数のアカウントが一緒に行動することであり、インタラクションネットワークは単一のアカウントでは見えない関連を補います。インディアナ大学の研究チームがICWSM 2021で発表した研究では、同じ投稿のリツイート、同じハッシュタグの並び、同じ画像、近い投稿時刻など、アカウント間で共有される行動の痕跡から協調ネットワークを構築し、複数の事例で協調が疑われるアカウント群を特定しました。こうした手法はコンテンツの真偽ではなく行動上の関連を見るため、原則として、真実の情報を選択的に増幅する工作の観察にも使えます。

起こりうる誤判定：ファンコミュニティ、同僚、サークルのメンバーも互いにいいねをしたり、一緒に転送したりすることがあり、こうしたインタラクションだけでは不正な工作の証明になりません。アカウント群を見つけた後も、その集団が公然とした組織的動員なのか、相互の関係を隠した工作なのかを確認する必要があります。Metaのコミュニティ規定の現行版（最終更新は2025年12月）によると、不正行為とは、同一人物または同一グループが管理する偽装アカウント、ページ、グループなどの資産を通じて行われる欺瞞であり、プラットフォームやユーザーを誤認させること、あるいはコミュニティ規定の執行を回避することを目的とするものです。判断の要点は隠蔽と欺瞞であり、人々の意見が一致していることではありません。協調的な不正行為の完全な定義については「協調的な不正行為（CIB）とは」および「Metaの不正行為ポリシー原文」をご覧ください。

「新規アカウント」「投稿が多い」「深夜に投稿」がいずれも単独では証拠にならない理由

この3つの兆候だけで組織的な世論工作アカウント（いわゆる「網軍」）と断定すると、実在の人を誤認するおそれがあります。

新規アカウント：実在の人も、ある話題に参加するために新しく登録します。新規アカウントの急増は、誰かが一括でアカウントを作成している可能性もあれば、単に話題が新しいユーザーを引き寄せているだけの可能性もあります。これらのアカウント間に他の関連があるかを確認する必要があります。

投稿数が多い：時事に熱心な人、SNS担当者、記者、インフルエンサーも大量に投稿することがあります。投稿数は活動量を示すにすぎません。見るべきは、その変化が他のアカウントと同期しているか、内容が大量に重複しているかです。

深夜の投稿：現地の深夜は別のタイムゾーンでは昼間かもしれず、海外のユーザー、シフト勤務者、学生はいずれも深夜に活動することがあります。活動時間が異常かどうかは、同じアカウントの過去の活動時間や、同じ話題の他のアカウントと比較して判断する必要があります。

逆に、単一のシグナルが正常でもアカウントが本物とは限りません。計画的な工作では、各アカウントがどの層単独で見ても正常に見えるようにできます。より確実なのは、異なる層のシグナルを照合する方法です。あるアカウント群が同じ週に作成され、似た文言でコメントし、常に一緒に転送している場合、3つの層のシグナルが同じアカウント群を指しており、優先的に検証する価値があります。また、これらのシグナルが同一の現象を重複して示しているだけではないかにも注意してください。たとえば一つの公開イベントが登録、コメント、転送を同時に引き起こすこともあり、疑わしさを二重に数えないようにします。組織の名称やロゴを盗用したアカウントなど、明確ななりすましの手がかりは、シグナルが一つだけでも検証する価値があります。

公開されている研究ツールとその限界

公開研究ツールの一例として、インディアナ大学のソーシャルメディア観測所（OSoMe）が開発したBotometerがあります。かつてはTwitterアカウントがプログラムで操作されている可能性をリアルタイムで評価でき、多くの学術研究で採用されました。その現状は2つの限界を示しています。

1つ目の限界はデータの入手です。Twitter（現X）が研究者への無料データアクセスの提供を停止した後、元のBotometerサイトは停止されました。OSoMeは2024年2月にBotometer Xを公開しましたが、提供されるのは2023年6月以前に収集した過去データで事前計算されたスコアのみで、2023年5月31日以降に作成されたアカウントは照会できず、それ以前に作成されたアカウントにも記録があるとは限りません。その後OSoMeは、これらの過去スコアをAPIで一括照会できるようにもしました。またOSoMeは、Botometer Xのモデルは生成AIツールが普及する前に学習されたもので、AIで強化されたボットは識別できないと説明しています。つまりBotometer Xはアーカイブ用のツールであり、Xアカウントの現状は評価できません。OSoMeはさらにBotometer Blueを公開し、Bluesky APIで取得したデータでBlueskyアカウントを分析し、最近の投稿がAI生成コンテンツらしいかを評価しています。どちらも他のプラットフォームは対象外です。

2つ目の限界は、精度が言語や時期によって変動することです。RauchfleischとKaiserが2020年にPLOS ONEで発表した研究では、2019年3月から6月にかけて、ボットと判明している英語・ドイツ語のアカウントと、人間と判明しているアカウントで当時のBotometer v3を検証し、スコアによるボットの推定は精度が低く、検証したドイツ語データではその傾向がより顕著であることを示しました。また、同じしきい値でも時期によって結果が異なり、偽陽性と偽陰性の両方が発生しました。研究者は、固定のしきい値でボットの数を数えると、実在の人をボットとみなし、ボットを見逃すおそれもあると注意を促しています。この研究が検証したのは旧版のツールであり、その結果が現行のBotometer XやBotometer Blueの性能をそのまま表すわけではありません。ただし、指摘されたしきい値の変動の問題は、スコア型のツールを使う際の注意点として参考になります。

この研究は英語とドイツ語のみを対象としており、中国語にそのまま当てはめることはできません。PTT、Dcard、LINEオープンチャットなどのプラットフォームで使う場合は、どの手法も現地のデータで別途検証する必要があります。Cresciも2020年にソーシャルボット検出研究の10年を振り返り、ボットは人間を模倣し、検出と回避の手法は互いに適応し続けるため、ツールの継続的な更新と検証が必要だと指摘しています。

生成AIも変化をもたらしています。Metaは2024年第1四半期の敵対的脅威レポートで、削除された影響工作がGANで生成したプロフィール画像や、生成AIで作成されたとみられる画像やコメントを使っていたことを記録しています。同レポートの時点で、Metaは関連するアカウントネットワークの解体を妨げるような新しい生成AIの手法はまだ確認していないとしています。これは当時の単一プラットフォームの観察であり、すべてのプラットフォームに対する保証とはみなせません。

疑わしいアカウント群から検証記録へ

疑わしい手がかりを法務部門、プラットフォーム、所管機関に引き渡すのであれば、分析に関わっていない人が再確認できる記録が必要です。以下の内容を保存することをお勧めします。

• 元のコンテンツ：投稿やコメントのURL、スクリーンショット、取得日時、アカウントページの公開情報。アカウントは削除や名称変更される可能性があるため、できるだけ早く保存します。
• 観察されたシグナル：各層のシグナルの具体的な事実。たとえば、どのアカウントがどの日に作成されたか、どのコメントの内容が同一かなどを記録し、単に「工作アカウントの疑い」とだけ書かないようにします。
• 別の説明：同時期のニュース、マーケティング施策、ファンの動員など、同じ現象を生み得る自然な要因を挙げ、それを除外できた理由、または除外できない理由を記します。
• 判断レベルと限界：判断が「疑いが濃厚」「経過観察」「自然な現象の可能性」のいずれかを明記し、非公開グループや削除済みコンテンツなど、見えていないデータも記します。
• 対応とその後：プラットフォームへの通報日時と結果、対外的な説明、継続して観察するかどうか。

記録では、アカウントの背後にいる人物について結論を出すことは避けるべきです。行動分析はアカウント群が行動面で高度に協調していることを示せますが、行動シグナルだけでは、誰が操作しているのか、誰の依頼なのかを確認するには不十分です。身元や依頼関係は別途検証が必要であり、法的責任が関わる場合は、所定の手続きに従って権限のある機関が対応します。「このアカウント群にはどのような協調の兆候があるか」と書くほうが、「これは誰それの工作部隊だ」と書くよりも、行動上の証拠が裏付けられる範囲に沿っています。

参考文献

• Meta Transparency Center: Inauthentic Behavior
• OSoMe: Introducing Botometer X (2024)
• Botometer: About and FAQ
• Rauchfleisch & Kaiser, The False Positive Problem of Automatic Bot Detection in Social Science Research, PLOS ONE (2020)
• Pacheco et al., Uncovering Coordinated Networks on Social Media: Methods and Case Studies, ICWSM (2021)
• Cresci, A Decade of Social Bot Detection, Communications of the ACM (2020)
• Meta Adversarial Threat Reports