Claudeが出会い系で「偽の相手」に。なぜAPIの先で人格は量産されたのか

この記事のまとめ

Anthropicは、中国のアプリスタジオが20以上の出会い系アプリを開発し、Claudeを「偽の相手」として稼働させていたと報告しました。問題はモデル単体ではなく、複数のAIシステムと実在の作業員を組み合わせて人格を量産する仕組みにあります。ここでは、押さえておきたいポイントを4つにまとめます。

2026年4月の2週間で、4,700以上のAI人格が少なくとも25,000人と会話し、約236万件のメッセージが送信されました。
相手一覧にはAI人格と実在の人物が混ざり、その比率はおよそ3対1に保たれていました。
会話はClaude、返信候補や写真は別のモデルというように作業を分担し、アプリの審査をすり抜ける設計も組み込まれていました。
Anthropicは関連アカウントを停止し、AppleやGoogle、他のAI事業者へ情報を共有したと説明しています。

出会い系で起きていたこと

作戦の規模と期間

まずは、どれほどの規模で「偽の相手」が動いていたのかを見ていきます。数字を並べてみると、これが実験的なスパム行為ではなく、明らかに事業として設計されたものだと分かります。

Anthropicは、20以上の出会い系アプリで4,700以上のAIペルソナを確認したと公表しました。接触したのは2026年4月の2週間で少なくとも25,000人の固有ユーザーにのぼり、Claudeを用いたペルソナが生成したメッセージはおよそ236万件でした。相手として表示されるフィードは、約75%がAIペルソナ、25%が実在の人物で構成されていました（参照*1）。

GTG-15001というコードネームで呼ばれるこの作戦は、中国のアプリスタジオが主導したもので、対外的には「完全に人間によるサービス」だと主張していました（参照*2）。生成AI事業を立ち上げてから、こうした悪用の報告には定期的に触れてきましたが、今回の事例は「APIキーを使って不正コンテンツを生成した」という単純な話ではありません。事業として成立するように設計された詐欺インフラです。

報告書全体が扱う調査期間は、この2週間にとどまりません。Anthropicの脅威情報レポートは2025年12月から2026年8月までの事例を対象としており、すべての事例でClaude Haiku、Sonnet、Opusの各モデルが悪用されていました（参照*3）。

なお、この報告内容はAnthropic自身の説明に基づいています。

外部の研究者は、調査結果を検証・再現するためのアカウントデータ、プロンプト、ネットワーク指標、法執行機関の記録にアクセスできません（参照*2）。

AIと実在の人間の混在

この仕組みでは、AIだけでなく実在の人間も組み込まれていました。この点が、従来の「ボット詐欺」との大きな違いです。

AIペルソナと実在のギグワーカーの比率は、およそ3対1でした。ワーカーは、AIでは対応できないビデオ通話やソーシャルメディアでの本人認証を担当するために雇われていました（参照*4）。

自動化されたペルソナが自然に応対できない場面では、実在の人間が代わりに対応していました。たとえば、リアルタイムのビデオ通話や、本物のソーシャルメディアでの相互フォローを求められた場合です。Anthropicによると、作業員はメッセージの送信やビデオ通話への対応、ソーシャルメディアでのフォローバックを行う見返りとして報酬を受け取っていました（参照*1）。

つまり、ビデオ通話に応じた相手がいたとしても、雇われた作業員が代理で対応していた可能性があります。通話ができたという事実だけでは、メッセージをやり取りしていた相手本人であることの証明にはなりません。私がこの事例で特に重要だと思うのは、ここです。「ビデオ通話まで確認したから安心」という判断が、仕組みとして崩されています。

ペルソナへの指示と収益の仕組み

ペルソナには、正体を明かさないための指示が与えられていました。

報告によると、指示とバックエンドの要点は4つあります（参照*1）。

運営者のプロンプトには、自動化されている事実を決して明かさないよう指示が盛り込まれていました。
写真やビデオ通話の要求をはぐらかすよう指定されていました。
あらかじめ定められた段階に沿って会話を進める手順が指定されていました。
実在の作業員が対応できない場合には、いいね、訪問履歴、録画済みビデオといったシグナルを偽装できるようになっていました。

資金のやり取りは、アプリ内で完結する仕組みでした。アプリ内ではメッセージの送信やマッチングごとに利用枠が消費され、ユーザーはアプリ内コインを購入して枠を追加する形式をとっていました（参照*1）。

会話が長く続くほど利用枠が減り、課金へと誘導される設計だったといえます。

人格が量産される仕組み

複数モデルの役割分担

人格が大量に作り出された背景には、巧妙な作業分担の手法がありました。生成AIを業務に活用してきた立場から言うと、この構成は実務的な発想の延長線上にあります。「1つのモデルに全部やらせるより、得意な処理を分けて組み合わせる」というアプローチは、正当なAIシステム設計でも使われる考え方です。それが今回は欺瞞に応用されました。

Anthropicによると、この事業者は単一のモデルに依存せず、異なるAIシステムに各種のタスクを意図的に分散させていました（参照*1）。

具体的には、Anthropic製ではない別の軽量なモデルがワーカー向けの短い返信候補を生成し、アバター写真は画像編集モデルが作成していました（参照*4）。

この構成を見れば、会話、返信候補、写真がそれぞれ異なる場所で生成されていたことが分かります。欺瞞が成り立っていたのは単一のモデル内部ではなく、複数のAIシステムを組み合わせた構成でした。逆に言えば、モデル単体でどれほどセーフガードを強化しても、この種の悪用を止めることには限界があります。

相手一覧におけるAIと人間の比率がおよそ3対1に維持されていた点も、下流での運用によって制御されたものです（参照*4）。

アプリ審査をすり抜ける設計

アプリ側にも、審査をかいくぐるための綿密な作り込みが見られました。ここまで読んでくると、技術的な問題というより、詐欺インフラの設計として読み解くべき事例だと分かります。

開発文書によると、UIコントローラーはアプリストアの審査中だけ作動する仕様でした。20以上のアプリ派生版では、類似性による自動照合を免れるために異なるクラス名が用いられていました。さらにサーバー側では、決済を外部の処理業者へ迂回させる設定が可能で、その機能は審査中には完全に隠蔽されていました（参照*2）。

これらは、Anthropicが開発文書の解析から把握した内容として報告されています。審査時に見せる姿と、実際にユーザーが目にする姿を切り替える設計だったことが浮き彫りになっています。

アプリ審査を回避する仕組みが、モデルの外側で組み立てられていたことが伺えます。プラットフォーム審査の前提が、意図的に崩されていたということです。

利用者が見抜きにくい理由と自衛

従来のロマンス詐欺との違い

従来のロマンス詐欺と何が異なるのかを整理します。「詐欺の自動化」という表現は単純に聞こえますが、規模と精度の変化はかなり質的な違いをもたらします。

人間の詐欺師には、対応できる時間に物理的な限界があります。数十から数百に及ぶ長期的なやり取りを維持するには、人員、台本、翻訳、そしてターゲットごとの詳細な記録が不可欠でした。一方、自動化されたペルソナであれば、数千のアカウントで同時に会話を継続できます（参照*1）。

相手の心理状態を探る機能も組み込まれていました。システムは、ボットと話しているのではないかと疑念を抱き始めたユーザーを検知し、追跡していました（参照*1）。

疑念を抱いたユーザーが把握され、信頼を維持するために周囲の体験を調整される恐れがあります。「何か変だ」と感じること自体が検知対象になっているわけで、自衛の難易度が格段に上がっています。

別の事例では、Anthropicは、外部研究者からの情報提供を受けて、ロマンス詐欺を支援する目的に特化して販売されていたマルチモーダルAIツールのTelegramボット（@Chat_ChatGPT_AIbot）を特定しました。このボットは複数のAIモデルへのアクセスを提供しており、Claudeは感情豊かで知的な応答ができる「高EQモデル」として宣伝されていました（参照*5）。

複数の確認を組み合わせる自衛

単一の方法だけで、相手が本物であると確かめることは困難です。ただ、「だから何もできない」という話でもありません。

出会い系のプロフィールが本物だと証明できる決定的なメッセージ、写真、ビデオ通話、認証方法は存在しません。対策は3つあります（参照*1）。

複数の兆候を複合的に確認すること。
重要な主張を独自に検証すること。
オンラインで知り合っただけの相手に金銭的な判断を委ねないこと。

今回の事例でも、ビデオ通話やソーシャルメディアの相互フォローには実在の作業員が動員されていました（参照*4）。

さらに、いいねや訪問履歴、録画済みビデオといったシグナルも偽装が可能でした（参照*1）。アプリ内で確認できるリアクションは、それ単体では確実な裏づけにならない点に留意する必要があります。

金銭が絡む場面については、公的機関も警戒を呼びかけています。ニューヨーク州務省消費者保護局は、投資詐欺がソーシャルメディア、テキストメッセージ、出会い系アプリ、オンライン広告、電子メール、あるいは親しげな何気ない会話から始まるケースがあると指摘しました。同局は、こうした詐欺の手口をあらかじめ理解しておくことが、送金前に警告サインを見極める助けになると述べています（参照*6）。

Anthropicがとった対応

Anthropicは、不正を検知した後に講じた具体的な対応措置を公表しています。

同社は、使い捨ての組織や運営側の従業員に直結するアカウントを含め、このネットワークに関与していたアカウントと組織を全面的に利用停止にしたと発表しました。関連情報は、他のAIプロバイダーへも共有されています。さらに、出会い系アプリの手口や審査回避技術に関するプラットフォーム固有の詳細データは、AppleやGoogleにも直接提供されました（参照*1）。

調査結果の公表に踏み切った理由についても、同社は言及しています。Anthropicは、サービスの悪用事例を開示する責任があると考えて今回の事実を公表したとしたうえで、他の開発者が自社プラットフォーム上で類似のパターンを検知・特定できるようになることを期待すると述べました。また同社の見解として、モデルが高性能化するほど、AI開発者と社会の防衛側が安全対策を講じない限り、リスクは増大していくと警鐘を鳴らしています（参照*2）。

もっとも、開示された範囲には制約もあります。外部の研究者は、調査結果を再現・検証するためのアカウントデータ、プロンプト、ネットワーク指標、法執行機関の記録にアクセスすることができません（参照*2）。

外部にAPIを渡す側の論点

利用目的の監査と下流の可視性

規約やポリシーを定めるだけでは、下流での実際の使われ方まで把握しきることは困難です。生成AI導入支援を続ける中で、私がよく受ける相談の一つが「APIを外部に渡した先での使われ方をどう管理するか」です。これはAnthropicに限らず、APIを公開しているすべての事業者が直面する問題です。

Anthropicの利用ポリシーは、同意のない監視やプロファイリングのためにClaudeを用いること、ならびに個人の市民的自由や人権を侵害する目的でサービスを利用することを厳格に禁じています。同社によると、監視作戦として説明したすべての事例において、脅威アクターは利用ポリシーに違反し、悪用検知の仕組みを回避しようと試みていました（参照*7）。

出会い系の事例でも、運営側は対外的に「完全に人間によるサービス」だと標榜していました（参照*2）。ポリシー違反かどうかは、実際の使用内容を確認しなければ判断できません。宣言だけでは監査になりません。

認証情報と統合経路の管理

APIキーや統合経路そのものが、攻撃者の直接的な標的となります。ここは、生成AIのセキュリティを考えるうえで見落とされがちな論点です。「モデルに問題があるか」ではなく、「認証情報の管理をどう設計するか」という話です。

Anthropicが指摘した認証情報と統合経路に関する要点は3つあります（参照*7）。

AI APIキーやセッショントークンが狙われています。顧客がAIを中心に構築しているサンドボックス、プロキシ、リセラーなどの連携経路も、攻撃対象領域（アタックサーフェス）の一部を成しています。
組織は、AIキーやエージェント連携を本番環境の認証情報と同等の重要度で扱い、AIへのアクセスを認可された正規ルートのみから調達すべきです。
非公認の仲介業者を経由して通信や認証情報を送信させるような割引サービスは、ユーザーデータやシステム全体に大きなリスクをもたらします。

おわりに

今回の事例では、20以上の出会い系アプリで4,700以上のAIペルソナが稼働し、2026年4月の2週間だけで少なくとも25,000人と会話し、約236万件ものメッセージを生成していました。会話にはClaudeを使い、返信候補の生成や画像加工には別のモデルを充てる形でタスクを分担させ、ビデオ通話や相互フォローは実在の作業員に代行させていました。生成AIを業務に使い続けてきた立場として、この事例で改めて感じるのは、「モデルの安全性」と「システム全体の悪用耐性」は別物だということです。

Anthropicは関係アカウントを停止し、AppleやGoogle、他のAI事業者へ情報を共有したと公表しています。ただし、本報告はAnthropicによる発表に基づくものであり、外部の研究者が基礎データを直接検証できない制約も残されています。モデル単体ではなく、複数のAIシステムと実在の作業員を組み合わせた構成で欺瞞が行われた。この事実は、AI開発者だけでなく、APIを使ってサービスを構築するすべての事業者が、自分ごととして受け止めるべき問題です。

監修者

安達裕哉（あだちゆうや）

デロイトトーマツコンサルティングにて品質マネジメント、人事などの分野でコンサルティングに従事しその後、監査法人トーマツの中小企業向けコンサルティング部門の立ち上げに参画。大阪支社長、東京支社長を歴任したのち2013年5月にwebマーケティング、コンテンツ制作を行う「ティネクト株式会社」を設立。ビジネスメディア「Books&Apps」を運営。
2023年7月に生成AIコンサルティング、およびAIメディア運営を行う「ワークワンダース株式会社」を設立。ICJ2号ファンドによる調達を実施(1.3億円)。
著書「頭のいい人が話す前に考えていること」が、95万部（2026年6月時点）を売り上げる。
（“2023年・2024年上半期に日本で一番売れたビジネス書”（トーハン調べ／日販調べ））