Anthropicが中間選挙に向けた備えを公表 1回の悪い依頼は断れても、無害に見える小さな依頼に分けられた工作は見逃しうる、と外部の検証

確認できた事実——人々は、何を聞いているか

Anthropicは、9月21〜27日の1週間の、選挙が行われる国のClaude.aiの消費者向けの会話から約25万件を無作為に抽出し、プライバシーに配慮した方法で分析しました。政治、公共政策、社会問題に広く触れる会話は全体の約5.75%。選挙や投票そのものについての会話は約0.51%でした。投票日が近づくにつれ、この割合は増えると見込んでいます。

誰に、何に投票すべきかを尋ねる依頼は、約0.01%とまれで、それより多いのは、候補者が特定の問題でどんな立場かなど、自分で結論を出す助けになる質問だった、と。選挙の公正さについての規定に反する依頼は、さらに少なく約0.002%(こちらは別の約25万件の分析による)。

投票の情報については、投票登録や投票所を尋ねると、党派に属さない情報源へのバナーを出す仕組みを続けます。加えて今月後半から、選挙のある国の利用者向けに、公式の投票情報をClaude.aiの回答に取り込み、どこで投票するか、どんな身分証を持っていけばいいかに、住んでいる地域に合わせて答えるようにする。開票の夜とその後の数日は、最新の公式の結果を会話の中で示す、としています。

政治的な公平性——自社の評価と、外部の指摘

Anthropicは、モデルを出す前に毎回、政治的な偏りを試験していると書いています。Claude Opus 5.5、Sonnet 5.5、Haiku 5.5は、同社の政治的な公平性の評価で99%と、これまでで最も公平だ、と。最新のモデルは政治の議論にも応じやすく、断る依頼も減った、としています(過剰拒否とは)。

そのうえで、三つの独立した団体に、表現の自由の扱いを別々の角度から評価してもらいました。大学のシンクタンクのThe Future of Free Speechは、論争のある話題の数百の依頼で試し、別の政策系の団体は、左右の立場から対になる依頼を出して答えを比べました。どちらでも、ほとんどの応答は中身のあるものと評価された、と。Collective Intelligence Projectは、3か国の2,000人超の調査をもとに、繊細な話題の扱い方の原則と評価の基準を作りました。

そして、足りない点も書いています。二つの団体は、Claudeは依頼をめったに断らないが、頼まれていない但し書きや反論を足すことがあると指摘しました。例えば、ある立場を訴えるメールに、反対の見方を差し込む。もう一つの団体は、旧モデルのClaude Sonnet 4.5が、立場によって主張のやわらげ方が均等でなく、右寄りの立場の主張をやわらげやすかったと指摘しました。Anthropicは、はい・いいえで答える質問や短い答えを求められたときの答え方を改善し、但し書きや反論をいつ、どう足すかも見直している、としています。

物差しを当てる——1件ずつ見る防御の限界

今回の発表で当サイトが一番重く見るのは、外部の検証の結果です。Anthropicは、独立した研究機関のISDとMcCain Instituteと組み、今年、大きな国政選挙がある3か国で、Claudeの防御を試してもらいました。分析者は、まず直接的な依頼から始め、次に工作の全体を、それだけ見れば無害に見える小さな作業に分けました。対象者の調査、ニュースサイトの構築、文章の作成、拡散の計画、といった具合です。

結果は、Claudeは1回の有害な依頼は確実に断るが、悪意のある工作が、それだけ見れば無害に見える多くの依頼に分散していると見逃しうる、というものでした。当サイトは、これを依頼を1件ずつ見る防御の限界と読みます(分解攻撃とは)。

これは、前日に取り上げたOpenAIの報告とも重なります。架空の記者名で記事を売り込んだ工作は、ChatGPTを、記事の推敲や売り込みメールの作成に使っていました。OpenAIはこの事例をそう位置づけてはいませんが、この工作でも、使われ方の一部(記事の推敲や売り込みメール)は、1件ずつ見れば文章の手直しに見える、と当サイトは見ます(レビュー)。

Anthropicは、外部の発見と自社の発見をもとに、新しい手口や複数段階の悪用を見つける分類器を追加したと書いています。政治の議論を狙った偽のSNSアカウントやニュースサイトの構築、金銭目的の選挙がらみの企み、が例です。外国の国家主体による選挙関連の悪用の検知も強め、選挙の基盤や陣営のサイバー防御も強化した、と。また、実際の事例として、外国を拠点とする偽ニュースサイトの運営者が、特定の国々の主張に有利な中間選挙の記事をClaudeで作っていた例と、広告収入を目的に捏造したニュースを作っていた例を挙げ、関係するアカウントを停止したとしています。

当サイトは、この発表を、自社の防御の弱点を、外部の検証の結果として自ら示し、それに手を打った点で評価します。安全策は、自社の評価だけでは主張にとどまります。外から試してもらい、見つかった穴を書くことで、ようやく確かめられる形になる。当サイトはこれまでのレビューでも、外部の検証の有無を見てきました。

割り引いて読むところ

1. 数字は同社の分析です。5.75%、0.51%、0.01%は1週間分の抽出、0.002%は別の約25万件の分析によるもので、いずれもAnthropicの分析です。対象は選挙が行われる国のClaude.aiの消費者向けの会話で、分類はClaudeが行っています。投票先を尋ねる割合は、グラフでは95%信頼区間の上限で示されています。

2. 99%は自社の評価です。政治的な公平性の99%は同社の評価の結果で、評価の中身はこの発表には詳しく書かれていません。外部の評価が、但し書きの付け足しや旧モデルの偏りを指摘している点と合わせて読む必要があります。

3. 追加した分類器の効果は示されていません。外部の検証で見つかった穴に対して分類器を足したとしていますが、それで分散した工作をどれだけ見つけられるようになったかの数字はありません。

4. 国名を書いていません。発表は特定の国の選挙と、検証の対象国、偽ニュースサイトが有利に扱った国々を名指ししていますが、当サイトはこの記事で国名を挙げていません。詳しくは一次ソースをご覧ください。

5. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今回はAnthropic自身の発表で、評価が甘くなるおそれがあります。外部の検証で見つかった弱点を示した点を評価し、自社の数字と分類器の効果が確かめられない点を指摘しました。

読者への影響

AIに政治のことを聞くとき、今のClaudeは、断らずに答える方向に変わっています。同時に、頼んでいない但し書きや反対意見が足されることがある、と外部の評価は指摘しています。答えの中に、自分が頼んでいない視点が入っていないかを、一度見ておくとよさそうです。

会社や団体でAIを使う側としては、1件ずつ見れば無害な作業の積み重ねが、全体として何をしているかを見る視点が要ります。AIエージェントに複数の作業を任せるなら、作業ごとの承認だけでなく、全体の目的と流れを人が把握しておく(ヒューマン・イン・ザ・ループとは)。今回のClaudeのように、提供元の防御が分散した工作を見逃しうるなら、使う側の把握が最後の線になる、と当サイトは見ます。

次に見ること

第一に、追加した分類器の効果。分散した工作をどれだけ見つけたかの報告が出るか。

第二に、今後数か月のうちに共有したいとした、選挙期間を通じた使われ方のより包括的な報告。

第三に、他社の選挙対策。OpenAIやGoogleが、分散した工作への対策をどう書くか。

前後の流れ

OpenAIが偽装組織・人物による影響工作を報告(レビュー10/14) / Anthropicが利用ポリシーを改定(レビュー10/10) / 分解攻撃とは / 影響工作とは / 拡散度尺度とは / 過剰拒否とは