Anthropicが利用ポリシー改定、高リスク用途の要件を明確化

Anthropicの2026年10月8日の発表をもとに、利用ポリシーの改定内容を紹介します。業務でClaudeを使う際に関係する、用途・人の確認・機器の安全制御の対応を整理します。

発信元を偽る活動を整理し、選挙妨害の禁止を明確化

今回新設されたのが、発信元を偽るなど人を欺く「欺瞞的活動」の区分です。国営メディアや政府のプロパガンダ機関、企業がClaudeを使って偽アカウントのネットワークや捏造ニュースサイトを運営する事例が見られたため、関連ルールを1つのセクションに統合したとAnthropicは説明しています。発信元を隠す行為や偽アカウントでの拡散、影響力工作の仕組み作りが対象です。こうした悪用の実態は、Anthropicが9月に公開したAI悪用レポートでも報告されていました。

選挙に関するルールも、有権者を欺く行為や選挙妨害に焦点を絞る形に再編されました。一方で、個別化された有権者・選挙運動へのターゲティング自体への一律禁止は撤廃されています。非営利団体による多言語での有権者向け情報提供など、正当な活動を妨げないための見直しだとしています。欺瞞や個人データの不正利用を伴う場合は、欺瞞的活動やプライバシーのルールで引き続き禁止されます。

高リスク用途と物理機器接続の要件を明確化

Claudeを個人への助言や判断に使う場合に関わるのが、この要件です。健康・法的権利・金融・生計・必須サービスへのアクセスに影響しうる「高リスク用途」では、該当分野の訓練や経験があり、必要な場合は免許を持つ人が、助言の提供や判断への利用前に提案を見直し、変更できる体制(human in the loop)を置くことと、AIが使われていることを本人に伝えることが求められます。これ自体は従来からのルールですが、どの提案が対象になるかが明確に示されました。

加えて、ドローンや産業機械のような、自律的に物理的な動作をしてけがを引き起こしうる機器にClaudeを接続する場合の要件も新設されました。適切な知識・経験を持つ操作担当者が機器を監視し、必要なら停止できること、Claudeとの接続が切れても停止または安全な状態を保てることが条件です。速度や力などの安全上の制限は、モデルの出力とは独立した機器や制御装置で守る必要もあります。ロボットと連携する仕組みとしては、Anthropicが提唱する「Model Hardware Standard」もこの流れに関わります。

改定後のポリシー本文には、個人の状況に当てはめない一般的な説明や、最終的な助言ではない内部向けの下書きなどの対象外も示されています。保険金の全額支払いなど、本人に全面的に有利な特定の判断には事前確認の例外もあります。業種名だけでなく、行う判断の種類をポリシーと照合する必要があります。

まとめ: 用途と確認体制を対応づける材料に

今回の改定は既存ルールの明確化に加え、物理機器の操作要件などを盛り込んでいます。医療・金融・法務など高リスク領域でClaudeを使っている、あるいはロボットや産業機械とAIを連携させる計画がある場合は、施行日の11月12日までに社内の運用が人の確認体制・通知・停止機能といった要件を満たしているか見直す機会になります。具体的な対象と例外は、発表の要約に加えてポリシー本文で確認できます。高リスク用途を扱う部署では、現状のチェック体制に「提案を見直し・変更できる権限を持つ人」を置けているかを、まず確認しておくとよいでしょう。

※ 2026年10月時点の情報です。