生成AIは国際人権法に「根本的に両立不可能」、アムネスティが禁止を要求

アムネスティが生成AIの人権問題を告発

国際人権団体アムネスティ・インターナショナルが2026年5月31日、生成AIシステムの人権への影響を詳細に分析した報告書「Unlawful by Design: Exposing the Human Rights Costs of Generative AI」を公開した。 同報告書は、違法なWebスクレイピングに基づくスタンドアロン型の生成AIシステムが、その設計・開発・運用の段階において国際人権法（IHRL）および関連する基準と衝突していると結論づけている。アムネスティは、これらのシステムが国際人権法と「根本的に両立不可能」であるとして、その禁止を求めた。

なぜ「違法」と断じられるのか

報告書の核心にあるのは、生成AIシステムが依拠するデータ収集手法の合法性に対する疑義だ。 現在、主要な生成AIモデルの多くは、インターネット上に公開された膨大なテキストや画像を、著作権者の同意なく自動的に収集するWebスクレイピングによって訓練データを構築している。アムネスティは、このようなデータ収集の手法が「設計上、大規模なプライバシー侵害に依存している」と指摘する。 Webスクレイピング自体は新しい技術ではないが、生成AIの文脈では、そのスケールと目的が根本的に異なっている。個人のブログ投稿、フォーラムへの書き込み、SNSの発言、学術論文、報道記事——インターネット上に存在するほぼ全てのテキストデータが、個人の同意なく訓練データとして搾取される可能性がある。アムネスティは、この実態が国際人権法が保障するプライバシー権の侵害にあたると判断した。

人権侵害の三つの側面

報告書が特に注目するのは、生成AIシステムがもたらす人権侵害の三つの側面だ。 第一に、プライバシー権の侵害がある。前述のように、個人が生成したコンテンツが無断でAIの学習に利用されることで、データ保護に関する国際基準が形骸化しているとアムネスティは見なす。 第二に、差別の助長だ。生成AIモデルの訓練データには、インターネット上に存在する偏見や差別的な表現がそのまま含まれる。このため、生成AIの出力には人種、性別、宗教などに関する偏見が反映されるリスクがある。アムネスティは、このようなバイアスが制度的な差別をさらに増幅する可能性を懸念している。 第三に、表現の自由と思想の自由への脅威だ。生成AIが生成するコンテンツが情報環境を歪め、個人の思考形成や意見表明に不当な影響を及ぼす可能性が指摘されている。特に、大量の偽情報やディープフェイクの生成が容易になったことは、民主主義的な議論の基盤そのものを脅かす要因となり得る。

業界の「効率性」の代償

報告書は、生成AIが約束する「洗練された自動化と効率性」という利便性の背後にあるコストを鋭く問うている。 テック業界は生成AIの生産性向上や業務効率化を喧伝してきた。しかし、アムネスティの分析によれば、これらの便益は、個人のプライバシー権を侵害し、差別を助長し、表現の自由を脅かすデータ収集・モデル訓練の手法によって支えられている。同団体は、技術革新の名の下に人権が犠牲にされる構造そのものを問題視している。 これは、AI開発における「動くことを速く、後で謝罪する」というシリコンバレー的なアプローチが、国際的な人権規範との間で深刻な摩擦を引き起こしていることを示す事例だ。

「禁止」に踏み込んだ意義

アムネスティの人権に関する報告書は数多くあるが、特定のテクノロジーそのものの「禁止」を明確に求めた点は注目に値する。同団体は、違法なWebスクレイピングに基づくスタンドアロン型生成AIシステムが国際人権法と根本的に両立不可能であると結論した上で、その禁止を呼びかけている。 これは、生成AIの一部を制限するのではなく、現在の主流的な開発手法そのものが人権法に照らして許容できないという極めて強いメッセージだ。 国際的な場では、EU人工知能法（AI Act）の施行をはじめ、各国でAI規制の枠組みが模索されている。しかし、アムネスティの報告書は、既存の規制アプローチでは不十分であり、人権侵害の原因となる技術の利用自体を禁止すべきだという、より踏み込んだ立場を示している。

AI業界への影響と今後の論争

この報告書がAI業界に及ぼす影響は決して小さくないだろう。主要なAI企業は、データ収集の合法性について各地で訴訟に直面しており、アムネスティのような権威ある国際団体が「根本的に両立不可能」と断じたことは、法的・世論的な圧力をさらに高めることになる。 一方で、生成AI開発者の間では、公開されたデータの利用はフェアユースにあたるという主張や、データ収集の手法を改善すれば人権両立は可能だという反論も存在する。アムネスティの報告書が、こうした業界側の主張をどこまで説得力を持って論駁できるかは、今後の議論の焦点となるだろう。 テクノロジーと人権の関係は、生成AIの時代において最も緊急性の高い課題の一つだ。アムネスティの報告書は、この議論を大きく前進させる契機となる可能性を秘めている。