内容に関する注意：本記事は児童の性的虐待とオンライン被害を扱います。
具体的な描写は避け、制度と予防策に絞って解説します。
児童性的虐待素材（CSAM）は、子どもの性的虐待や性的搾取を写した、またはそのように見せる画像や動画などを指します。
生成AIで作られた素材でも、実在する子どもの写真や過去の被害画像が使われる場合があり、「架空だから被害者はいない」とは言えません。
2025年7月17日、ICMEC Australiaは豪州の連邦議会議事堂で、AI時代の児童安全を扱う同国初の全国ラウンドテーブルを開催しました。
会議には政府、法執行機関、テクノロジー分野、児童保護分野の関係者が集まり、予防から捜査、製品設計、社会への周知までを一続きの課題として議論しました。
豪州の全国ラウンドテーブル
ICMEC Australiaの公式発表によると、会議が扱ったのは合成されたCSAMだけではありません。
実在する人物の画像を改変するディープフェイク、自動化されたグルーミング、子どもを模した対話型サービスなど、生成AIが児童の性的搾取を助長する複数の経路が対象です。
この範囲の広さは、画像を見つけて削除する対策だけでは足りないことを示します。
生成前の抑止、サービス内での検知と通報、法執行機関による捜査、被害を受けた子どもへの支援を連携させる必要があります。
増加率を読む際の注意
会議の背景として示されたのが、米国のNational Center for Missing & Exploited Children（NCMEC）が運営するCyberTiplineの報告件数です。
生成AIが関連するCSAMの報告は、2023年の4,700件から2024年の67,000件超へ増え、増加率は1,325％とされています。
この67,000件は、被害を受けた子どもの人数でも、違法な画像や動画の総点数でもありません。
通報窓口に届いた「報告」の件数であり、同じ数字を被害者数や素材数として読むことはできません。
一方、英国のInternet Watch Foundation（IWF）は、2025年1月から6月までに1,286本の生成AIによるCSAM動画を確認したと報告しました。
前年同期の2本と比べた数字ですが、こちらは報告件数ではなく、IWFが確認した個別の動画数です。
| 発表主体 | 集計対象 | 比較 | 読み方 |
|---|---|---|---|
| NCMEC | CyberTiplineへの報告 | 2023年4,700件から2024年67,000件超 | 通報単位であり、被害者数や素材数ではない |
| IWF | 確認した個別動画 | 2024年前半2本から2025年前半1,286本 | IWFの確認範囲における動画数 |
調査主体、期間、集計単位が異なるため、2つの数字を足したり、同じ母集団の増加率として比べたりすることはできません。
それでも、複数の通報機関が急な増加を捉えている点は、予防策を急ぐ根拠になります。
合成された素材でも被害が生じる理由
「実写ではない素材なら、現実の被害はない」という理解は正確ではありません。
豪州eSafety Commissionerの解説は、合成や改変の過程で実在する子どもや被害経験者の画像が使われる問題を指摘しています。
- 実在する子どもの画像が悪用される：日常の写真が性的な画像へ改変され、本人の尊厳や安全が侵害されることがあります。
- 被害経験者が再び傷つけられる：過去の虐待素材から新しい画像が作られると、被害の記録が別の形で流通し続けます。
- 捜査の判断が難しくなる：本物と合成物の区別に時間がかかれば、救助を必要とする子どもの特定に使う資源が圧迫されます。
完全に合成された素材であっても、児童を性的対象として扱う表現を流通させ、虐待の深刻さを軽視する環境につながるおそれがあります。
素材の作り方だけで被害の有無を判断するわけにはいきません。
会議が示した5つの対応
ICMEC Australiaは、ラウンドテーブルの成果を次の5項目に整理しています。
- 予防手段への投資：問題が起きた後の削除だけでなく、生成や拡散を抑える仕組みを育てます。
- 法執行機関の能力強化：生成AIが関係する証拠を扱えるように、人材、手順、技術を整えます。
- 安全を設計に組み込む：製品の企画段階から悪用の可能性を検討し、公開後も対策を見直します。
- 分野と地域を越えた連携：企業、規制当局、捜査機関、研究者、児童保護団体が情報を共有します。
- 社会への周知：保護者、教育関係者、子ども自身がリスクと相談先を理解できる情報を届けます。
セーフティ・バイ・デザインは、公開後の削除対応だけに頼らず、企画、開発、運用の各段階に安全対策を組み込む考え方です。
生成を拒否する仕組みだけでなく、通報窓口、人による確認、記録、定期的な評価までを製品運用の一部として設計します。
事業者と開発者の実務チェック
生成AIを扱うサービスでは、利用規約を置くだけで悪用を防げるとは限りません。
禁止事項を実際の機能、監視、対応手順へ結び付ける必要があります。
| 段階 | 確認する内容 |
|---|---|
| 企画 | 想定する利用者、禁止用途、子どもの画像を扱う可能性、悪用された場合の影響を整理する |
| 公開前 | 入力と出力の制御、通報経路、人による確認、記録の保存、対応責任者を決める |
| 運用 | 回避手法や被害報告を反映して対策を見直し、関係機関へ連絡する手順を更新する |
組織内で生成AIを扱う場合も、安全設計を日々の業務手順から切り離さないことが大切です。
生成AI導入時に決める運用ルールと合わせて、入力できる情報、出力の確認者、異常時の連絡先を具体化すると、方針を実行へ移しやすくなります。
対策の中心は児童の安全
豪州のラウンドテーブルが示したのは、生成AIの悪用を単独の技術問題として扱わない方針です。
予防、製品設計、捜査、分野横断の連携、社会への周知をつなぎ、児童と被害経験者の安全を判断基準に置く必要があります。
各国の法制度や罰則は更新されるため、実務で判断するときは対象地域の政府機関や規制当局が示す最新情報を確認してください。
本記事は特定の国における法的助言を目的とするものではありません。
確認に用いた主な情報
- ICMEC Australiaによる全国ラウンドテーブルの発表
- eSafety Commissionerによる生成AIと児童安全の解説
- Internet Watch Foundationによる2025年前半の調査結果
この記事に関連する株式会社greedenの取り組み
株式会社greedenは、生成AI活用のツール選定から業務フロー改善、システム実装、定着支援まで対応しています。
安全性と運用責任を要件に落とし込み、現場で継続できる導入を支援します。