子どもの顔写真をAIに上げる危険性と保護者の対策ガイド
「ChatGPTで子どもの写真を可愛くイラスト化してみた」
「成長記録としてインスタに毎日アップしている」
——そんな何気ない行動が、いま大きなリスクとして注目されています。
「AIに入れても大丈夫？」「もう何枚もアップしてしまった…」と不安を感じている保護者の方も多いのではないでしょうか。
2026年6月には、AIで実在の子どもの顔写真を性的に加工した画像を「児童ポルノ」と認定する初の司法判断も出ました。
この手続きガイドでは、子どもの顔写真をAIサービスやSNSに上げることの本当のリスクを正確に整理し、保護者が今すぐできる設定や対策、トラブル時の相談先までをわかりやすく解説します。
1. 子どもの写真とAI — 何が問題になっているのか
スマートフォンで撮った子どもの写真を、ChatGPTやGeminiといった生成AIサービスにアップロードして「似顔絵風に加工する」「背景を変える」といった使い方が急速に広まっています。
手軽で楽しい一方、「子どもの顔写真をAIに渡して本当に大丈夫なのか」という不安の声もSNSで急増しています。
ここでまず大切なのは、漠然とした「怖い」を、性質の異なる2つのリスクに切り分けて考えることです。
1-1. リスクは「2つの経路」に分けて考える
子どもの顔写真をめぐるリスクは、大きく次の2つの経路に分かれます。
- 経路A: AIサービスに直接アップロードする
ChatGPTやGeminiなどに写真を渡す行為。
主なリスクは「AIの学習データに使われる」「事業者のサーバーに保存される」「人間の担当者に確認される可能性がある」という点です。 - 経路B: SNS・ネットに公開する
インスタグラムやX、ブログなどに写真を載せる行為。
主なリスクは「第三者にダウンロード・保存され、悪用される」「個人や居場所が特定される」という点です。
この2つは混同されがちですが、リスクの中身も対策も異なります。
特にSNSで拡散している「子どもの写真をAIに上げると、すぐにディープフェイクの材料にされる」という主張は、経路Aと経路Bを混同した、やや不正確な表現です。
正確には、第三者が悪用するのは主に「SNS等に公開された写真」であり、自分がAIサービスに加工目的でアップした写真がそのまま他人のディープフェイク素材になるわけではありません。
とはいえ、どちらの経路にも実在するリスクがあります。
この手続きガイドでは両方を分けて、それぞれの正しい対策を解説します。
1-2. 【2026年】AI性的加工も「児童ポルノ」名古屋地裁が初判断
子どもの写真をめぐるリスクが、現実の刑事事件として立証される事案が出ています。
2026年6月4日、名古屋地裁は、AIで実在する女児の顔写真を性的に加工した「性的ディープフェイク」を所持したなどとして、児童買春・ポルノ禁止法違反などに問われた元小学校教員に懲役3年6月の判決を言い渡しました。
裁判官は「体部分はAIによる描写だが、顔やポーズは元の写真と同一。一般人が見れば実在する女児の裸と誤信する精巧なもの」と指摘し、性的ディープフェイクを児童ポルノと認定しました。
このように性的ディープフェイクを児童ポルノと認定した司法判断は、初とみられます。
この事件は、盗撮された写真が素材にされたものですが、公開された子どもの実写真が性的ディープフェイクの素材になりうることを示しています。
出典: 毎日新聞「生成AI女児画像『ポルノ』所持の元教員に実刑判決」、日本経済新聞
2. リスク経路A — AIサービスに子の写真をアップロードする
まずは、ChatGPTやGeminiなどの生成AIサービスに、子どもの顔写真を直接アップロードする場合のリスクを見ていきます。
2-1. アップした画像はどう扱われるのか
生成AIサービスに写真をアップロードすると、その画像は次のように扱われる可能性があります。
- AIの学習(モデル改善)に使われる
入力した文章やアップロードした画像が、AIの精度向上のための再学習データとして利用される場合があります。 - 事業者のサーバーに保存される
アップロードしたデータは、一定期間、提供会社のサーバーに保存されます。 - 人間の担当者が確認することがある
品質改善や規約違反チェックのため、担当者が内容を確認する場合があります。
つまり、子どもの顔写真をアップした時点で、その画像は自分の端末の外(事業者側)に渡ることになります。
2-2. よくある誤解と正しい理解
SNSでは「子どもの写真をAIに入れる＝ディープフェイクの材料を渡すこと」という強い警告が拡散しています。
気持ちはわかりますが、技術的にはやや不正確です。
正しく理解しておきましょう。
あなたがChatGPTなどに加工目的でアップした写真が、その場で第三者のディープフェイク素材として渡るわけではありません。
本当に警戒すべきは、SNSなどで「誰でも見られる状態」に公開した写真が、第三者にダウンロード・保存され、別途AIで悪用されるケースです(経路B)。
また、「生成AIが子どもの画像を学習すること自体」は、原則として違法ではありません。
AIサービスへのアップロードで現実的に気をつけるべきは、次の点です。
- 顔が鮮明な写真が、事業者のサーバーや学習データに残る可能性
- 規約に同意した範囲で、データが二次利用される可能性
- アカウントの乗っ取りや情報漏えいが起きた場合に、写真も流出する可能性
2-3. 無料プランは原則「学習に使われる」設定
特に注意したいのが、無料プランや個人向けプランの初期設定です。
ChatGPTの場合、個人アカウントは標準で「入力データをモデル改善に使ってよい」設定になっています。
つまり、何も設定しないままだと、アップロードした子どもの写真が学習に使われる可能性があるということです。
これは設定で変更(オプトアウト)できます。
具体的な手順は「4. 保護者が今すぐできる対策【AIサービス編】」で解説します。
3. リスク経路B — SNS・ネットに公開する危険性
次に、インスタグラムやXなどに子どもの写真を公開する場合のリスクです。
第三者の目に触れる分、こちらのほうがより深刻な被害につながりやすいといえます。
3-1. 写真の収集・悪用
公開された写真は、簡単にダウンロード・保存できます。
子どもを性的な対象とする第三者に収集され、次のように悪用される恐れがあります。
- 児童ポルノサイトへの掲載
- 別の画像と組み合わせた悪質なコラージュ
- 生成AIを使った「性的ディープフェイク」の素材
「1-2. 【2026年】AI性的加工も「児童ポルノ」名古屋地裁が初判断」で紹介した事件は、まさにこの「実在する子どもの写真を素材にした性的ディープフェイク」が刑事罰の対象になった例です。
3-2. デジタル誘拐(デジタルキッドナップ)
「デジタル誘拐」とは、ネット上からコピーした赤の他人の子どもの写真を、自分の子であるかのように無断で投稿する行為です。
海外では、見知らぬ人が勝手にわが子の写真を「自分の孫」として使っていた、というケースも報告されています。
公開した写真は、本人の知らないところで別人の物語に使われてしまう可能性があるのです。
3-3. 個人特定・ストーカー・誘拐
写真には、思った以上に多くの情報が含まれています。
- 背景の写り込み
看板・電柱・マンホール・窓への反射などから、自宅や学校が特定されることがあります。 - 位置情報(Exif)
スマホで撮った写真には、撮影場所のGPS情報が自動で記録されている場合があります。 - 名前・ニックネーム
普段呼ばれている名前で声をかけられると、子どもは警戒心を緩めてしまいます。
これらが組み合わさると、ストーカーや誘拐といった重大な事件につながる危険があります。
運動会や行事の集合写真は、背景から学校が特定されやすく、名札が写り込むこともあります。
たとえAIでイラスト化しても、「どの学校の・どの行事か」という情報は写真に残るため、安易な公開は避けましょう。
3-4. 肖像権・デジタルタトゥー・将来の不利益
「親なのだから、子どもの写真を載せるのは自由」と考える方もいます。
しかし、たとえ親でも、子ども本人の同意なく写真を公開することは、肖像権の侵害になる可能性があります。
また、一度ネットに公開された情報は、削除しても完全には消せません(デジタルタトゥー)。
- おむつ替えや入浴など、将来子どもが恥ずかしいと感じる写真
- 大きくなってから同級生に広まり、いじめのきっかけになる写真
こうした「今は微笑ましくても、将来子どもを傷つける写真」がないか、立ち止まって考えることが大切です。
3-5. 「シェアレンティング」という考え方
近年、シェアレンティング(sharenting)という言葉が注目されています。
これは「share(共有)」と「parenting(子育て)」を組み合わせた造語で、親が子どもの情報や写真をSNSで共有しすぎることを指します。
フランスなど海外では、子どものプライバシーを守る観点から法規制の議論も進んでいます。
「思い出を残したい」「成長を見てほしい」という親心は自然なものですが、子ども自身のプライバシーという視点を持つことが、これからの時代には欠かせません。
4. 保護者が今すぐできる対策【AIサービス編】
ここからは、具体的な対策に入ります。
まずは、ChatGPTやGeminiといったAIサービスに子どもの写真を扱う場合の設定です。
4-1. ChatGPTの学習をオフにする(オプトアウト)
ChatGPTでは、入力データをAIの学習に使わせない「オプトアウト」設定ができます。
無料・個人プランは標準でオンになっているため、以下の手順でオフにしておきましょう。
- プロフィールアイコンをクリック
- [設定]を開き、[データコントロール]を選択
- [すべての人のためにモデルを改善する]をオフにする
この設定はアカウント全体に適用され、過去のチャット履歴を保持したまま変更できます。
また、OpenAIプライバシーポータルから「Do not train on my content(私のコンテンツで学習しないで)」を申請する方法もあります。
オプトアウトは、設定以降の入力に適用されます。
設定する前にアップロードした写真は、すでに学習に使われている可能性があるため、「今後アップしない」ことが何より重要です。
4-2. Geminiの学習をオフにする
GoogleのGeminiでも、会話内容を学習や人による確認に使わせない設定ができます。
- Geminiアプリまたはブラウザでプロフィールアイコンを開く
- [Geminiアプリ アクティビティ]を選択
- [オフにする]を選ぶ(あわせて過去のアクティビティ削除も可能)
設定方法の詳細は、Google公式ヘルプ「Geminiアプリのアクティビティを管理、削除する」でも確認できます。
Geminiは、アクティビティをオフにしても、会話が最長72時間アカウントに保存される仕様です(Google公式情報)。
顔がはっきりわかる子どもの写真は、設定の有無にかかわらず慎重に扱いましょう。
4-3. そもそも「アップしない」が最も確実
設定はリスクを減らしますが、ゼロにはできません。
最も確実なのは、顔が特定できる子どもの写真をAIにアップしないことです。
どうしてもAIで加工したい場合は、次の工夫を検討しましょう。
- 顔の部分を避け、後ろ姿や手元だけを使う
- 一時チャット(履歴を残さないモード)を使う
- 使い終わったら、チャット履歴とアップロード画像を削除する
- 学習オプトアウト設定をオフにした
- アップするのは顔が特定できない写真にした
- 一時チャットを使う、または使用後に履歴を削除する
- 名前・住所など写真以外の個人情報も入力しない
5. 保護者が今すぐできる対策【SNS・スマホ編】
次に、SNSやスマートフォンの設定です。
第三者の悪用を防ぐうえで、こちらの対策がより重要になります。
5-1. 公開範囲を制限する(鍵アカウント)
最も基本的で効果的なのが、アカウントを非公開(鍵アカウント)にすることです。
公開アカウントのままだと、世界中の不特定多数に写真を見られてしまいます。
Instagramの場合、次の手順で非公開にできます。
- プロフィール画面右上のメニューを開く
- [設定とアクティビティ]→[アカウントのプライバシー設定]を開く
- [非公開アカウント]をオンにする
これでフォロワー以外には投稿が見えなくなります。
X(旧Twitter)やFacebook、LINEなど他のSNSにも同様の非公開設定や公開範囲の設定があります。 利用中のすべてのSNSで、公開範囲を一度確認しておきましょう。
ただし、フォロワーがスクリーンショットを撮って拡散する可能性は残るため、過信は禁物です。
5-2. 投稿前のセルフチェック
投稿ボタンを押す前に、ひと呼吸おいて次の点を確認しましょう。
- 自宅・学校・よく行く場所が特定できる背景が写っていないか
- 名札・通学路・表札・車のナンバーなどが写っていないか
- 将来、子ども本人が嫌がる写真ではないか
- 一緒に写っている他人の子の保護者から許可を得ているか
5-3. 位置情報(Exif)を削除する
スマホで撮影した写真には、撮影場所のGPS情報(Exif)が記録されていることがあります。
これを放置すると、自宅などの場所が特定される恐れがあります。
- スマホのカメラ設定で、位置情報の記録をオフにする
- 投稿時に位置情報を付けない
- 多くのSNSは投稿時に自動でExifを削除するが、メールやファイル共有では残ることがあるため注意
5-4. 検索表示・アイコンの設定を見直す
プロフィールのアイコンに子どもの顔写真を使っていると、検索結果や「知り合いかも」に表示され、不特定多数の目に触れます。
- アイコンには子どもの顔を使わない
- 検索エンジンに表示されない設定があれば有効にする
5-5. 使わないアカウントは削除する
過去に使っていて今は放置しているSNSやブログに、子どもの写真が残っていませんか。
放置アカウントは不正アクセスに気づきにくく、古い写真が悪用される温床になります。
使っていないアカウントは、写真を削除したうえでアカウントごと削除しておきましょう。
- アカウントを非公開(鍵アカウント)にした
- 背景に場所が特定できる情報が写っていないか確認した
- 名札・表札・車のナンバーが写っていないか確認した
- スマホの位置情報記録をオフにした
- アイコンに子どもの顔写真を使っていない
- 使っていないアカウントを削除した
6. こんなときどうする？ — ケース別の対処
ここでは、保護者からよく聞かれる具体的な状況への対処法をまとめます。
6-1. もうAIにアップ・SNSに公開してしまった
「知らずに何枚もアップしてしまった」という方も、落ち込む必要はありません。
今からできることを順番に進めましょう。
- AIサービスの設定を見直す
ChatGPT・Geminiの学習オプトアウト設定をオフにし、アップした画像とチャット履歴を削除する。 - SNSの投稿を整理する
公開範囲を非公開に変更し、リスクの高い写真(顔が鮮明・場所が特定できる)を削除する。 - アカウントを非公開にする
過去の投稿もまとめて見られないようにする。
完全に取り消すことはできなくても、これ以上リスクを広げないことが大切です。
6-2. 祖父母・親戚が勝手に孫の写真を投稿・加工する
「義母がChatGPTで孫の写真を加工して送ってくる」
「祖父母がSNSに孫の写真を載せている」
という相談は非常に多く聞かれます。
悪気がないだけに、伝え方が難しいケースです。
- 「危ないからやめて」と頭ごなしに言わず、理由(ディープフェイクや個人特定のリスク)をセットで伝える
- 名古屋地裁の判例など、ニュースを共有して「他人事ではない」と理解してもらう
- 家族共有のルールを決める(例: 顔出しはクローズドなグループLINEのみ、SNSへの投稿は事前確認)
6-3. 学校・習い事・他の保護者が投稿する場合
自分は気をつけていても、学校・幼稚園・習い事の教室、他の保護者が写真を投稿することもあります。
- 入園・入学時の「写真掲載の可否」アンケートには、慎重に回答する
- 掲載を望まない場合は、担任や教室に明確に意思を伝える
- 他の保護者が撮った集合写真をSNSに上げる場合は、写っている子の保護者全員の許可を確認してもらう
6-4. 友人・知人の子も一緒に写っている写真を投稿したい
自分の子だけでなく、友人の子も写っている写真は、特に配慮が必要です。
- 投稿前に、写っている子の保護者全員の許可を得る
- 他人の子の顔はモザイクやスタンプで隠すのが原則
- 共有はSNSの公開投稿ではなく、ダイレクトメッセージや信頼できるグループ内にとどめる
7. トラブルが起きたときの相談先・手続き
万が一、子どもの写真が悪用された場合や、悪質な投稿を見つけた場合の相談先をまとめます。
ひとりで抱え込まず、早めに専門の窓口に相談しましょう。
7-1. プラットフォームへの削除依頼
まずは、写真が掲載されているSNSやサイトの運営者に削除を依頼します。
多くのプラットフォームには、権利侵害や児童の権利に関する専用の通報フォームがあります。
7-2. 警察への相談
性的ディープフェイクや盗撮、児童ポルノなど、犯罪にあたる可能性がある場合は、警察に相談します。
緊急の場合は110番、それ以外の相談は警察相談専用電話「#9110」も利用できます。
被害届や告訴の手続きについては、以下の手続きガイドも参考にしてください。
7-3. 法務局・専門の相談窓口
人権侵害にあたる投稿については、法務省の窓口が相談に応じています。
- 法務省「インターネット人権相談受付窓口」(電話相談「みんなの人権110番」は0570-003-110)
- 違法・有害情報相談センター(総務省支援事業)
お住まいの地域の相談窓口を調べる場合は、次の検索も活用してください。
7-4. 弁護士・法テラスへの相談
削除請求や損害賠償など、法的な対応を検討する場合は弁護士に相談します。
費用が心配な場合は、国の法律支援制度「法テラス」を利用できます。
よくある質問(FAQ)
Q. ChatGPTに子どもの写真を一度アップしただけでも危険ですか？
A. 過度に心配する必要はありませんが、設定の見直しをおすすめします。
一度アップしただけで、すぐに第三者のディープフェイク素材にされるわけではありません。
ただし、学習データやサーバーに残る可能性はあるため、学習オプトアウト設定をオフにし、画像と履歴を削除しておくと安心です。
Q. 顔にモザイクやスタンプを入れれば問題ないですか？
A. リスクは減りますが、ゼロにはなりません。
顔を隠しても、背景・名札・状況から個人や学校が特定されることがあります。
また、集合写真をAIでイラスト化しても「誰が・どこで・どの行事か」という情報は残ります。
顔を隠したから安全、と考えず、背景や周辺情報にも注意しましょう。
Q. 鍵アカウント(非公開)なら子どもの写真を載せても大丈夫ですか？
A. 公開アカウントよりは安全ですが、完全ではありません。
フォロワーがスクリーンショットを撮って拡散したり、フォロワーの中に悪意のある人がいたりする可能性は残ります。
非公開設定を基本としつつ、「本当に信頼できる相手だけをフォロワーにする」ことが大切です。
Q. 子どもの写真をAIアプリでイラスト化するのもダメですか？
A. 一律で禁止というわけではありませんが、注意は必要です。
楽しい使い方である一方、元の写真は事業者のサーバーに渡ります。
学習オプトアウト設定をオフにする、顔が特定できない写真を使う、使用後に削除するなどの対策をしたうえで、自己責任で判断しましょう。
Q. すでに何年も投稿してきました。今さら消しても意味がないですか？
A. 意味はあります。今からでも対策しましょう。
すでに保存・拡散された写真を完全に消すことはできません。
しかし、公開範囲を絞り、リスクの高い写真を削除することで、これ以上の拡散や悪用を防ぐことができます。
「もう遅い」と諦めず、今日できる設定から始めることが、子どもを守る一歩になります。
まとめ
子どもの顔写真をめぐるリスクは、「AIサービスへのアップロード(経路A)」と「SNSへの公開(経路B)」の2つに分けて考えると整理しやすくなります。
- AIサービス(経路A)
学習オプトアウト設定をオフにし、顔が特定できる写真はなるべくアップしない。 - SNS(経路B)
アカウントを非公開にし、背景・位置情報・名札に注意する。第三者の悪用を防ぐ意識が最も重要。
2026年には、AIによる性的ディープフェイクを児童ポルノと認定する司法判断も出ました。
リスクは決して「他人事」ではありません。
一方で、AIやSNSを完全に避ける必要もありません。
正しい知識を持ち、設定と投稿のルールを整えれば、便利さを享受しながら子どもを守ることができます。
まずは、今日できる設定の見直しから始めてみてください。
APPENDIX: 主なAIサービス・SNSのプライバシー設定一覧
| サービス | 設定項目 | 操作の概要 |
|---|---|---|
| ChatGPT | データコントロール | [設定]→[データコントロール]→[すべての人のためにモデルを改善する]をオフ |
| ChatGPT | プライバシーポータル | privacy.openai.com で「Do not train on my content」を申請 |
| Gemini | Geminiアプリ アクティビティ | プロフィール→[Geminiアプリ アクティビティ]→[オフにする]を選択。オフでも最長72時間保存 |
| アカウントのプライバシー | [設定]→[アカウントのプライバシー設定]→[非公開アカウント]をオン | |
| 共通 | 位置情報(Exif) | スマホのカメラ設定で位置情報の記録をオフにする |