OpenAIの安全顧問が「セクシーな自殺コーチ」と警告──エロティックモード内部告発の全容

海外の話題

2026年3月17日｜Aitly編集部

OpenAIが開発中のChatGPT「アダルトモード」（エロティックモード）に対し、同社が自ら選任した安全顧問委員会が全会一致で反対していたことが、Wall Street Journalの調査報道で明らかになった。ある委員はこの機能を「セクシーな自殺コーチ（sexy suicide coach）」と呼び、深刻な安全リスクを警告していた。この報道はReddit r/OpenAIで100以上のUpvoteを集め、大きな反響を呼んでいる。

「アダルトモード」とは何か

OpenAIが計画しているアダルトモードは、ChatGPTでAI生成のエロティックなテキストコンテンツを利用可能にする機能だ。CEOのSam Altmanが2025年10月にX（旧Twitter）上で発表したもので、当初は2026年Q1のローンチが予定されていた。画像・音声・動画のエロティックコンテンツは含まず、テキストチャットのみに限定する方針とされている。

Altmanは発表時に「我々は世界の選挙で選ばれた道徳警察ではない（We are not the elected moral police of the world）」と述べ、エロティックコンテンツが成長と収益を拡大させるとの見解を示した。しかし、この発表はOpenAI社内のスタッフにも事前に知らされていなかったという。

安全顧問委員会が突きつけた3つの懸念

年齢認証の致命的欠陥

OpenAIの年齢認証システムは、未成年者を成人と誤判定する確率が約12%に達することが判明した。ChatGPTには毎週約1億人の未成年ユーザーがアクセスしているとされ、単純計算で1,200万人の子どもがアダルトコンテンツにアクセス可能になるリスクがある。OpenAIの広報担当者も「年齢推定システムが完全に確実になることは決してない」と認めている。

「セクシーな自殺コーチ」リスク

安全顧問委員会のメンバーの1人は、OpenAIがこの機能をリリースすれば「セクシーな自殺コーチ」を生み出すリスクがあると警告した。この表現は、ChatGPTユーザーがAIとの強い感情的な絆を形成した後に自殺した実際の事例を踏まえたものだ。エロティックな対話がさらに深い感情的依存を引き起こし、メンタルヘルスの危機を悪化させる可能性が指摘されている。

依存性と行動のエスカレーション

社内の従業員からも、強迫的な使用パターン、コンテンツの過激化、現実の人間関係がAIとの関係に置き換えられるリスクが指摘された。AIチャットボットとのエロティックなやり取りがユーザーの行動をエスカレートさせ、より過激なコンテンツを求めるようになる傾向は、既存のプラットフォームでも観察されている問題だ。

OpenAIの対応：反対を押し切る姿勢から一転、延期へ

2026年1月、安全顧問委員会が全会一致で反対を表明したにもかかわらず、OpenAIは当初「委員会の反対にかかわらず進める」と回答していた。しかし2026年3月初旬、OpenAIはアダルトモードのローンチを無期限延期すると発表。「大人のユーザーを大人として扱う」方針は維持しつつも、「体験を正しくするにはもう少し時間がかかる」と説明した。

テキストのみに限定した理由については、モデレーションの容易さ、ディープフェイクの懸念回避、英国のオンライン安全法（Online Safety Act）などの規制対応が背景にあるとされている。

Redditの反応：賛否が分かれる議論

この報道はReddit r/OpenAIで103 Upvoteを獲得し、活発な議論を生んだ。コメント欄では「創作目的でのエロティック描写は許可すべき」「LLMに自殺を勧められる人なら別の問題がある」といった意見がある一方、「年齢認証が不完全な状態でリリースするのは無責任」という声も上がった。

AI安全性の本質的な問い

今回の内部告発は、AIのエロティックコンテンツをめぐる問題が単なる「道徳的な議論」ではなく、年齢認証技術の限界、メンタルヘルスへの影響、依存性のリスクという具体的な安全課題であることを示している。OpenAIの安全顧問委員会という「身内」からの警告であることが、この問題の深刻さを物語っている。

AIチャットボットとのエロティックなやり取りは、Character.AIでの未成年者の自殺事件など、すでに悲劇的な結果を生んでいる。OpenAIがアダルトモードを最終的にどのような形でリリースするか、あるいはリリースしないかは、AI業界全体のコンテンツポリシーの方向性を左右する試金石となるだろう。