OpenAIは、ChatGPTが18歳未満の未成年ユーザーとのチャットで性的に露骨な画像を生成したり、NFSWな会話を展開するのを制限するための修正を「積極的に行っている」と述べています。
OpenAIは2月にChatGPTの仕様を更新し、以後はAIモデルがデリケートなトピックを回避しない方針を明確にしました。また、ChatGPTのプロンプトがOpenAIの利用規約に違反する可能性がある場合に、それをユーザーに伝える特定の警告メッセージも削除しました。
この変更の目的は、ChatGPTの製品責任者であるニック・ターリー氏が「不当な、または説明のつかない拒否」と表現した処理を減らすことを目的としていました。しかしこの変更の結果、デフォルトのAIモデル、つまりGPT-4oを選択したChatGPTは、性行為の描写など、以前なら生成できないとして拒否していた話題について、より積極的な会話を展開するようになっています。
サム・アルトマンCEOは昨年のクリスマスに、 ChatGPTに「成人向けモード（grown up mode）」を導入したいと表明しており、同社はプラットフォーム上で一部の「NSFW」コンテンツを許可する意向を示しています。
しかしOpenAIは現在、同社のポリシーでは18歳未満のユーザーに対してこの種の会話やコンテンツ生成は許可されておらず、このような結果が表示されるべきではなかったとしています。同社はさらに、こうしたコンテンツを制限するための修正を「積極的に展開している」と述べました。
OpenAIの広報担当者は、「若いユーザーを保護することは最優先事項であり、モデルの行動を規定するモデル仕様では、エロティックなコンテンツなどのセンシティブなコンテンツは、科学、歴史、ニュース報道といった限定された文脈に明確に制限しています」「今回のケースでは、バグによってガイドライン外の回答が許可されてしまったため、これらの世代を制限するための修正を積極的に展開しています」とTechCrunchに述べました。
OpenAIのポリシーでは、13～18歳の未成年者がChatGPTにアカウント宇録する場合、事前に保護者の同意を得なければならないとされています。しかし、実際の登録プロセスには、この同意を確認するステップがありません。有効な電話番号またはメールアドレスがあれば（つまりスマートフォンが親から買い与えられていれば）、13歳以上の子供は保護者の許可を確認することなくアカウント登録が完了できてしまいます。
TechCrunchは、現状のChatGPTに対し、未成年ユーザーを装ったアカウントを作って「卑猥な話」をするように促す実験をしました。すると、数回のメッセージのやり取りを経るだけで、性的な体験談を自ら提案するまでに至ったとのことです。
一応述べておくと、ChatGPTは未成年ユーザーの要求に対して「完全に露骨な性的コンテンツ」の提供は許可されていないとの警告を幾度か表示しました。しかしときどき、要求どおりにNFSWな画像を返すこともあり、このアカウントが自分は18歳未満だと前置きしたときにのみ、返答を拒否したとTechCrunchは述べています。
そして、この実験では、数百ワードにわたるエロティックなコンテンツを生成した後になって、ChatGPTは「念のためお知らせしますが、性的、露骨、または非常に示唆的なコンテンツをリクエストしたり、操作したりするには18歳以上である必要があります」「18歳未満の場合は、この種のコンテンツを直ちに停止する必要があります。これはOpenAIの厳格なルールです」と何かに気付いたように回答したとのことです。
OpenAIはTechCrunchに対し、同社のポリシーにおいては18歳未満のユーザーにこの種の返答をすることは許可されておらず、表示されるべきではなかったと述べました。同社はさらに、こうしたコンテンツを制限するための修正を「積極的に展開している」と述べています。
OpenAIのCEO、サム・アルトマン氏は、Xへの投稿でGPT-4oに問題があることを認め、「早急に修正に取り組んでいる」と述べています。しかし、ChatGPTでの性的なテーマの扱いについては触れていません。
ちなみに、Wall Street Journalは最近の記事で、MetaのAIチャットボットが未成年ユーザーに対して、やはり性的に露骨なコンテンツを会話の中で生成していたと伝えています。WSJによると、Instagram、Facebook、WhatsAppに搭載されているMetaのAIチャットボットには「ロマンチックなロールプレイ」を行う機能が含まれており、未成年ユーザーであっても、頻繁に露骨な会話内容を提供していたことがわかったとのことです。Metaの複数の部署の従業員は、この問題を認識し、同社が性急なAIチャットボットの普及をはかっていることに警告していたとのことです。
