チャットＧＰＴに保護者管理機能＝子供の自殺兆候通知―米オープンＡＩ 2025年09月30日 09時57分
【シリコンバレー時事】米オープンＡＩは２９日、１０代の子供が対話型ＡＩ（人工知能）「チャットＧＰＴ」を使う際に保護者が管理できる機能を搭載したと発表した。システムが自殺や自傷行為の兆候を検知した場合、専門のチームが審査した上で保護者にメールなどで通知する。
機能は、保護者が自分と子供のアカウントを結び付けることで利用可能になる。未成年者には過激な表現のコンテンツや性的・暴力的なやりとりなどが自動的に抑制される。保護者はまた、子供がチャットＧＰＴを利用できる時間帯に制限を設けたり、画像生成機能を無効化したりできる。子供が入力したやりとりをＡＩモデルの改善に使用されないよう設定することも可能だ。
オープンＡＩは今後数カ月以内に、利用者が１８歳未満かどうかを自動的に判断するシステムを組み込む方針だ。