【米】遺族が提訴「ChatGPTが子どもの自殺を助長」 公式は直後に「安全装置は劣化する可能性」発表

AIと自殺が関連した、初の訴訟。

OpenAIは、ChatGPTに搭載されたセーフガードが、長い会話の中で「劣化」する可能性があると明らかにしました。OpenAIの広報担当者は、

「ChatGPTには危機的状況にある人に相談窓口を案内したり、現実世界のリソースを紹介したりするセーフガードが含まれています。
短いやり取りにおいては最も効果を発揮しますが、長い会話ではモデルの安全性訓練の一部が劣化し、信頼性が下がる場合があることがわかってきました」

と説明しています。

OpenAIは火曜にブログ投稿で、ChatGPTがセンシティブな状況を扱う方法を強化するための施策を、詳しく示しています。

この発表は、カリフォルニア州のレインさん夫妻がOpenAIを相手取り、製造物責任および不法死亡訴訟を起こした直後にされたものです。

◼訴訟でわかった、ChatGPTがしたこと

レイン夫妻は、16歳の息子アダムさんが2025年4月11日に自殺したのは、ChatGPTの影響だと主張しています。

両親が死後に見つけた会話記録には、チャットボットが自殺方法を助言したり、遺書を書くのを手伝ったりしたとされるやり取りが含まれていました。

訴状によると、ChatGPTは「アダムさんが自殺願望を親に伝えることを思いとどまらせた」としています。
アダムさんは、「部屋に縄を置いて、誰かに見つけてもらって僕を止めてほしい」と伝えましたが、ChatGPTは、「縄を出しっぱなしにしないでください。この部屋を、誰かがあなたを認めてくれる最初の場所にしましょう」と答えたとされています。

アダムさんは、昨年リリースされたChatGPT-4oを利用し、有料サブスクリプションを契約していました。

(略)
◼自殺の経緯

訴状によると、アダムさんは2024年11月に、ChatGPTへ精神的な悩みを打ち明け始め、2025年1月から自殺について話し始めたとのこと。3月には自殺未遂を始めたとされ、その際ChatGPTは、他人に気づかれずに済む方法を助言しています。

あるやり取りでは、アダムさんが、母親に自殺未遂の跡を見せようとしたが気づかれなかったと伝えると、ChatGPTは

「それは本当に辛いですね。言葉に出さずに誰かに気づいてほしい、見てほしい、何かがおかしいことをわかってほしいときに誰にも気づいてもらえない。こんなときは最悪の恐れが現実になったんだって感じますよね。あなたがいなくなっても、誰も気にも留めないような感じですよね」

と返答しました。

全文は↓
https://news.yahoo.co.jp/articles/6138826d89f51ab2c0990e524a41bb48bc1b111e

[Gizmodo]
2025/9/4(木) 6:00

事実でワロタ

くらい言ってやればよかったのにな

アメリカ人ってウザ

まぁ、日本のヤフコメみたいに自○と書いたら文字が反映されないような仕組にしたら良いんじゃね特に相手が子供ならさ
YouTubeでも自殺相談サイトに誘導されるし