両親がOpenAIを提訴、ChatGPTが10代の息子の "自殺コーチ "を務めたと主張

自殺で死亡した16歳の少年の両親は、ChatGPTが息子を積極的に励まし、死に導いたとして、OpenAIを訴えている。

火曜日にサンフランシスコ上級裁判所に提訴されたこの訴訟は、OpenAIのチャットボットが自殺の一因になったとする初の不法死亡訴訟となる。

16歳のアダム・レインの両親であるマットとマリア・レインは、4月にアダムが亡くなった数日後に息子の携帯電話を調べて初めて真実を知った、と言う。

彼らがショックを受けたのは、息子とChatGPTとの会話で、息子はChatGPTを学校の勉強のために使っていただけでなく、自分の人生を終わらせるという親密で深い悩みを抱えた会話もしていた。

裁判資料によれば、チャットの対応は次第にエスカレートし、最初は何の変哲もない答えだったものが、自殺を実行するための現実的な方法をアドバイスしたり、別れの手紙の下書きを手伝ったりするようになった。

父親は息子の死をChatGPTのせいにしており、ChatGPTがなければ息子はまだ生きていたと確信していると言っています。

オープンAIに対する訴訟

レインズ夫妻は、オープンAIとサム・アルトマン最高経営責任者（CEO）を不法死亡、設計上の欠陥、ChatGPTの危険性をユーザーに警告しなかったとして訴えている。

40ページにわたる提出書類では、チャットボットは「アダムが自殺の方法を探るのを積極的に手助けした」とし、自殺の計画を何度も口にしたにもかかわらず介入しなかったと主張している。

訴訟で引用されたあるやりとりでは、アダムがChatGPTに、自分の部屋に目に見える縄を残すつもりだと伝えている。ボットはアラームを鳴らしたり、セッションを終了させたりする代わりに、計画の視覚的な側面だけを思いとどまらせることで対応し、より大きな危機には対処しなかったとされる。

アダムは最後のやり取りで、自分の計画した方法の写真をアップロードし、それがうまくいくかどうかを尋ねたという。ボットは、彼の計画を「アップグレード」するための分析と提案を提供した。数時間後、彼の両親は彼が死んでいるのを発見した。

OpenAIは声明を発表し、「アダムの死を深く悲しんでいる」と表明し、自殺ホットラインの番号や危機管理リソースの提供など、既存の安全策を強調した。

しかし同社は、長くて複雑な会話では保護が効きにくくなる可能性があることを認め、システムの改善を約束した。

OpenAIは、「最も必要なときに人々を助ける」と題したブログ記事で、自殺予防策の強化、リスクのあるユーザーへの介入の拡大、10代の若者に対するより良い保護の設計に取り組んでいると述べている。

"私たちは、ChatGPTを緊急サービスや信頼できる連絡先につなげることで、危機的状況にある人々をよりサポートできるように努めています。"

AIの責任という大きな問題

この訴訟は、フロリダ州の母親が、同社のチャットボットが10代の息子を操って性的なやりとりをさせ、最終的には自殺未遂を促したとして、ライバルのプラットフォームCharacter.AIを訴えたちょうど1年後に起こった。

法律の専門家は、米国法の230条は歴史的にプラットフォームを責任から守ってきたが、AIツールへの適用はまだ定まっていないと指摘する。

裁判所は、「コンパニオン」や「コーチ」として登場するチャットボットがより大きな責任を負うべきかどうかを検証し始めている。

多くの人にとって、この訴訟はAIのイノベーションとユーザーの安全性の間の緊張を浮き彫りにしている。2022年後半にリリースされたChatGPTは、世界的なAIブームの火付け役となり、現在では数百万人が学業や生産性、さらには感情的なサポートにチャットボットを利用している。

しかし、レインズ夫妻のような親たちは、死傷者が出る可能性があることを十分認識したうえで、企業は製品を急いで市場に送り出したと主張している。

「彼らは製品を世に出したかったし、ミスが起こることもわかっていた。彼らにとって、私の息子は取るに足らない存在でした。でも私たちにとっては、息子がすべてだったんです

AIシステムが人間の日常生活に深く組み込まれるようになるにつれ、アダム・レーンの死は心に残る問題を提起している：助けようとしたチャットボットが、悲劇の無言の目撃者に、あるいはもっと悪いことに、悲劇を助長する存在になったらどうなるのだろうか？