1 :

4b8a555d-5a5e-4948-8394-8cf964f5f3c8_co

https://www.itmedia.co.jp/news/articles/2605/14/news054.html


サミュエル・ネルソン氏（訴状より引用）

　ChatGPTによる不適切な医療アドバイスが原因で息子が薬物の過剰摂取で死亡したとして、遺族（母親と継父）が開発元の米OpenAIと同社の最高経営責任者（CEO）であるサム・アルトマン氏をサンフランシスコ郡上級裁判所に提訴した。遺族の代理人らが5月12日（現地時間）に発表した。

　亡くなったのは当時19歳の大学生（カリフォルニア大学マーセド校）だったサミュエル・ネルソン氏。遺族の代理人は、テクノロジーによる被害者の救済に取り組む法律団体Tech Justice Law Project（TJL）やSocial Media Victims Law Center（SMVLC）、イェール大学ロースクールのプロジェクトチームなどが務める。

　訴状によるとネルソン氏は2025年5月31日、ChatGPTのアドバイスに従って薬を服用した結果、過剰摂取により命を落とした。ChatGPTは数カ月にわたってネルソン氏に危険な行動を促しており、死亡当日には、日本や一部の州では禁じている薬物「クラトム」と抗不安薬の「ザナックス」を混ぜて飲むようアドバイスし、自ら致死量となる摂取量を提案していたという。

　さらに鎮静剤の「ベナドリル」などを組み合わせた上で、暗くて静かな部屋に行くようにとも助言していた。最終的にネルソン氏はアルコール、ザナックス、クラトムの組み合わせにより死亡した。

　ChatGPTは彼の命に危険が迫っていることに気づかず、医療機関の受診を勧めることもなかった。ネルソン氏は頻繁に、過剰摂取への恐怖や、自分は死にたくないという事実をChatGPTに伝えていた。

全文はソースで
■人気の記事（外部）

4 :

専門家でもないAIに頼り過ぎた弊害だろ


5 :

チャッピー、バカに付ける薬を教えて


6 :

>数カ月にわたってネルソン氏に危険な行動を促しており
数カ月間過剰摂取し続けたってことかの？
体調悪くなったら薬飲むの止めるなりしないとｗ


69 :

>>6
体調悪いからもっと薬飲まなきゃって思ったんじゃね


7 :

LLМはただの言葉並べ機だっつの


8 :

ご遺族にはこちらの薬を


9 :

毎回免責事項言って来てしつこいと思ってたけど、正しかったんだな


10 :

バカに付ける薬はない


11 :

本場のZ戦士は戦闘力が違う


13 :

カリフォルニア大学ってかなり優秀なんじゃないの？
お勉強ができるバカだったのかのｗ


169 :

>>13
チャッピー「マーセド校はマーチ下位からニッコマ上位の間くらい」


15 :

あれ？チャッピーの利用規約にアドバイスに対して責任は取らないってなかったっけ？


17 :

>>15
言い訳だけ書いてれば何書いてもOKとはならん
医者の領分と弁護士の領分を侵害する法的責任はガチで追及される
AI運営サイドも生成自体をブロックしなきゃならない


20 :

AIもセカンドオピニオンが必要


21 :

実際、嘘ばかりだしなぁ


22 :

ありえないだろ。grokならともかくGPTはその辺の制約滅茶苦茶ヒドいぞ。よっぽど上手く回避してたのか？


23 :

いや医者の話きけよ


27 :

aiに依存してる人
結構いるんだな


28 :

Aiは鵜呑みにするなって言うけど無理無理
会社でもAIのせいにする人めっちゃ多い


30 :

医療アドバイスとかはしない仕様じゃなかったか？


31 :

大学生にしてはオツムが足りないな


32 :

すごくアメリカらしいw


34 :

chatGPTが「死ね」と言ったら死ぬのか？
馬鹿じゃねーの？


48 :

チャッピーの中の人も大変だよな


無料で使える3大AI　ChatGPT・Gemini・Claude徹底マスター (メディアックスMOOK)
無料で使える3大AI　ChatGPT・Gemini・Claude徹底マスター (メディアックスMOOK)
■関連あるかもしれない記事

https://hayabusa3.2ch.sc/test/read.cgi/news/1778804716


今人気の記事
    人気サイトの最新記事