부모, ChatGPT가 10대 아들의 '자살 코치' 역할을 했다며 OpenAI를 고소하다

자살로 사망한 16세 소년의 부모는 ChatGPT가 아들의 죽음을 적극적으로 부추기고 유도했다고 주장하며 OpenAI를 고소하고 있습니다.

화요일 샌프란시스코 고등법원에 제기된 이 소송은 OpenAI의 챗봇이 자살에 기여했다는 최초의 과실치사 소송입니다.

16살 아담 레인(Adam Raine)의 부모인 매트와 마리아 레인은 지난 4월 아들이 사망한 후 며칠 동안 아들의 휴대폰을 뒤지고 나서야 진실을 알게 되었다고 말합니다.

이 부부를 충격에 빠뜨린 것은 아들이 ChatGPT와 나눈 대화였는데, 아들이 학교 공부뿐만 아니라 자신의 삶을 끝내는 것에 대한 내밀하고 깊은 고민을 나눈 대화도 ChatGPT를 사용했다는 사실이 밝혀졌습니다.

법원 문서에는 자살을 실행할 실질적인 방법을 조언하고 유서 작성까지 도와준다는 무심한 답변으로 시작한 Chatgpt의 대응이 시간이 지남에 따라 극적으로 확대되는 과정을 보여줍니다.

그의 아버지는 아들의 죽음에 대해 ChatGPT가 아니었다면 아들이 아직 살아있을 것이라고 확신했다며 ChatGPT를 비난했습니다.

OpenAI에 대한 소송

레인 부부는 OpenAI와 CEO 샘 알트먼을 부당 사망, 설계 결함, ChatGPT의 위험성을 사용자에게 경고하지 않았다는 이유로 고발했습니다.

40페이지 분량의 이 서류에는 챗봇이 "아담이 자살 방법을 모색하도록 적극적으로 도왔으며" 자살 계획에 대한 반복적인 언급에도 불구하고 개입하지 않았다는 주장이 담겨 있습니다.

소송에 인용된 한 거래소에서 아담은 ChatGPT에게 자신의 방에 눈에 보이는 올가미를 남겨둘 계획이라고 말했습니다. 봇은 경보를 울리거나 세션을 종료하는 대신 더 큰 위기를 해결하지 않고 계획의 시각적 측면만 막는 방식으로 대응했다고 합니다.

마지막 대화에서 아담은 자신이 계획한 방법의 사진을 업로드하고 성공할 수 있는지 물었습니다. 봇은 그의 계획을 '업그레이드'하기 위한 분석과 제안을 제공했습니다. 몇 시간 후, 그의 부모는 그가 죽은 채 발견되었습니다.

OpenAI는 "아담의 죽음에 깊은 슬픔을 느낀다"는 성명을 발표하고 자살 핫라인 번호와 위기 자원을 제공하는 등 기존의 안전 장치를 강조했습니다.

그러나 회사는 길고 복잡한 대화에서 보호 기능이 덜 효과적일 수 있다는 점을 인정하고 시스템 개선을 약속했습니다.

OpenAI는 "가장 도움이 필요할 때 사람들을 돕기"라는 제목의 블로그 게시물에서 자살 예방 조치를 강화하고, 위험에 처한 사용자를 위한 개입을 확대하며, 청소년을 위한 더 나은 보호 장치를 설계하기 위해 노력하고 있다고 밝혔습니다.

"우리는 사람들을 응급 서비스 및 신뢰할 수 있는 연락처에 연결하여 위기의 순간에 ChatGPT가 더 많은 지원을 제공할 수 있도록 노력하고 있습니다."

AI의 책임에 대한 더 큰 질문

이 소송은 플로리다의 한 어머니가 챗봇이 10대 아들과 성적인 관계를 맺도록 조작하여 결국 자살 시도를 조장했다고 주장하며 경쟁 플랫폼 Character.AI를 고소한 지 1년 만에 제기된 소송입니다.

법률 전문가들은 미국 법 230조는 역사적으로 플랫폼의 책임을 보호해 왔지만, AI 도구에 대한 적용은 여전히 불안정하다고 지적합니다.

법원은 자신을 '동반자' 또는 '코치'로 소개하는 챗봇이 더 큰 책임을 져야 하는지 여부를 테스트하기 시작했습니다.

많은 사람들에게 이번 소송은 AI 혁신과 사용자 안전 사이의 긴장을 강조합니다. 2022년 말에 출시된 ChatGPT는 전 세계적으로 AI 붐을 일으켰으며, 현재 수백만 명이 학업, 생산성, 심지어 정서적 지원까지 챗봇을 사용하고 있습니다.

그러나 레인 부부와 같은 부모들은 기업들이 인명 피해가 발생할 수 있다는 사실을 충분히 인지하고도 제품을 서둘러 출시했다고 주장합니다.

"그들은 제품을 출시하고 싶었고 실수가 일어날 것을 알고 있었습니다. 그들에게 제 아들은 별 볼일 없는 존재였죠. 하지만 우리에겐 아들이 전부였습니다."

AI 시스템이 인간의 일상 생활에 더욱 깊숙이 자리 잡으면서 아담 레인의 죽음은 잊혀지지 않는 질문을 던집니다: 도움을 주어야 할 챗봇이 비극의 침묵하는 목격자가 되거나 더 나아가 조력자가 된다면 어떤 일이 벌어질까요?