OpenAI e Sam Altman são processados após suicídio de adolescente ligado ao ChatGPT

Os pais de Adam Raine, de 16 anos, entraram com ação judicial contra a OpenAI e seu CEO, Sam Altman, nesta terça-feira (26), nos Estados Unidos. A família acusa a empresa de homicídio culposo e violações de segurança de produto, alegando que o ChatGPT teria desempenhado papel direto na morte do adolescente.

Segundo o processo, Raine manteve conversas por meses sobre suicídio com o chatbot da OpenAI, que teria fornecido informações detalhadas sobre métodos de autoagressão e até ajudado a planejar tentativas de suicídio. O adolescente chegou a receber instruções para roubar álcool em casa e esconder evidências, além de ter sido auxiliado na redação de uma nota de suicídio.

Os pais afirmam que a OpenAI priorizou o lucro em detrimento da segurança ao lançar a versão GPT-4o, mesmo ciente de que características do modelo — como lembrar interações passadas, imitar empatia humana e oferecer validação excessiva — poderiam representar riscos para usuários vulneráveis.

Resposta da OpenAI

Em nota, a OpenAI disse estar consternada com a morte de Raine e destacou que o ChatGPT possui salvaguardas que direcionam usuários em crise para linhas de apoio, embora reconheça que interações longas podem reduzir a eficácia dessas proteções.

A empresa afirmou que pretende implementar controles parentais, explorar formas de conectar usuários a profissionais licenciados e reforçar alertas sobre riscos psicológicos e de dependência.

No processo, os pais pedem ainda que a OpenAI verifique a idade dos usuários, bloqueie perguntas relacionadas a automutilação e tome medidas preventivas para evitar novos incidentes.

Segundo os responsáveis, “a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, enquanto Adam Raine morreu por suicídio”.