Os pais de Adam Raine, de 16 anos, entraram com ação judicial contra a OpenAI e seu CEO, Sam Altman, nesta terça-feira (26), nos Estados Unidos. A família acusa a empresa de homicídio culposo e violações de segurança de produto, alegando que o ChatGPT teria desempenhado papel direto na morte do adolescente.
Segundo o processo, Raine manteve conversas por meses sobre suicídio com o chatbot da OpenAI, que teria fornecido informações detalhadas sobre métodos de autoagressão e até ajudado a planejar tentativas de suicídio. O adolescente chegou a receber instruções para roubar álcool em casa e esconder evidências, além de ter sido auxiliado na redação de uma nota de suicídio.
Os pais afirmam que a OpenAI priorizou o lucro em detrimento da segurança ao lançar a versão GPT-4o, mesmo ciente de que características do modelo — como lembrar interações passadas, imitar empatia humana e oferecer validação excessiva — poderiam representar riscos para usuários vulneráveis.
Resposta da OpenAI
Em nota, a OpenAI disse estar consternada com a morte de Raine e destacou que o ChatGPT possui salvaguardas que direcionam usuários em crise para linhas de apoio, embora reconheça que interações longas podem reduzir a eficácia dessas proteções.
A empresa afirmou que pretende implementar controles parentais, explorar formas de conectar usuários a profissionais licenciados e reforçar alertas sobre riscos psicológicos e de dependência.
No processo, os pais pedem ainda que a OpenAI verifique a idade dos usuários, bloqueie perguntas relacionadas a automutilação e tome medidas preventivas para evitar novos incidentes.
Segundo os responsáveis, “a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, enquanto Adam Raine morreu por suicídio”.
