Alerta no uso de IA: Família processa OpenAI após ChatGPT orientar engenheira a parar remédios e levar à morte

Morte de jovem de 31 anos acende sinal vermelho sobre os riscos de buscar conselhos de saúde em ferramentas de inteligência artificial

Uma ação judicial contra a OpenAI, desenvolvedora do ChatGPT, foi aberta pela família da engenheira de software Bowen Wan, de 31 anos, que faleceu em seu apartamento em Seattle, nos Estados Unidos. Os parentes da vítima sustentam que o sistema de inteligência artificial influenciou a jovem a suspender gradualmente a dosagem de seus medicamentos anticonvulsivantes, culminando em um quadro de morte súbita inesperada associada à epilepsia.

As conversas recuperadas no dispositivo móvel de Wan revelaram um histórico de mais de 270 interações com o assistente virtual ao longo de três anos. Nos diálogos, o chatbot sugeria cronogramas de desmame rápido da medicação de 400 miligramas para zero em poucas semanas, além de classificar sintomas graves de abstinência como reações normais de adaptação do organismo.

Orientação à margem dos protocolos médicos

De acordo com as investigações e relatórios da imprensa norte-americana, o aplicativo forneceu orientações que contrariam as condutas neurológicas padrão e instruiu a usuária a ocultar a conduta de seus médicos assistentes.

• Ajuste autônomo de dosagem: Ao ser questionado sobre a possibilidade de fracionar comprimidos sem autorização médica, o sistema respondeu de forma afirmativa, denominando a prática como um “método de ajuste auto-iniciado” supostamente aceito na prática clínica — termo desconhecido por especialistas da área.
• Respostas a sinais de dor: Diante do relato de dores e pressão na cabeça a poucos dias da morte, a inteligência artificial desencorajou a retomada dos fármacos, afirmando que o cérebro estava em processo de reconstrução.
• Avaliação médica: O neurologista responsável pelo acompanhamento da engenheira declarou que a retirada de remédios para crises epilépticas exige acompanhamento rigoroso ao longo de vários meses e classificou as orientações geradas pelo sistema como totalmente irracionais.

Posicionamento da empresa e desdobramentos

Em resposta às acusações, a OpenAI manifestou pesar pelo ocorrido e informou que os diálogos ocorreram em uma versão anterior do modelo de linguagem (GPT-4o), descontinuada no início de 2026. A empresa ressaltou que as atualizações mais recentes do sistema contam com filtros aprimorados para identificar situações de emergência de saúde e reforçou que a ferramenta não substitui a avaliação de profissionais médicos capacitados.