A filosofia e a evidência por trás da Nami

Elizabeth Stade e colegas publicaram em 2024 uma excelente proposta de reflexão e para um roteiro de integração de modelos de linguagem (LLMs) ao contexto dos tratamentos de saúde mental (Stade et al., 2024). A premissa central é direta: LLMs têm potencial real para ampliar o acesso ao cuidado em saúde mental, mas a psicologia clínica é um domínio de risco incomum para IA, onde erros podem significar não detectar ideação suicida ou reforçar padrões que perpetuam sofrimento.

Os autores fazem uma ótima analogia dos três estágios de utilidade da IA na saúde mental com carros autônomos. No estágio assistivo, a IA executa tarefas circunscritas (coletar dados de diários de sono, gerar rascunhos de notas clínicas) sem autonomia sobre decisões terapêuticas: o motorista (psicoterapeuta) está plenamente no controle do carro, mas recebe apoios variados para sua condução. No estágio colaborativo, a IA já sugere conteúdos de intervenção, mas o profissional revisa, adapta e decide antes que qualquer coisa chegue ao paciente: aqui, o motorista se aproxima mais de um supervisor da condução do carro do que do condutor propriamente dito . No autônomo, a IA conduziria avaliação, seleção de intervenção e tratamento completo sem supervisão direta: nesse estágio, o motorista já não se faz necessário para o pleno funcionamento do veículo. A progressão entre estágios não é linear e sempre exigirá validação humana — intervenções mais estruturadas (como TCC para insônia) chegarão a estágios mais avançados antes de abordagens mais flexíveis (como terapia dos esquemas, terapia focada em compaixão, terapias psicodinâmicas).

Na nossa opinião, o ponto central do artigo vai além da viabilidade técnica: devemos buscar a automação completa da psicoterapia? As questões são éticas e práticas ao mesmo tempo. Se uma IA autônoma causa dano — não identifica um risco de suicídio, reforça uma crença disfuncional, oferece uma intervenção contraindicada — quem responde? O profissional que não estava supervisionando? A empresa que desenvolveu o produto? O artigo não oferece resposta, mas argumenta que essas indefinições jurídicas e éticas podem, por si só, justificar que aplicações assistivas e colaborativas sejam priorizadas no curto e médio prazo, enquanto o campo acumula evidência e regulação.

Um alerta central do artigo merece atenção: os desfechos que guiam o desenvolvimento dessas ferramentas precisam ser clínicos — não comerciais. Redução de sintomas, melhora funcional e prevenção de recaídas são o que importa. Métricas como engajamento, tempo de uso e retenção podem coincidir com bons resultados, mas não são sinônimo deles. Os autores dão um exemplo concreto: apps de ansiedade populares já evitam incluir técnicas de exposição — que têm forte evidência — por medo de que o desconforto inicial afaste usuários. Uma LLM otimizada para manter o paciente na plataforma pode gerar conversas acolhedoras e engajantes sem nunca produzir mudança terapêutica real. O risco é sutil e grave: parece que está funcionando, mas o sofrimento permanece.

Quanto à avaliação dessas ferramentas, o artigo propõe uma hierarquia clara: segurança e risco primeiro — a LLM detecta ideação suicida? Identifica risco de violência? Sabe quando escalar para um humano? Só depois vêm viabilidade, aceitabilidade e, por fim, efetividade clínica comparada a tratamentos padrão. Mas os autores fazem uma ressalva igualmente importante: essa avaliação vai exigir bom senso. Não se pode exigir da IA uma perfeição clínica que o ser humano não atinge. Esquecer o nome do cônjuge de um paciente é diferente de ignorar uma menção a suicídio — e o campo precisará construir uma hierarquia graduada de erros, distinguindo o inaceitável do tolerável, sob pena de inviabilizar ferramentas que poderiam ampliar o acesso ao cuidado.

A colaboração interdisciplinar é tratada como condição inegociável: engenheiros constroem a plataforma, mas profissionais de saúde mental devem conduzir a engenharia de prompt, curar dados de treinamento e testar limites clínicos. 

As perguntas que ficam em aberto são as mais provocativas: o quanto queremos automação completa no contexto dos tratamentos em saúde mental? O quanto queremos que a IA se comporte como um humano, tendo empatia e raciocínio típicos da nossa profissão? Como a aliança com a IA se compara com o vínculo terapêutico humano? Como todo bom texto, o artigo não entrega respostas simples, mas sim incentiva ainda mais discussão e reflexão.

Referência principal:

Stade, E. C. et al. (2024). Large language models could change the future of behavioral healthcare: a proposal for responsible development and evaluation. npj Mental Health Research, 3(12). DOI: 10.1038/s44184-024-00056-z