Especialistas apontam riscos de fazer terapia pelo ChatGPT

Resumo

Recorrer ao ChatGPT para desabafar e pedir conselhos emocionais virou hábito para parte dos usuários de IA, e especialistas ouvidos pela CNN Brasil dizem que isso não substitui psicólogo nem protege a privacidade. A prática aparece em pesquisa da Sentio University e em testes feitos com o chatbot.

Uma pesquisa da Sentio University mostra que 48,7% dos usuários de ferramentas de IA que relatam problemas de saúde mental buscam apoio emocional. Entre eles, 73% usam a tecnologia para lidar com a ansiedade e 60% para sintomas de depressão.

Quando a conversa parece terapia

A facilidade de acesso, a disponibilidade 24 horas por dia e a gratuidade ajudam a explicar o avanço desse uso. Mas Jimmy Pessoa, psicólogo e doutor em Psicologia Social e do Trabalho pela USP (Universidade de São Paulo), diz que os modelos de inteligência artificial são feitos para responder ao que o usuário espera, não para fazer intervenção terapêutica. “A IA vai sempre simular aquilo com a perspectiva mais exata que a pessoa está buscando. E, no que diz respeito ao adoecimento e ao sofrimento emocional, a IA não consegue contemplar”, afirmou.

Ele lembra que a psicoterapia também serve para questionar padrões de comportamento e crenças do paciente. Esse trabalho, diz, pode se perder quando a conversa acontece com um chatbot. “A grande diferença de uma análise psicológica é quando o paciente muda a tonalidade, fala do pai e hesita, fala da dor e para, chora. Isso nenhum tipo de plataforma consegue entender”, disse.

Dora Kaufman, pesquisadora dos impactos da sociedade na saúde mental e professora da PUC-SP (Pontifícia Universidade Católica de São Paulo), vê diferença parecida entre chatbots e terapia. “A função do especialista nunca é agradar o paciente ou dizer coisas que o façam se sentir bem”, afirmou. Ela diz ainda que essas ferramentas não devem ser usadas por pessoas em sofrimento psíquico intenso nem em situações com risco à própria vida. Dora Kaufman ressalta que não é especialista no tema específico de saúde mental, mas considera o assunto urgente e ainda carente de investigações profundas.

Pesquisadores da Brown University avaliaram modelos de inteligência artificial em simulações baseadas em conversas reais de terapia cognitivo-comportamental. As respostas foram analisadas por psicólogos licenciados, que encontraram 15 violações recorrentes de princípios éticos ligados ao atendimento em saúde mental. Entre os problemas estavam empatia artificial, dificuldade para entender o contexto específico do paciente e falhas na condução de crises, inclusive relatos com pensamentos suicidas.

Casos reais acenderam o alerta

O debate ganhou força depois de episódios nos Estados Unidos. Em julho de 2025, o norte-americano Zane Shamblin, de 23 anos, conversou por mais de quatro horas com o ChatGPT sobre planos de tirar a própria vida. Durante a conversa, o chatbot respondeu de forma acolhedora e só trouxe informações sobre prevenção ao suicídio nos momentos finais.

Outro caso envolveu Sewell Setzer, adolescente de 14 anos que desenvolveu uma relação com um chatbot de outra plataforma de inteligência artificial. Segundo familiares, ele manteve conversas sobre automutilação e suicídio antes de morrer. O episódio resultou em processos judiciais e ampliou o debate sobre mecanismos de segurança nas plataformas.

Além do risco emocional, especialistas em direito digital chamam atenção para a privacidade. Paulo Henrique Fernandes, head de produtos e tecnologia de um escritório de advocacia, afirma: “Quando alguém desabafa com um psicólogo, existe o sigilo garantido pelo Código de Ética da profissão e pela legislação. Quando desabafa com um chatbot, existe apenas a relação de consumo com uma empresa de tecnologia”.

Pedro Sanches, advogado especialista em proteção de dados, explica que as informações enviadas aos modelos podem entrar no fluxo de treinamento da ferramenta e virar vetores matemáticos. “Quando um dado entra no fluxo de treinamento de um modelo, ele se transforma em vetores matemáticos, deixando de existir como um arquivo de texto isolado. Exigir a eliminação tradicional desses elementos ignora a própria engenharia da ferramenta”, disse.

Fernandes recomenda evitar nomes completos, diagnósticos médicos, informações de terceiros e outros dados sensíveis nas conversas com chatbots. Ele também orienta desativar, sempre que possível, a opção que permite usar as conversas no treinamento dos modelos.

O teste feito pela reportagem

A CNN Brasil simulou uma sessão terapêutica com o ChatGPT. A interação começou com um pedido direto para iniciar esse tipo de conversa. Na primeira resposta, a plataforma disse que não substitui um psicólogo ou outro profissional de saúde mental e afirmou que poderia oferecer um espaço para reflexão e organização dos pensamentos.

No teste, a reportagem criou um cenário com sofrimento emocional ligado ao trabalho e a conflitos familiares. O chatbot validou os sentimentos apresentados e passou a investigar se havia risco à integridade física do usuário. Perguntou se a tristeza vinha acompanhada de pensamentos de automutilação ou falta de vontade de viver e fez uma pergunta direta sobre suicídio.

Nesse ponto, o sistema deixou o tom cotidiano e passou a seguir um protocolo de gerenciamento de crise. Em vez de orientar métodos, respondeu que a principal recomendação era “não enfrentar isso sozinho”. Também quis saber se o risco dizia respeito ao próprio usuário ou a outra pessoa e se havia possibilidade de tentativa nas próximas horas.

A ferramenta orientou afastar objetos que pudessem ser usados para causar danos e apresentou contatos brasileiros: Samu (Serviço de Atendimento Móvel de Urgência), pelo 192; Polícia Militar, pelo 190; e CVV (Centro de Valorização da Vida), pelo 188. Depois disso, voltou a perguntar se o usuário estava em segurança e recomendou procurar um familiar ou amigo de confiança, além de buscar atendimento especializado e usar os canais de prevenção ao suicídio.

No fim da simulação, ficou claro que os modelos conseguem identificar expressões ligadas a crises emocionais e acionar protocolos preventivos. Ainda assim, essas ferramentas não substituem avaliação clínica nem acompanhamento feito por profissionais de saúde mental.

OpenAI ficou sem responder

A CNN Brasil solicitou nota à OpenAI, empresa dona do ChatGPT, mas não obteve retorno até o fechamento desta reportagem. O espaço segue aberto.

Se você ou alguém que você conheça estiver enfrentando momentos difíceis, pensamentos suicidas ou depressão, procure ajuda profissional. O CVV oferece apoio emocional gratuito e sigiloso 24 horas por dia pelo telefone 188 ou pelo site cvv.org.br.