- OpenAI lançou o ChatGPT Health, com uma área dedicada a saúde, prometendo privacidade e armazenamento separado de conversas, memórias de saúde podem ser vistas ou apagadas a qualquer momento.
- Mais de 230 milhões de pessoas por semana buscam orientações de saúde no ChatGPT, segundo a OpenAI, que vê a ferramenta como aliada para questões como seguro, papelada e defesa do próprio paciente.
- Especialistas alertam que o serviço não é um médico e a proteção de dados depende das políticas da empresa, já que não há, na prática, lei de privacidade ampla nos Estados Unidos.
- A OpenAI também oferece o ChatGPT for Healthcare, voltado a hospitais e profissionais, com proteções maiores que o serviço ao consumidor para fins administrativos e evidências médicas, gerando possibilidade de confusão entre produtos.
- Há preocupação com a possibilidade de mudanças nas políticas de uso e com informações incorretas transmitidas pela ferramenta, o que reforça a necessidade de acompanhamento médico e de regulação adequada.
O ChatGPT Health, apresentado pela OpenAI, promete confidencialidade para dados de saúde dos usuários, mas a empresa afirma apenas com a palavra que as informações são protegidas. Mais de 230 milhões de pessoas consultam o ChatGPT por saúde e bem-estar a cada semana, segundo a OpenAI.
A OpenAI diz que o ChatGPT Health oferece um ambiente mais seguro e personalizado para perguntas relacionadas à saúde. O produto coloca conversas em uma seção separada do app, com a possibilidade de visualizar ou excluir “memórias” de saúde a qualquer momento.
Entretanto, especialistas alertam que tools de saúde baseados em IA podem não ter a mesma proteção legal que provedores médicos. A ausência de lei federal ampla de privacidade nos EUA aumenta a dependência de promessas de políticas das próprias empresas.
OpenAI também lançou um produto para uso empresarial, o ChatGPT for Healthcare, com normas de proteção mais rígidas. Embora haja semelhanças de nomenclatura e data de lançamento, há dúvidas sobre o nível de proteção oferecido a consumidores e profissionais que utilizam as versões voltadas ao público.
Especialistas citados pela imprensa destacam que as garantias de conformidade com leis de proteção de dados, como HIPAA, não são garantias de proteção completa. A regulamentação varia e a proteção depende do que a empresa promete em suas políticas de privacidade.
Há ainda preocupações sobre a segurança dos dados caso as políticas mudem. Mesmo com criptografia padrão, executivos e advogados apontam o risco de alterações futuras nos termos de uso, o que pode afetar a confidencialidade das informações de saúde.
Questões sobre classificação regulatória surgem porque o uso de IA para diagnóstico ou tratamento pode enquadrar o sistema como dispositivo médico. Reguladores ressaltam que, se um produto atua diretamente no diagnóstico, ele pode exigir supervisão mais rigorosa.
OpenAI afirma que o ChatGPT Health não deve ser usado para diagnóstico ou tratamento. A empresa sustenta que o objetivo é apoiar médico e paciente, em colaboração com profissionais, sem substituir a avaliação clínica.
O debate sobre a atuação de IA na saúde se intensifica diante de exemplos de falhas de informação médica geradas por chatbots. Pesquisadores lembram que erros podem ter consequências graves e que a medicina é fortemente regulada por motivos de segurança.
Em meio às controvérsias, a OpenAI aposta na expansão do uso da IA em saúde como parte de um mercado emergente. A expectativa é que mais usuários abracem ferramentas de IA para informações e suporte, sempre com cautela quanto à privacidade e à validade das orientações.
Conclui-se que a proteção de dados de saúde em ferramentas consumer-facing ainda depende fortemente de compromissos voluntários das empresas. Reguladores avaliam se esse patamar é suficiente para o setor, dada a natureza sensível das informações.
Entre na conversa da comunidade