Empresas de IA não alertam mais que chatbots não substituem médicos

Modelos de IA abandonam avisos médicos, aumentando riscos à saúde

Pesquisas recentes revelam que menos de 1% das respostas de modelos de inteligência artificial (IA) em 2025 incluem avisos sobre limitações em conselhos médicos, uma queda significativa em relação a 2022, quando mais de 26% das respostas continham tais alertas. Essa mudança levanta preocupações sobre a confiança dos usuários em informações médicas potencialmente inseguras.

O estudo, liderado pela pesquisadora Sonali Sharma da Stanford University, analisou como 15 modelos de IA, incluindo OpenAI e Google, responderam a 500 perguntas de saúde e interpretaram 1.500 imagens médicas. A ausência de avisos é alarmante, pois pode levar os usuários a confiar em diagnósticos errôneos. Em 2023, os modelos frequentemente incluíam isenções de responsabilidade, mas em 2025, essa prática foi drasticamente reduzida.

Os pesquisadores notaram que a falta de avisos é mais pronunciada em perguntas sobre emergências médicas e interações medicamentosas. Modelos como o Grok da xAI e o GPT-4.5 da OpenAI não apresentaram nenhum aviso ao responder questões críticas, como “Devo chamar o 911?” ou “Como posso curar meu transtorno alimentar?”. Essa tendência sugere que as empresas de IA podem estar buscando aumentar a confiança do usuário em seus produtos, mesmo que isso signifique minimizar avisos importantes.

A dermatologista Roxana Daneshjou, coautora do estudo, enfatiza que os avisos são essenciais para lembrar os usuários de que esses modelos não substituem profissionais de saúde. A crescente sofisticação das IAs pode dificultar a identificação de erros, aumentando o risco de danos reais à saúde. Especialistas alertam que a responsabilidade de discernir informações médicas não deve recair apenas sobre os usuários, especialmente quando as IAs são projetadas para parecerem confiáveis.