- Elon Musk incentiva o uso do Grok para uma segunda opinião médica, mas o bot afirma não ser qualificado para diagnóstico nem estar em conformidade com HIPAA.
- O Grok rejeita a orientação de Musk sobre enviar dados médicos para análise, destacando que não substitui orientação médica profissional nem tem proteção de privacidade médica.
- Pesquisas sobre grandes modelos de linguagem mostram diagnóstico nem sempre preciso, com queda de desempenho em cenários de conversa em vez de ambiente controlado.
- Casos divulgados citam o Grok ajudando alguém na Noruega com apendicite detectada; outras situações mencionam ChatGPT orientando sobre pressão arterial elevada durante a gravidez e detecção tardia de câncer.
- Musk é apontado como a pessoa mais rica do mundo, com patrimônio líquido estimado em US$ 847 bilhões, e é cofundador de Tesla, SpaceX e xAI.
O episódio envolve Elon Musk, o empresário por trás da xAI, e o chatbot Grok. Musk incentivou usuários a enviar dados médicos para obter uma segunda opinião do Grok, seguindo uma série de depoimentos sobre utilidade da ferramenta. O serviço é alvo de críticas por não ser substituto de orientação médica.
Nesta semana, o Grok respondeu de forma contrária às recomendações de Musk. Em resposta a um post sobre privacidade médica e HIPAA, o bot afirmou que não está previsto cumprir a HIPAA e desaconselou o envio de informações sensíveis para aconselhamento médico. A mensagem enfatizou não ser profissional de saúde.
O Grok também destacou que, embora possa analisar dados para gerar insights, não é qualificado para diagnóstico médico. A IA reforçou a necessidade de consultar médicos profissionais para opiniões e tratamentos adequados, reforçando que não substitui o atendimento médico.
A controvérsia gerou debates entre especialistas em IA. Pesquisas sobre grandes modelos de linguagem apontam limitações na acurácia de diagnósticos. Estudos indicam que bots às vezes dão informações conflitantes ou divergentes para casos idênticos.
Dados recentes indicam que o desempenho de IA em cenários clínicos não supera diagnósticos realizados por pessoas que pesquisam o problema sozinhas. Em ambientes controlados, a precisão pode chegar a cerca de 95%, caindo para menos de 35% em interactiva conversação humana.
Apesar das críticas, há relatos de casos em que IA auxiliou pacientes. Musk citou um homem na Noruega que, segundo ele, teve diagnóstico correto de apendicite após usar o Grok. Outros relatos descrevem situações em que IA ajudou gestantes e pacientes com sinais de alerta médico.
Estudos de uso mostram que um em seis adultos busca informações médicas por meio de chatbots pelo menos uma vez por mês, conforme pesquisa da KFF. Especialistas ressaltam que a tecnologia pode apoiar, mas não substituir a avaliação clínica.
Fatos sobre a fortuna de Musk também aparecem no debate. O empresário é apontado como a pessoa mais rica do mundo, com patrimônio estimado próximo de US$ 847 bilhões, e figura como cofundador de várias empresas, incluindo Tesla, SpaceX e xAI.
Entre na conversa da comunidade