A OpenAI lançou o ChatGPT Health no início deste ano, uma versão do chatbot especializada em responder dúvidas relacionadas à saúde.
Os usuários poderão fazer perguntas, enviar registros ou exames médicos e conectar a plataforma a aplicativos e gadgets de bem-estar (como relógios inteligentes, por exemplo).
Ao contrário do que ocorre com o ChatGPT normal, que usa as conversas e os dados inseridos na plataforma para alimentar e treinar seu modelo de IA, a empresa prometeu privacidade total no novo chatbot. O ChatGPT Health deve contar com criptografia e isolamento específico para que os usuários possam compartilhar dados sensíveis.
A OpenAI, no entanto, reforça que uma conversa com o chatbot não substitui uma visita ao médico. “O ChatGPT Health foi criado para apoiar, e não substituir, o atendimento médico. Ele não se destina a diagnóstico ou tratamento. Em vez disso, ele ajuda você a lidar com dúvidas do dia a dia e a entender padrões ao longo do tempo — não apenas em momentos de doença — para que você tenha mais informação e se prepare melhor para conversas médicas importantes”, diz o comunicado da empresa.
Segundo a OpenAI, mais de 230 milhões de pessoas no mundo já usam o chatbot para perguntar sobre saúde e bem-estar toda semana. A nova plataforma foi criada para aprimorar essas interações.
“Se você começar uma conversa sobre saúde no ChatGPT, vamos sugerir que você vá para o ChatGPT Health para ter essas proteções adicionais”, acrescentou.
Riscos do uso de IA para a saúde
A OMS já alertou para os riscos do uso de inteligência artificial para a saúde em comunicado. A organização alertou que os dados usados para treinar a inteligência artificial podem ser tendenciosos, gerando informações enganosas ou imprecisas que podem representar riscos à saúde, à equidade e à inclusão.
Entre as considerações descritas pela OMS estão a geração de respostas que podem parecer confiáveis e plausíveis para o usuário final, mas que podem conter erros graves, especialmente no contexto da saúde.
A OMS propõe que essas preocupações sejam abordadas com base em evidências, e que uma análise de riscos e benefícios deve preceder o uso generalizado em cuidados de saúde e medicina de rotina, seja por indivíduos, prestadores de serviços e formuladores de políticas.