Nos últimos anos, muitos médicos sobrecarregados recorreram a os chamados escribas médicos de IA para ajudar a resumir automaticamente as conversas dos pacientes, diagnósticos e decisões de cuidados em notas estruturadas para registro de registros de saúde. Mas uma auditoria recente realizada pelo auditor geral de Ontário descobriu que os escribas de IA recomendados pelo governo provincial geravam regularmente informações incorretas, incompletas e alucinadas que poderiam “resultar potencialmente em planos de tratamento inadequados ou prejudiciais que podem potencialmente afetar os resultados de saúde dos pacientes”.
Em um relatório recente sobre o uso de inteligência artificial no governo de Ontárioo auditor geral revisou testes de transcrição de duas conversas simuladas entre paciente e médico realizadas em 20 fornecedores de escribas de IA que foram aprovados e pré-qualificados pelo governo provincial para compra por prestadores de serviços de saúde. Todos os 20 fornecedores mostraram algum problema de precisão ou integridade em pelo menos um desses testes simples, incluindo nove que alucinaram informações de pacientes, 12 que registraram informações incorretamente e 17 que perderam detalhes importantes sobre questões de saúde mental discutidas.
No relatório, o auditor geral aponta vários exemplos preocupantes de erros nesses resumos que poderiam ter um impacto direto e negativo no atendimento subsequente de um paciente. Isso inclui situações em que um escriba de IA alucinou referências inexistentes para exames de sangue ou terapia, transcreveu incorretamente os nomes de medicamentos prescritos e/ou perdeu “detalhes importantes” de questões de saúde mental discutidas nas conversas simuladas.
Leia o artigo completo
Comentários
Leave a comment