Auditoría en Ontario revela que sistemas de IA para registros médicos cometen errores graves en datos básicos

Qué pasó

La Oficina del Auditor General de Ontario, Canadá, publicó un informe que evalúa el uso de inteligencia artificial en los servicios públicos de la provincia, prestando especial atención al programa 'AI Scribe' impulsado por el Ministerio de Salud. Esta iniciativa buscaba proporcionar herramientas de transcripción automatizada a médicos, enfermeras y otros profesionales de la salud para agilizar la toma de notas durante las consultas clínicas.

Como parte del proceso de adquisición, las autoridades realizaron pruebas utilizando grabaciones simuladas de interacciones entre médicos y pacientes. Posteriormente, profesionales médicos compararon las grabaciones originales con las notas generadas por la inteligencia artificial de 20 proveedores autorizados, con el objetivo de medir la precisión de los algoritmos.

Los resultados de la auditoría evidenciaron fallos críticos en el rendimiento de los sistemas. Doce de los 20 programas evaluados, lo que equivale a un 60%, insertaron información incorrecta sobre medicamentos en los expedientes de los pacientes. Además, 17 de los sistemas omitieron detalles clave sobre problemas de salud mental discutidos durante las consultas grabadas.

El informe también documentó la presencia de 'alucinaciones', un fenómeno donde la IA genera contenido falso. Nueve de las plataformas fabricaron información e incluyeron sugerencias en los planes de tratamiento que no fueron mencionados en las grabaciones originales. Los evaluadores encontraron errores de gravedad potencial, como la indicación de que no se encontraron masas o que el paciente presentaba ansiedad, cuando tales situaciones nunca ocurrieron.

Ante estos resultados, OntarioMD, una entidad de apoyo a la adopción tecnológica médica involucrada en el proceso, recomendó que los médicos revisen manualmente las notas generadas. Sin embargo, el reporte del Auditor General señaló que ninguno de los sistemas aprobados cuenta con una función de ratificación obligatoria que asegure dicha revisión por parte de un profesional antes de guardar el registro clínico.

Contexto

El uso de herramientas de inteligencia artificial generativa en el sector salud ha experimentado un crecimiento acelerado a nivel global. Empresas de tecnología y startups han desarrollado sistemas diseñados para reducir la carga administrativa de los profesionales médicos, ofreciendo transcripción de consultas y estructuración de datos en tiempo real. El atractivo principal de esta industria radica en la promesa de optimizar tiempos y permitir que los facultativos concentren su atención en el paciente.

No obstante, la implementación de estos modelos de lenguaje en entornos críticos como la medicina conlleva riesgos significativos. Estudios previos han demostrado que la inteligencia artificial orientada al consumidor frecuentemente proporciona información médica incorrecta, con tasas de error que superan el 80% en la generación de diagnósticos diferenciales adecuados en pruebas controladas.

El caso de Ontario subraya una preocupación mayor dentro del ecosistema tecnológico: las deficiencias en las metodologías de evaluación y adquisición de software por parte de instituciones públicas. El informe sugiere que una parte importante de los errores detectados se debe a que los criterios de ponderación durante la fase de pruebas fueron inadecuados para un entorno de salud real.

La auditoría evidencia la desconexión existente entre el marketing de las empresas de tecnología, que suelen prometer alta precisión, y la realidad operativa de los algoritmos frente a escenarios clínicos complejos. Esta brecha genera la necesidad urgente de establecer estándares regulatorios más rigurosos y protocolos de validación independientes antes de autorizar el despliegue de inteligencia artificial en hospitales y clínicas.

Impacto para empresas chilenas

Las conclusiones de la auditoría en Ontario constituyen una señal de alerta para el mercado local de salud y tecnología. En Chile, la digitalización de los servicios médicos y la adopción de sistemas de registros electrónicos han avanzado significativamente, generando un terreno fértil para la introducción de herramientas de inteligencia artificial orientadas a la eficiencia administrativa en clínicas y hospitales.

Para las pymes y empresas de tecnología nacional que desarrollan soluciones de salud digital, este caso internacional destaca la importancia de priorizar la precisión por sobre la velocidad de llegada al mercado. Las empresas chilenas que aspiren a proveer software a la red pública o privada de salud deberán garantizar protocolos estrictos de validación de datos para evitar contingencias legales y daños a la reputación de la industria.

Asimismo, las instituciones de salud en Chile deberán exigir mayor rigurosidad en los procesos de compra y licitación de estas tecnologías. Implementar un marco normativo que exija auditorías algorítmicas periódicas y validación humana obligatoria en el uso de registros generados por IA se torna indispensable para resguardar la seguridad de los pacientes.

El ecosistema de emprendimiento tecnológico local tiene la oportunidad de liderar la creación de estándares de calidad en América Latina. Construir productos con un enfoque de seguridad comprobada no solo facilitará la adopción por parte de establecimientos médicos, sino que también posicionará a las empresas chilenas como referentes en el desarrollo de software médico confiable y transparente.

Qué sigue

Se anticipa que este tipo de reportes genere un aumento en la regulación gubernamental respecto a la inteligencia artificial en el sector salud a nivel global. Las autoridades de salud probablemente comenzarán a exigir certificaciones de seguridad técnica y validaciones clínicas antes de aprobar la compra de herramientas automatizadas de transcripción médica.

Las empresas desarrolladoras de esta tecnología enfrentarán la presión de integrar características de seguridad robustas, como mecanismos de verificación algorítmica o validación en tiempo real por parte de profesionales médicos antes de la firma digital de un registro. La viabilidad comercial de estas plataformas dependerá directamente de su capacidad para reducir los márgenes de error a cero en entornos críticos.