Certificación de sistemas de IA en aplicaciones sanitarias

Alexandre Perera

  • LÍDER DEL PROYECTO

    Alexandre Perera

  • ORGANIZACIÓN
    SOLICITANTE, PAÍS

    Universitat Politècnica de Catalunya (UPC), España

  • DESCRIPCIÓN

    Los sistemas y aplicaciones sanitarias siguen un enfoque de riesgo cero que se traduce en intensos —y a menudo largos— procesos de control y reglamentación. Este paradigma de riesgo cero todavía no se ha aplicado con éxito en los sistemas basados en inteligencia artificial (IA) para la salud. Los investigadores han diseñado un conjunto de herramientas de auditoría que estandariza el control de calidad para los modelos sanitarios de IA, y que incluye una base de datos de los riesgos previamente identificados en los sistemas de IA de la asistencia sanitaria. Una vez auditado un nuevo sistema, una marca criptográfica sirve como sello tecnológico para verificar el cumplimiento de cada predicción.

    Ya se ha analizado un ensayo de prueba de concepto para este conjunto de herramientas, en un caso real en el Hospital Sant Joan de Déu, y ha demostrado que consigue reducir el riesgo de errores en la predicción, así como el tiempo para la aprobación reglamentaria del nuevo sistema basado en IA, de dos años a tan solo seis meses.

    Actualmente, el objetivo de este equipo es transferir este conjunto de herramientas mediante un producto viable mínimo a través de una empresa derivada (spin-off), con el objetivo de introducirlo en el mercado en un breve plazo de tiempo. La mayor confianza concedida a los sistemas de IA no solo reducirá el tiempo y los recursos necesarios para trasladar los nuevos avances científicos a la práctica clínica, sino que también asegurará la trazabilidad y permitirá que los usuarios finales puedan verificar el cumplimiento de los proveedores de IA del sector sanitario.