• La Inteligencia Artificial está modernizando la medicina y mejorando la atención médica, pero también puede perjudicar a los pacientes al llevar a diagnósticos erróneos o tratamientos incorrectos. Por ello, necesitamos regulación de manera urgente: Dr. Éctor Jaime Ramírez Barba, secretario de la Comisión de Salud de la Cámara de Diputados. 

• El uso de la Inteligencia Artificial en la salud debe estar bien regulado: debe haber consentimiento informado para su uso, protección de los datos personales de los pacientes, profesionales de la salud bien capacitados en el manejo de las tecnologías y evaluación de los sistemas tecnológicos que usan inteligencia artificial para dar diagnósticos o indicar un tratamiento para evitar riesgos o errores.

Palacio Legislativo de San Lázaro, a 21 de agosto de 2024.

En los últimos años, la inteligencia artificial (IA) ha emergido como una herramienta invaluable que impacta, de manera directa o indirecta, todos los aspectos de la vida moderna. El ámbito de la salud no ha sido una excepción; la medicina se ha beneficiado del desarrollo de tecnologías digitales.

La IA desarrolla nuevas soluciones en el sector salud, capaces de realizar diagnósticos, recomendar tratamientos y prevenir enfermedades. Además, facilita el diseño de nuevas terapias y fármacos, así como la capacitación de profesionales de la salud para mejorar sus habilidades.

Sin embargo, su utilización también conlleva riesgos que deben ser considerados y gestionados adecuadamente, lo que implica la necesidad de regular su implementación desde la Ley General de Salud, como estamos proponiendo en la Cámara de Diputados de cara al inicio de la nueva legislatura: Dr. Éctor Jaime Ramírez Barba, secretario de la Comisión de Salud de la Cámara de Diputados. 

Hasta la Organización Mundial de la Salud (OMS) ha advertido que el uso inadecuado de la IA puede perjudicar a los pacientes al llevar a diagnósticos erróneos o tratamientos incorrectos. Así, aunque las herramientas de IA pueden ser utilizadas, las decisiones en el sector salud siempre deben recaer en un profesional de la salud. Por lo tanto, los legisladores debemos atender las nuevas realidades y buscar la protección de la población, a la vez que garantizamos las condiciones para mejorar los servicios de salud.

Uno de los puntos principales que pueden generar riesgos para los usuarios, es la necesidad de garantizar la protección de los datos personales sensibles de las personas, así como asegurar que el acceso a estos datos cumpla con los requisitos del consentimiento informado. Y es que, con el uso indebido de estos datos, se puede generar y difundir desinformación convincente, pero falsa.

También, es necesario que la IA se adhiera a valores fundamentales como la transparencia, la colaboración pública, la supervisión por parte de expertos y el rigor en las evaluaciones, esto quiere decir que solamente se puede hacer uso de sistemas que utilizan la IA, cuando previamente hayan sido autorizados por la autoridad sanitaria, es decir, una vez que se confirmen sus beneficios y se descarten errores o riesgos.

Las tecnologías de la IA deben estar sometidas a rigurosas evaluaciones y pruebas que demuestren de manera inequívoca los beneficios que pueden generar antes de su uso generalizado en los servicios de atención de salud y en la práctica médica. Esto debe aplicar tanto a particulares, proveedores de atención y administradores de sistemas de salud, como a las instancias normativas y a los propios usuarios.

Por lo anterior, se tiene que proteger la autonomía humana en el uso de la IA, la toma de decisiones no debe ser transferida a las máquinas. Las personas deben mantener el control sobre los sistemas de atención de la salud y las decisiones médicas.

En este contexto, la iniciativa que presentamos en la bancada del PAN busca:

• • • • Fortalecer las disposiciones de la Ley General de Salud relacionadas con la protección de datos personales y armonizarlas con las leyes vigentes, de modo que no quede margen alguno para el uso indebido de la información personal sobre la salud de las personas.

• • • • Los datos de los pacientes utilizados para entrenar y alimentar los sistemas de inteligencia artificial deberán ser anónimos y tratados con estricta confidencialidad.

• Los datos personales sensibles obtenidos para fines médicos con el consentimiento informado respectivo, solo podrán usarse para este propósito y serán eliminados cuando dejen de tener utilidad.

• Los sistemas de inteligencia artificial unicamente podrán ser utilizados en el Sistema Nacional de Salud con el consentimiento informado del paciente.

• Los sistemas de inteligencia artificial utilizados en el Sistema Nacional de Salud, serán una herramienta de apoyo, por lo que su uso terapéutico deberá realizarse con la supervisión y validación de profesionales de la salud. Para el uso de los sistemas de inteligencia artificial, en todos los casos, habrá una supervisión y toma de decisiones finales por parte de profesionales humanos.

• Los usuarios de los servicios de salud tendrán derecho de solicitar una explicación comprensible cuando las decisiones médicas se tomen con la asistencia de sistemas de inteligencia artificial. Además, podrán negarse a recibir atención médica con el apoyo de sistemas de inteligencia artificial, para lo cual, se brindarán las alternativas necesarias para garantizar el derecho a la salud.

• Los prestadores de servicios de salud solamente podrán usar sistemas de inteligencia artificial autorizados por la Secretaría de Salud.

• La Secretaría de Salud promoverá la capacitación y educación sobre el uso ético y seguro de la inteligencia artificial en el Sistema Nacional de Salud.

• La Secretaría establecerá mecanismos regulares de evaluación y auditoría de los sistemas de inteligencia artificial utilizados en el Sistema Nacional de Salud con el objetivo de:

• Identificar problemas técnicos y funcionales en el desempeño de los sistemas de inteligencia artificial;
• Evaluar la precisión y exactitud de los diagnósticos y tratamientos recomendados por dichos sistemas;
• Determinar en qué casos los sistemas de inteligencia artificial representan un riesgo para la salud de las personas.

• Los profesionales de la salud, prestadores de servicios de salud, desarrolladores y proveedores de sistemas de inteligencia artificial destinados a utilizarse en el ámbito de la salud, serán responsables, según corresponda, para todos los efectos legales y responsabilidad profesional, de los resultados generados por el uso de los sistemas de inteligencia artificial en la salud, incluyendo sus efectos adversos, que pongan en peligro la vida, salud y seguridad de los pacientes

• La Secretaría de Salud determinará en qué casos los sistemas de inteligencia artificial representan un riesgo para la salud de las personas y procederá a solicitar la suspensión de operaciones del sistema y en su caso su cancelación.