Acountax Abogados «en directo» consultas jurídicas

Acountax> Actualidad> El despacho en los medios> Radio> IA Marco Legal

Madrid  12 de junio de 2024

Uno de los proyectos más significativos en los que actualmente se puede  emprender en el sector salud es el relativo a la inteligencia artificial, que asume el reto de transformar los servicios sanitarios de forma responsable. En este sentido, ¿cuál es la base regulatoria actual para garantizar que los sistemas de inteligencia artificial que se implementan sean seguros?

Es indudable que la Inteligencia Artificial se está integrando cada vez más en el panorama sanitario español, con el potencial de mejorar significativamente la atención al paciente y la innovación. Actualmente, el 11% de los profesionales sanitarios en España utilizan la inteligencia artificial, pero un 42% adicional tiene intenciones explícitas de hacerlo en el futuro.

El Gobierno español ha puesto en marcha iniciativas para promover el uso de la inteligencia artificial en la sanidad, como es el caso del Programa Estrategia de Inteligencia Artificial en Salud o el Observatorio de Inteligencia Artificial en Salud para impulsar aún más la integración de esta tecnología en el sistema sanitario.

Igualmente, numerosas universidades y centros de investigación de nuestro país participan activamente en el desarrollo de soluciones sanitarias basadas en inteligencia artificial, fundamentalmente centrados en áreas como el diagnóstico por imagen y los dispositivos protésicos.

Por tanto, no cabe duda que un uso correcto de la aplicación de la inteligencia artificial en la asistencia sanitaria puede mejorar la atención a los pacientes.

Es el caso de las imágenes basadas en inteligencia artificial para mejorar la precisión y la rapidez del diagnóstico, especialmente en el contexto de enfermedades como el cáncer, que es prevalente en España. Además, los algoritmos de inteligencia artificial también pueden ayudar a identificar a pacientes con alto riesgo de desarrollar enfermedades específicas.

Por otro lado, ya se están desarrollando asistentes virtuales basados en inteligencia artificial para ayudar a los pacientes a gestionar enfermedades crónicas, proporcionando asesoramiento personalizado, recordatorios de medicación y seguimiento de síntomas.

Ahora bien, si importante puede ser el empleo de esta tecnología en los servicios sanitarios, no menos importante es la necesidad de disponer de un marco legal adecuado que evite el uso incorrecto de la inteligencia artificial y evitar riesgos y amenazas que puede conllevar su aplicación.

Por ese motivo, ante el elevado nivel de incertidumbre y potenciales peligros de seguridad jurídica que giraban en torno a la inteligencia artificial, lo cierto es que en los últimos tiempos se ha venido generando un amplio debate sobre la necesidad de establecer un adecuado marco normativo y ético que la regulara.

En este sentido, dado que, desde un punto de vista jurídico, el uso de estas tecnologías no se podía resolver con la normativa actualmente en vigor, se hizo preciso instrumentar los mecanismos legales precisos para regular adecuadamente esta actividad que crece especialmente en todo el mundo, cuyo primer paso lo ha dado la Unión Europea.

Así, la normativa básica reguladora en esta materia que viene de la mano de la Unión Europea es tremendamente reciente, ya que los Estados miembros de la UE dieron por unanimidad su aprobación final a la Ley de Inteligencia Artificial, en forma de Reglamento, el pasado mes de mayo.

Indudablemente, se trata de una normativa pionera e histórica que regula el uso de esta tecnología, dado que es la primera legislación del mundo que aborda esta tecnología de vanguardia y que permite sentar unas bases de seguridad jurídica imprescindibles para implementar este reto tecnológico global.

Su ámbito de aplicación se extiende a los proveedores de sistemas de inteligencia artificial que se pongan en servicio o comercialicen dentro de la UE, independientemente de su origen; y a usuarios de los mismos, considerando usuarios a quienes explotan esos sistemas, y no a los afectados.

La normativa permite o prohíbe el uso de esta tecnología en función del riesgo que suponga para los ciudadanos.

De esta manera, se prohíben ciertas aplicaciones de inteligencia artificial que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.

En virtud de ello, a partir de noviembre quedarán ya prohibidos los sistemas de inteligencia artificial de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual. Tampoco se podrán utilizar los sistemas que puntúan a las personas en función de su comportamiento o características personales, ni la inteligencia artificial capaz de manipular el comportamiento humano.

También estarán prohibidos los sistemas para expandir o crear bases de datos faciales captados de manera indiscriminada a través de internet o de grabaciones audiovisuales.

Pese a la lista de prohibiciones, la normativa también incluye una serie de exenciones para los sistemas utilizados exclusivamente con fines militares y de defensa o investigación.

Por otro lado, la regulación sigue un enfoque basado en los riesgos. Es decir, cuanto mayor sea el peligro para la sociedad más estrictas serán las normas. En líneas generales, el reglamento permite o prohíbe el uso de la inteligencia artificial en función del riesgo que genera para las personas e identifica sistemas de alto riesgo que solo se podrán utilizar si se demuestra que respetan los derechos fundamentales.

Los sistemas de inteligencia artificial que presenten solo un riesgo limitado estarán sujetos a obligaciones de transparencia muy leves, mientras que los sistemas de inteligencia artificial de alto riesgo estarán autorizados, pero tendrán que cumplir requisitos y obligaciones más estrictos para obtener acceso al mercado de la UE.

Los sistemas identificados como de alto riesgo, que implicarán mayor vigilancia, incluyen la tecnología de inteligencia artificial utilizada en:

• infraestructuras críticas (por ejemplo, el transporte), que podrían poner en peligro la vida y la salud de los ciudadanos;
• formación educativa o profesional, que puede determinar el acceso a la educación y el curso profesional de la vida de una persona (por ejemplo, puntuación de los exámenes);
• componentes de seguridad de los productos (por ejemplo, aplicación de inteligencia artificial en cirugía asistida por robot);
• empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de curriculums para procedimientos de contratación);
• servicios públicos y privados esenciales (por ejemplo, calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo);
• aplicación de la ley que pueda interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
• gestión de la migración, el asilo y el control fronterizo (por ejemplo, examen automatizado de las solicitudes de visado);
• administración de justicia y procesos democráticos (por ejemplo, soluciones de inteligencia artificial para buscar resoluciones judiciales).

Para quienes incumplan la normativa se prevén multas con un rango que va desde los 35 millones de euros (37,6 millones de dólares) o el 7 % del volumen global de negocio de las empresas, hasta los 7,5 millones de euros (8 millones de dólares) o el 1,5 % del volumen global de negocio.

Con el objetivo de garantizar el cumplimiento de la nueva normativa, se va a crear la Oficina de la Inteligencia Artificial en la Comisión Europea, que, entre otras cuestiones, se encargará de supervisar que los Estados miembros aplican las nuevas normativas.

Si desea conocer más sobre nuestros servicios de asesoramiento jurídico no dude en ponerse en contacto con nosotros escribiendo a info@acountax.eso llamando al número 900 264 785.