ANIMSA

La nueva Ley Europea de Inteligencia Artificial (IA), que entró en vigor el 1 de agosto de 2024, es la primera regulación mundial de este tipo y tiene como objetivo fomentar el desarrollo y la implementación responsable de la IA en la Unión Europea. Esta ley aborda los posibles riesgos para la salud, la seguridad y los derechos fundamentales de la ciudadanía, proporcionando un marco uniforme para todos los países de la Unión.

Itziar Alkorta Idiakez, profesora de Derecho Civil UPV/EHU y miembro de Jakiunde, explicó el alcance de esta norma el 12 de agosto en Ujué, durante su intervención en un curso de verano de la UPNA al que asistió personal de ANIMSA.

La ley clasifica los sistemas de IA en cuatro CATEGORÍAS DE RIESGO:

• Los sistemas de riesgo mínimo, como los filtros de correo no deseado, no están sujetos a obligaciones específicas, aunque las empresas pueden adoptar códigos de conducta voluntarios para moderar su uso.
• Los sistemas de riesgo específico de transparencia, como los chatbots, deben informar claramente a los usuarios y usuarias de que están interactuando con una máquina.
• Los sistemas de alto riesgo, como los utilizados en la medicina o la contratación electrónica, deben cumplir requisitos estrictos de certificación antes de llegar al mercado, incluyendo medidas de seguridad y reducción de riesgos, el uso de conjuntos de datos de alta calidad y la supervisión humana de los sistemas.
• Los sistemas de IA que nos exponen a un riesgo inadmisible para nuestros derechos fundamentales, como los que permiten la puntuación ciudadana o la identificación remota en tiempo real en situaciones normales, están prohibidos.

La ley también establece un CALENDARIO progresivo para su implementación:

• Febrero de 2025: entrarán en vigor las disposiciones generales y las prohibiciones
• Mayo de 2025, los códigos de buenas prácticas, exigibles
• Agosto de 2025, las normas generales y sanciones
• Agosto de 2027, los sistemas de alto riesgo deberán cumplir con todas las obligaciones que pide la norma para poder certificar los sistemas de IA.

ADMINISTRACIONES PÚBLICAS

ANIMSA ya ofrece a las entidades locales servicios que emplean la IA para la automatización de la gestión de expedientes o para la atención ciudadana (asistentes virtuales de voz y para web), y estudiará otros que puedan interesar a las entidades para su próxima implementación.

Para ello, se tendrá en cuenta la nueva Ley, que tiene un impacto significativo en las administraciones públicas, especialmente las municipales:

• Las administraciones locales deberán asegurarse de que cualquier sistema de IA que utilicen cumpla con los requisitos establecidos. Esto incluye sistemas de gestión de residuos, transporte público, servicios de atención al ciudadano y cualquier otra aplicación que pueda clasificarse como de alto riesgo.
• Las administraciones deberán ser transparentes sobre el uso de la IA, garantizar la supervisión humana y asegurarse de que los sistemas no infrinjan los derechos fundamentales de la ciudadanía.
• La ley fomenta la innovación y la inversión en IA dentro de la UE, lo que podría beneficiar a las administraciones públicas al proporcionarles acceso a tecnologías más avanzadas y eficientes.
• La ley también implica una carga administrativa adicional para garantizar el cumplimiento de las nuevas normativas.
• Las administraciones municipales deberán adaptarse a estos cambios, lo que podría requerir formación adicional para el personal y la implementación de nuevos procedimientos y sistemas de control.

En resumen, la nueva Ley Europea de IA establece un marco regulatorio sólido y uniforme para el uso de la inteligencia artificial en la UE, con un enfoque en la seguridad, la transparencia y el respeto a los derechos fundamentales. Su impacto en las administraciones públicas, especialmente a nivel municipal, será significativo, requiriendo adaptaciones y esfuerzos para cumplir con las nuevas obligaciones mientras se aprovechan las oportunidades de innovación y mejora de los servicios públicos.