La primera normativa global sobre IA en el mundo
La Comisión Europea ha publicado una noticia sobre la firma del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (IA) en nombre de la Unión Europea.
¿En qué consiste el Convenio?
Este Convenio constituye el primer Reglamento sobre IA a escala mundial. Establece una serie de principios y medidas para regular el desarrollo y uso de la IA con un enfoque en su utilización ética y en el respeto de los derechos humanos, la Democracia y el Estado de Derecho, promoviendo la innovación y la confianza.
Además, el Convenio adopta un enfoque diferenciado y basado en el riesgo, aplicando sus principios y obligaciones a las actividades de actores privados y públicos a lo largo del ciclo de vida de la IA. Sin embargo, excluye de su alcance las actividades de sistemas de IA relacionadas con la protección de intereses de seguridad nacional, asuntos de defensa nacional, y actividades de investigación y desarrollo.
La firma de este Convenio será durante el mes de septiembre, permitiendo que cualquier país del mundo se una y se comprometa a cumplir con sus disposiciones.
¿Cuál es la relación entre el Convenio Marco y el Reglamento Europeo de Inteligencia Artificial (RIA)?
En primer lugar, ambas normas tienen como objetivo proporcionar un marco eficaz a nivel internacional para abordar los riesgos que plantea la IA en relación con los derechos humanos, la Democracia y el Estado de Derecho. Sin embargo, mientras que el RIA se aplica exclusivamente a nivel de la Unión Europea, el Convenio Marco tiene una dimensión global y está abierto a la firma de cualquier país del mundo.
El RIA está diseñado para establecer un marco normativo común en los Estados Miembros de la Unión Europea, regulando el desarrollo y uso de la inteligencia artificial dentro del territorio de la UE. Además, establece un marco normativo basado en la clasificación de los sistemas de IA, según su nivel de riesgo para las personas y la sociedad. Este marco regulatorio distingue cuatro categorías:
-
- Riesgo inaceptable: Sistemas prohibidos o estrictamente restringidos por contradecir los valores y principios fundamentales de la UE, como la dignidad humana, la Democracia o el Estado de Derecho.
-
- Riesgo alto: Sistemas de IA que deben estar sujetos a obligaciones o requisitos estrictos antes de su utilización o comercialización, ya que tienen un impacto significativo en los derechos fundamentales y la seguridad de las personas.
-
- Riesgo limitado: Sistemas sujetos a requisitos de transparencia, dado que pueden influir en los derechos o la voluntad de los usuarios, aunque en menor medida que los sistemas de alto riesgo.
-
- Riesgo mínimo o nulo: Sistemas de IA que no tienen un impacto directo en los derechos fundamentales o la seguridad de las personas y no están sujetos a ninguna obligación.
El Convenio es coherente con lo estipulado en el RIA e incluye conceptos clave como:
-
- Su enfoque basado en el riesgo.
- Principios clave (transparencia, solidez, seguridad, gobernanza, protección de datos, etc.).
- Refuerzo de la documentación, la rendición de cuentas y las vías de recurso.
- Mecanismos de supervisión de las actividades de IA.
- Apoyo a la innovación segura a través de espacios controlados de pruebas.
El Convenio se aplicará en la UE a través del RIA.
Referencias