La primera normativa global sobre IA al món
La Comissió Europea ha publicat una notícia sobre la firma del Conveni marc del Consell d’Europa sobre intel·ligència artificial (IA) en nom de la Unió Europea.
En què consistix el Conveni?
Este conveni constituïx el primer reglament sobre IA a escala mundial. Establix una sèrie de principis i mesures per a regular el desenrotllament i l’ús de la IA amb un enfocament en la seua utilització ètica i en el respecte dels drets humans, la democràcia i l’estat de dret, que promoga la innovació i la confiança.
A més, el Conveni adopta un enfocament diferenciat i basat en el risc, aplicant els seus principis i obligacions a les activitats d’actors privats i públics al llarg del cicle de vida de la IA. No obstant això, exclou del seu abast les activitats de sistemes d’IA relacionades amb la protecció d’interessos de seguretat nacional, assumptes de defensa nacional, i activitats d’investigació i desenrotllament.
La firma d’este conveni es farà el mes de setembre, fet que permet que qualsevol país del món s’hi unisca i es comprometa a complir les seues disposicions.
Quina relació hi ha entre el Conveni marc i el Reglament europeu d’intel·ligència artificial (RIA)?
En primer lloc, les dos normes tenen com a objectiu proporcionar un marc eficaç d’àmbit internacional per a abordar els riscos que planteja la IA en relació amb els drets humans, la democràcia i l’estat de dret. No obstant això, mentres que el RIA s’aplica exclusivament a la Unió Europea, el Conveni marc té una dimensió global i està obert a la firma de qualsevol país del món.
El RIA està dissenyat per a establir un marc normatiu comú en els estats membres de la Unió Europea que regule el desenrotllament i l’ús de la intel·ligència artificial dins del territori de la UE. A més, establix un marc normatiu basat en la classificació dels sistemes d’IA, segons el seu nivell de risc per a les persones i la societat. Este marc regulador distingix quatre categories:
-
- Risc inacceptable: Sistemes prohibits o estrictament restringits per contradir els valors i principis fonamentals de la UE, com la dignitat humana, la democràcia o l’estat de dret.
-
- Risc alt: Sistemes d’IA que han d’estar subjectes a obligacions o requisits estrictes abans de la seua utilització o comercialització, ja que tenen un impacte significatiu en els drets fonamentals i la seguretat de les persones.
-
- Risc limitat: Sistemes subjectes a requisits de transparència, atés que poden influir en els drets o la voluntat dels usuaris, encara que en menor mesura que els sistemes d’alt risc.
-
- Risc mínim o nul: Sistemes d’IA que no tenen un impacte directe en els drets fonamentals o la seguretat de les persones i no estan subjectes a cap obligació.
El Conveni és coherent amb el que estipula el RIA i inclou conceptes clau, com ara:
-
- El seu enfocament basat en el risc.
- Principis clau (transparència, solidesa, seguretat, governança, protecció de dades, etc.).
- Reforç de la documentació, la rendició de comptes i les vies de recurs.
- Mecanismes de supervisió de les activitats d’IA.
- Suport a la innovació segura a través d’espais controlats de proves.
El Conveni s’aplicarà a la UE a través del RIA.
Referències