AI Act: Guia Completa de Classificació de Risc dels Sistemes d'IA

El Reglament EU 2024/1689 (AI Act) no tracta tots els sistemes d'intel·ligència artificial igual. La norma estableix una piràmide de risc amb quatre categories — inacceptable, alt, limitat i mínim — i les obligacions legals que ha de complir la teva empresa depenen totalment de a quina categoria pertany cada sistema. Classificar malament un sistema d'IA pot significar sancions de fins a 35 milions d'euros o el 7% de la facturació global, o bé invertir recursos innecessaris en compliance que no calia. Aquesta guia explica com fer la classificació correctament, amb exemples reals per categoria.

Categoria 1: Risc inacceptable — pràctiques prohibides (Art.5)

L'Article 5 de l'AI Act prohibeix directament certes pràctiques d'IA per considerar-se una amenaça clara als drets fonamentals. Aquesta prohibició ja és aplicable des del 2 de febrer de 2025 — és la primera part del reglament que va entrar en vigor. No hi ha període de gràcia ni classificació intermèdia: si el sistema encaixa aquí, està prohibit, punt.

Exemples concrets de sistemes prohibits segons l'Art.5:

• Manipulació subliminal o enganyosa (Art.5.1.a): sistemes que despleguen tècniques subliminals més enllà de la consciència d'una persona per distorsionar el seu comportament causant-li dany.
• Explotació de vulnerabilitats (Art.5.1.b): IA que explota vulnerabilitats per edat, discapacitat o situació socioeconòmica per distorsionar el comportament d'una persona.
• Puntuació social (social scoring, Art.5.1.c): avaluació o classificació de persones físiques basada en comportament social o característiques personals, que porti a un tracte perjudicial en contextos no relacionats.
• Predicció de delinqüència basada en perfilat (Art.5.1.d): sistemes que avaluen el risc que una persona cometi un delicte basant-se únicament en el perfilat o trets de personalitat.
• Bases de dades de reconeixement facial per raspat massiu (Art.5.1.e): creació o ampliació de bases de dades facials mitjançant scraping no dirigit d'imatges d'internet o CCTV.
• Reconeixement d'emocions al lloc de treball i educació (Art.5.1.f): tret d'excepcions mèdiques o de seguretat molt específiques.
• Categorització biomètrica per inferir dades sensibles (Art.5.1.g): per deduir raça, opinions polítiques, orientació sexual o creences religioses.
• Identificació biomètrica remota en temps real en espais públics amb finalitats policials (Art.5.1.h): amb excepcions molt limitades i estrictament regulades per a cerca de víctimes o prevenció d'amenaces imminents.

Categoria 2: Risc alt — la categoria que exigeix més obligacions (Art.6, Annex III)

Un sistema es classifica com d'alt risc per dues vies diferents: l'Art.6(1) quan el sistema d'IA és un component de seguretat d'un producte ja regulat per legislació d'harmonització de la UE (com maquinària, joguines, ascensors o dispositius mèdics), o l'Art.6(2) quan el sistema encaixa en un dels vuit àmbits llistats a l'Annex III.

Les vuit àrees de l'Annex III inclouen: 1) biometria, 2) infraestructures crítiques, 3) educació i formació professional, 4) ocupació i gestió de treballadors, 5) accés a serveis essencials públics i privats, 6) aplicació de la llei, 7) migració, asil i control fronterer, i 8) administració de justícia i processos democràtics.

Exemples reals per sector, amb la referència exacta de l'Annex III:

Els proveïdors de sistemes d'alt risc han de complir un conjunt exhaustiu d'obligacions abans de comercialitzar-los: sistema de gestió de riscos continu (Art.9), governança i qualitat de les dades d'entrenament (Art.10), documentació tècnica (Art.11 i Annex IV), registre automàtic d'esdeveniments (Art.12), transparència i informació als usuaris (Art.13), supervisió humana efectiva (Art.14), precisió, robustesa i ciberseguretat (Art.15), avaluació de conformitat (Art.43) i registre a la base de dades pública de la UE abans del desplegament (Art.49 i Art.71).

Categoria 3: Risc limitat — obligacions de transparència (Art.50)

Els sistemes de risc limitat no requereixen avaluació de conformitat ni registre, però sí que han de complir obligacions de transparència perquè l'usuari final sàpiga que està interactuant amb IA o consumint contingut generat artificialment. Aquesta categoria s'aplica des del 2 d'agost de 2026 (Art.113(b)).

Exemples típics d'aquesta categoria:

• Chatbots i assistents conversacionals (Art.50.1): han d'informar l'usuari que està parlant amb un sistema d'IA, tret que sigui evident pel context.
• Contingut sintètic — deepfakes d'imatge, àudio o vídeo (Art.50.4): ha de marcar-se de manera clara com a generat o manipulat per IA.
• Sistemes de reconeixement d'emocions o categorització biomètrica (Art.50.3): quan no estan prohibits per l'Art.5, cal informar les persones exposades.
• Text generat per IA sobre temes d'interès públic (Art.50.4): ha d'etiquetar-se com a generat artificialment quan es publica per informar el públic.

Categoria 4: Risc mínim — la immensa majoria de sistemes

La Comissió Europea estima que la majoria dels sistemes d'IA que s'utilitzen avui a Europa cauen en aquesta categoria: no impliquen risc significatiu per als drets fonamentals ni la seguretat. No tenen obligacions legals específiques a l'AI Act, encara que el reglament (Art.95) anima a l'adopció voluntària de codis de conducta.

Exemples habituals de risc mínim:

• Filtres antispam basats en IA per al correu electrònic
• Sistemes de recomanació de productes en e-commerce (sense perfilat sensible)
• Videojocs amb IA per a personatges no jugadors (NPC)
• Eines internes de cerca semàntica sobre documentació d'empresa (RAG intern, sense decisions sobre persones)
• Assistents de programació i correcció gramatical

Cas pràctic: com classificar un sistema RAG intern d'un despatx professional

Imaginem un despatx d'administració de finques que implementa un assistent d'IA (RAG) perquè els propietaris consultin els estatuts de la comunitat i la LPH. El sistema respon preguntes citant l'article exacte, però no pren decisions automatitzades sobre persones, no avalua solvència, no fa scoring ni s'usa en cap dels vuit àmbits de l'Annex III. Segons l'anàlisi de l'Art.6, aquest sistema es classificaria com a risc mínim: no hi ha obligacions específiques de l'AI Act, més enllà de bones pràctiques generals de transparència si el sistema interactua directament amb l'usuari final mitjançant un chat (en aquest cas, aplicaria l'obligació lleu de transparència de l'Art.50.1 — informar que és un sistema d'IA).

En canvi, si aquest mateix despatx utilitzés IA per decidir automàticament l'acceptació o denegació de sol·licituds de finançament o per fer scoring de morositat d'un propietari, el sistema passaria a l'Annex III(5)(b) i requeriria compliment complet del règim d'alt risc.

Metodologia de classificació pas a pas

1. Pas 1 — Descarta l'Art.5: comprova que el sistema no encaixa en cap de les vuit pràctiques prohibides. Si hi encaixa, atura't: no es pot desplegar.
2. Pas 2 — Comprova l'Art.6(1): el sistema és un component de seguretat d'un producte ja subjecte a legislació d'harmonització UE (Annex I)? Si sí, alt risc.
3. Pas 3 — Comprova l'Annex III: el sistema encaixa en algun dels vuit àmbits (biometria, infraestructures crítiques, educació, ocupació, serveis essencials, aplicació de la llei, migració, justícia)? Si sí, alt risc — llevat que apliqui l'excepció de l'Art.6(3) per tasques purament auxiliars o preparatòries.
4. Pas 4 — Comprova l'Art.50: el sistema interactua directament amb persones, genera contingut sintètic o fa reconeixement d'emocions/biometria no prohibit? Si sí, risc limitat amb obligacions de transparència.
5. Pas 5 — Si no encaixa en cap dels anteriors: risc mínim, sense obligacions específiques més enllà de recomanacions voluntàries.

Preguntes freqüents

Qui ha de fer la classificació de risc: el proveïdor de la IA o l'empresa que la utilitza?

Segons l'AI Act, el proveïdor (provider, Art.3.3) del sistema té la responsabilitat principal de classificar-lo correctament abans de comercialitzar-lo. Però l'empresa desplegadora (deployer, Art.3.4) també té obligacions pròpies — especialment en sistemes d'alt risc (Art.26) — i ha de verificar que el proveïdor ha fet la classificació adequada, ja que la responsabilitat legal per un ús incorrecte també pot recaure sobre qui el desplega.

Un sistema pot canviar de categoria de risc després del desplegament?

Sí. Si un proveïdor modifica substancialment el propòsit o la funcionalitat d'un sistema d'IA, ha de reavaluar-ne la classificació (Art.25.1). Un canvi substancial pot convertir un sistema de risc mínim en un sistema d'alt risc si, per exemple, s'amplia per prendre decisions automatitzades sobre persones en un dels àmbits de l'Annex III.

Existeix alguna excepció per a sistemes de l'Annex III que en realitat no representen un risc significatiu?

Sí. L'Art.6(3) permet que un sistema que formalment encaixa en un àmbit de l'Annex III no es consideri d'alt risc si realitza únicament una tasca procedimental limitada, millora el resultat d'una activitat humana prèvia, detecta patrons de decisió sense substituir l'avaluació humana, o fa una tasca purament preparatòria. El proveïdor ha de documentar aquesta avaluació i, en cas de dubte, registrar el sistema igualment.

Els models d'IA d'ús general (GPAI) com ChatGPT o Gemini es classifiquen igual que els sistemes d'IA?

No. Els models d'IA d'ús general (General Purpose AI, Capítol V, Art.51-56) tenen un règim propi separat de la classificació de risc dels sistemes d'IA. Es classifiquen segons si presenten risc sistèmic (basat en el còmput d'entrenament, Art.51) i tenen obligacions de documentació tècnica i transparència diferents de les de l'Annex III. Un sistema construït sobre un model GPAI (com un assistent RAG) es classifica de manera independent segons el seu propòsit final.

Quan entra en vigor completament l'AI Act?

L'AI Act té una aplicació esglaonada (Art.113): les pràctiques prohibides (Art.5) des del 2 de febrer de 2025; les obligacions sobre models GPAI (Capítol V) i governança des del 2 d'agost de 2025; la majoria d'obligacions, incloent els sistemes d'alt risc de l'Annex III i risc limitat, des del 2 d'agost de 2026; i els sistemes d'alt risc que són components de seguretat de productes regulats (Art.6.1), des del 2 d'agost de 2027.