Brubru
Intel·ligència de política de la UE
El Reglament (UE) 2024/1689 és el primer marc jurídic horitzontal i complet del món per a la intel·ligència artificial. Prohibeix un conjunt reduït de pràctiques inacceptables, sotmet els sistemes d'IA d'alt risc a requisits obligatoris i a una avaluació de la conformitat, i crea un règim específic per als models d'IA de propòsit general, inclosos els models de base més grans.
El primer marc jurídic integral del món per a la intel·ligència artificial
La intel·ligència artificial presenta oportunitats econòmiques i socials importants, però també riscos per a la salut, la seguretat i els drets fonamentals. Sense un marc harmonitzat de la UE, la divergència de normes nacionals amenaçava de fragmentar el mercat interior i de reduir la seguretat jurídica per als desenvolupadors i els desplegadors que operen en diversos estats membres. La Llei d'IA cobreix aquest buit amb un únic reglament horitzontal, basat en l'article 114 del TFUE (aproximació del mercat interior) i l'article 16 del TFUE pel que fa a les disposicions sobre aplicació de la llei en matèria biometria (considerants 3 i 38).
El principi organitzador és un enfocament basat en el risc: en lloc de regular tota la IA de manera uniforme, el Reglament classifica els sistemes d'IA en quatre nivells i calibra les obligacions en funció del potencial de danys. És tecnològicament neutre, ja que s'aplica a qualsevol sistema d'IA independentment de la seva arquitectura, del mètode d'entrenament o de la modalitat de desplegament. Els seus objectius declarats són promoure el desenvolupament i l'adopció d'una IA centrada en la persona i fiable, alhora que protegeix la salut, la seguretat, els drets fonamentals, la democràcia, l'estat de dret i el medi ambient, i fomenta la innovació.
La Comissió va publicar la seva proposta com a COM(2021) 206 el 21 d'abril de 2021, com a seguiment de l'estratègia d'IA de 2018 i del Pla Coordinat sobre IA de 2021. El Consell va adoptar un enfocament general el 6 de desembre de 2022. Les comissions IMCO i LIBE del Parlament Europeu van dirigir el treball del Parlament en un procediment conjunt, amb els coponents Brando Benifei (S&D, Itàlia) i Dragos Tudorache (Renew, Romania). Es va assolir un acord polític en triloga el 8 de desembre de 2023; el Parlament va adoptar formalment el text el 13 de març de 2024 (523 vots a favor, 46 en contra, 49 abstencions). El Consell el va adoptar formalment el 21 de maig de 2024. El Reglament es va publicar al Diari Oficial el 12 de juliol de 2024 (DO L, 2024/1689) i va entrar en vigor l'1 d'agost de 2024. DG responsable a la Comissió: DG CNECT; organisme central d'aplicació: l'Oficina d'IA (constituïda per Decisió de la Comissió de 24 de gener de 2024).
El Reglament s'aplica als proveïdors que posen sistemes d'IA al mercat de la UE o els posen en servei a la UE, i als desplegadors de sistemes d'IA situats a la UE. Exclusions principals (article 2): usos militars, de defensa i de seguretat nacional (considerant 24, art. 2(3)); IA desenvolupada exclusivament per a recerca i desenvolupament científics (considerant 25, art. 2(6)); recerca i desenvolupament purs anteriors a la posada al mercat (art. 2(8)); ús personal no professional estrictament privat (art. 2(10)); i sistemes d'IA lliures i de codi obert, llevat que siguin d'alt risc, estiguin prohibits o estiguin subjectes a les obligacions de transparència de l'article 50 (art. 2(12)).
La Llei d'IA conté 113 articles distribuïts en 13 capítols, més 180 considerants i 13 annexos. Els annexos recullen la major part del detall tècnic i operatiu: l'annex I enumera la legislació d'harmonització de la Unió que activa la via d'alt risc de l'annex I; l'annex II conté la llista de la legislació de l'annex II; l'annex III enumera els vuit àmbits de casos d'ús d'alt risc de l'annex III; l'annex IV especifica el contingut obligatori de la documentació tècnica; els annexos XI i XII estableixen els requisits de documentació per als models d'IA de propòsit general; i l'annex XIII estableix els criteris per designar el risc sistèmic en els models d'IA de propòsit general. El Reglament també modifica nou instruments existents (reglaments i directives de l'acquis en matèria de seguretat de productes i seguretat en el transport), enumerats als articles 102 a 110.
Quatre nivells, obligacions calibrades: considerant 26 i article 5 i següents
Article 5: usos de la IA que queden prohibits totalment a partir del 2 de febrer de 2025
El capítol II del Reglament, que conté l'article 5, va començar a aplicar-se el 2 de febrer de 2025, sis mesos després de l'entrada en vigor. L'incompliment de qualsevol de les vuit prohibicions comporta el nivell de sanció més elevat: fins a 35.000.000 EUR o el 7% del volum de negoci anual mundial total, si aquesta darrera xifra és superior. Les pimes i les empreses emergents paguen el menor dels dos imports, ja sigui el percentatge o la quantitat fixa.
Sistemes d'IA que utilitzen tècniques subliminals, enganyoses o manipuladores que operen per sota del llindar de la consciència d'una persona, o que exploten febleses psicològiques, amb l'efecte de distorsionar materialment el comportament d'una persona de manera que pugui causar un perjudici significatiu a aquesta persona o a una altra.
Sistemes d'IA que exploten vulnerabilitats específiques d'una persona o d'un grup a causa de la seva edat, discapacitat o situació social o econòmica específica, per distorsionar materialment el seu comportament de manera que pugui causar un perjudici significatiu a aquesta persona o a una altra.
Sistemes d'IA per a la puntuació social de persones físiques per part d'actors públics o privats que avaluen o classifiquen les persones en funció del seu comportament social o de les seves característiques personals, i que donen lloc a un tracte perjudicial o desproporcionat que no guarda relació amb el context original de les dades o que no està justificat.
Sistemes d'IA utilitzats pels cossos i forces de seguretat per avaluar el risc que una persona física cometi una infracció penal basant-se únicament en la creació del seu perfil o en l'avaluació dels seus trets i característiques de personalitat, sense una base factual. Aquesta prohibició no cobreix les avaluacions de risc basades en fets objectius relacionats amb la persona concernida.
Sistemes d'IA que creen o amplien bases de dades de reconeixement facial mitjançant el raspatge massiu i sense objectiu concret d'imatges facials procedents d'internet o de gravacions de circuit tancat de televisió. Aquesta prohibició té per objecte la recollida massiva i indiscriminada de dades biomètriques sense un subjecte específic ni una finalitat investigadora concreta.
Sistemes d'IA que infereixen les emocions de persones físiques al lloc de treball i en els centres educatius. S'estableix una excepció per als sistemes d'IA utilitzats per raons mèdiques o de seguretat (per exemple, la detecció de fatiga del conductor en un vehicle).
Sistemes d'IA que categoritzen individualment persones físiques a partir de les seves dades biomètriques per deduir o inferir la seva raça, opinions polítiques, afiliació sindical, creences religioses o filosòfiques, vida sexual o orientació sexual. Aquesta prohibició es distingeix de la que afecta la identificació biomètrica remota en temps real: s'adreça a la categorització, no a la identificació.
Queda prohibit l'ús de sistemes d'identificació biomètrica remota en temps real en espais d'accés públic amb finalitats de seguretat i ordre públic, llevat de tres excepcions taxativament enumerades: la cerca específica de víctimes de segrest, tracta o explotació sexual i de persones desaparegudes; la prevenció d'un atac terrorista específic, substancial i imminent o d'una amenaça per a la vida; i la identificació o localització d'un sospitós d'una infracció de l'annex II punible amb una pena d'almenys quatre anys de presó. Les tres excepcions requereixen autorització prèvia d'una autoritat judicial o administrativa independent (en un termini de 24 hores en casos urgents), una avaluació de l'impacte sobre els drets fonamentals i el registre en la base de dades de la UE.
Articles 6 a 49, annexos I i III: dues vies de classificació, sis requisits obligatoris
Un sistema d'IA és d'alt risc per aquesta via si és un component de seguretat d'un producte cobert per la legislació d'harmonització de la Unió enumerada a l'annex I, i aquell producte se sotmet a una avaluació de la conformitat per tercers. La secció A de l'annex I cobreix la legislació del Marc Legislatiu Nou, incloses la maquinària, les joguines, les embarcacions d'esbarjo, els ascensors, els equips ATEX, els equips de ràdio, els equips a pressió, els equips de protecció individual, els aparells de gas, els productes sanitaris i els productes sanitaris per a diagnòstic in vitro. La secció B cobreix la seguretat de l'aviació civil, els vehicles de dues i tres rodes, els vehicles agrícoles i forestals, els equips marins, la interoperabilitat ferroviària, els vehicles de motor i l'aviació de l'EASA. L'aplicació d'aquesta via queda ajornada fins al 2 d'agost de 2027.
Una derogació (art. 6(3)) permet que un sistema de l'annex III s'escapi de la condició d'alt risc quan no realitzi perfilatge de persones físiques i no plantegi un risc significatiu. La Comissió ha de publicar directrius amb exemples pràctics abans del 2 de febrer de 2026 (art. 6(5)).
Els proveïdors de sistemes d'IA d'alt risc han de garantir que els seus sistemes compleixin sis requisits, aplicats al llarg de tot el cicle de vida:
A més, l'article 15 exigeix exactitud, robustesa i ciberseguretat a un nivell adequat, amb resiliència davant les alteracions no autoritzades de tercers.
Els sistemes d'IA d'alt risc porten el marcatge CE (considerant 129, articles 47 a 48), que indica la conformitat amb el Reglament. La majoria dels sistemes d'alt risc també s'han de registrar en una base de dades pública de la UE (article 49, considerant 131) abans del desplegament. La base de dades de la UE és gestionada per la Comissió. L'entrada inclou la identitat del proveïdor, el nom i la versió del sistema, una descripció de la seva finalitat prevista, el procediment d'avaluació de la conformitat emprat i informació sobre el pla de seguiment postcomercialització.
Els desplegadors que siguin organismes públics, proveïdors de serveis públics i desplegadors bancaris o asseguradors de sistemes d'IA d'alt risc de l'annex III han de dur a terme una avaluació de l'impacte sobre els drets fonamentals abans del desplegament (art. 27, considerant 96). L'avaluació ha d'identificar els drets en risc, el dany esperat, les mesures per mitigar el dany i, quan s'identifiqui un risc residual, consultar les persones afectades o els seus representants quan sigui factible. Els resultats s'han de registrar en la base de dades de la UE (per als sistemes coberts per aquesta obligació).
Capítol V, articles 51 a 56: normes horitzontals per als models de base, amb obligacions addicionals per als proveïdors que presenten risc sistèmic
Un model d'IA de propòsit general es defineix per la seva generalitat i la seva capacitat per dur a terme de manera competent una àmplia gamma de tasques diferenciades (considerant 97). Els grans models generatius en són l'exemple paradigmàtic (considerant 99). El capítol s'aplica als proveïdors de models GPAI, no als desplegadors ni als integradors que incorporen aquests models als seus propis productes, llevat que ells mateixos modifiquin un model GPAI i posin al mercat una versió nova.
Tot proveïdor d'un model GPAI, independentment de la seva mida, ha de:
Els models GPAI de codi obert estan exempts de les obligacions de documentació dels annexos XI i XII, però han de complir igualment la política sobre dret d'autor i les obligacions relatives al resum de l'entrenament, i perden l'exempció si presenten risc sistèmic (art. 53(2)).
Un model GPAI es classifica com a model que presenta risc sistèmic quan té capacitats d'alt impacte. Es presumeix que és així quan la quantitat acumulada de càlcul utilitzada en l'entrenament supera les 1025 operacions en punt flotant (FLOPs). Els criteris addicionals de l'annex XIII inclouen el nombre de paràmetres, la mida del conjunt de dades d'entrenament, les modalitats, el rendiment en proves de referència i una presumpció d'abast d'almenys 10.000 usuaris empresarials registrats a la UE. La Comissió també pot designar un model sobre la base dels criteris de l'annex XIII mitjançant decisió. Els proveïdors han de notificar a l'Oficina d'IA en un termini de dues setmanes a partir del moment en què assoleixin (o prevegin assolir) el llindar de risc sistèmic (article 52).
L'instrument principal de compliment de les obligacions GPAI és un conjunt de codis de conducta elaborats conjuntament per l'Oficina d'IA i els proveïdors de models GPAI, els desplegadors intermediaris i altres parts interessades. L'adhesió a un codi de conducta crea una presumpció de compliment de les obligacions corresponents de la Llei d'IA. Els codis havien d'estar llestos el 2 de maig de 2025, i les normes sobre GPAI van passar a ser aplicables el 2 d'agost de 2025. Els proveïdors que no s'adhereixin a cap codi poden acreditar el compliment per altres mitjans. Entre els signataris figuren OpenAI, Anthropic, Google DeepMind, Mistral, Meta i Microsoft.
Article 50, Capítol IV: deures de divulgació aplicables independentment del nivell de risc
Els proveïdors de sistemes d'IA destinats a interactuar directament amb persones físiques han de garantir que aquestes persones siguin informades que estan interactuant amb un sistema d'IA, tret que això sigui obvi pel context o que el sistema s'utilitzi per detectar, prevenir, investigar o perseguir infraccions penals. La divulgació s'ha de fer com a màxim en el moment de la primera interacció.
Els proveïdors de sistemes d'IA que generen àudio, imatges, vídeo o text sintètics han de garantir que els resultats estiguin marcats en un format llegible per màquina com a generats o manipulats artificialment, mitjançant solucions tècniques com ara la marca d'aigua. Aquesta obligació dóna suport a la detecció i la divulgació posteriors per part dels desplegadors i les plataformes. La Comissió és responsable d'especificar els estàndards tècnics. El termini per al marcatge d'aigua va ser objecte d'una breu pròrroga en virtut de l'Òmnibus Digital 2025/0359.
Els desplegadors de sistemes d'IA que operen sobre la base del reconeixement d'emocions o la categorització biomètrica han d'informar les persones físiques exposades a aquests sistemes del funcionament del sistema. Aquesta obligació de divulgació s'aplica fins i tot quan el sistema queda fora del nivell d'alt risc, i independentment d'on es trobi la persona en relació amb el desplegador.
Els desplegadors que utilitzen sistemes d'IA per generar o manipular contingut d'imatge, àudio o vídeo que constitueix un contingut ultrafalse han de divulgar que el contingut ha estat generat o manipulat artificialment. S'aplica una norma més lleugera a les obres evidentment artístiques, creatives, satíriques o fictícies, on la divulgació pot limitar-se a evitar l'engany sobre l'autenticitat. El text generat per IA publicat en interès públic també s'ha de divulgar, tret que el contingut hagi estat sotmès a revisió humana sota responsabilitat editorial.
Capítols VII i IX: l'arquitectura de la Unió de cinc òrgans més les autoritats nacionals
Cada estat membre ha d'establir almenys un espai de proves reglamentari d'IA, operatiu a partir del 2 d'agost de 2026, per facilitar el desenvolupament, les proves i la validació de sistemes d'IA innovadors en un entorn controlat abans de la seva comercialització. Els espais de proves han de preveure condicions d'accés prioritàries i simplificades per a les pimes i les empreses emergents. El Reglament preveu també proves en condicions reals de sistemes d'IA fora dels espais de proves en condicions que garanteixin una protecció adequada (articles 58 a 60). Una recerca del SEPRE (abril de 2026) va identificar reptes de disseny, fragmentació i calendari en la implementació dels espais de proves pels estats membres.
Articles 99 a 101: una estructura de multes de tres nivells basada en la gravetat i el tipus d'actor
| Categoria d'infracció | Base jurídica | Multa màxima | Observacions |
|---|---|---|---|
| Pràctiques prohibides (Article 5) | Art 99(3) | EUR 35.000.000 o el 7% del volum de negoci anual mundial | La que sigui més elevada. El nivell de sanció més alt reflecteix la gravetat de la conducta prohibida. |
| Altres obligacions (proveïdors, desplegadors, importadors, distribuïdors, organismes notificats, obligacions de transparència) | Art 99(4) | EUR 15.000.000 o el 3% del volum de negoci anual mundial | S'aplica a tot l'àmbit de requisits d'IA d'alt risc i a les obligacions de GPAI diferents de l'Art. 5. |
| Informació incorrecta, incompleta o enganyosa facilitada a organismes notificats o autoritats nacionals competents | Art 99(5) | EUR 7.500.000 o l'1% del volum de negoci anual mundial | Comprèn les declaracions falses, la documentació falsa i l'obstrucció de les activitats de supervisió. |
| PIME i empreses emergents | Art 99(6) | El menor entre el percentatge i l'import fix | Proporcionalitat: per a cada nivell, les PIME i les empreses emergents paguen el menor entre el percentatge del volum de negoci i el límit fix. |
| Proveïdors de models GPAI | Art 101 | EUR 15.000.000 o el 3% del volum de negoci anual mundial | La Comissió pot sancionar directament els proveïdors de GPAI. Aplicable a partir del 2 d'agost de 2025. |
| Institucions, òrgans i agències de la Unió | Art 100 | EUR 1.500.000 (Art. 5) o EUR 750.000 (altres) | Imposades pel SEPD. El càlcul basat en el volum de negoci no s'aplica als òrgans de la Unió. |
En tots els casos, la sanció aplicable és la més elevada entre el límit fix i el percentatge del volum de negoci, excepte per a les PIME i les empreses emergents (on s'aplica la més reduïda). Les autoritats competents han de tenir en compte la naturalesa, la gravetat, la durada i els efectes de la infracció; el grau de responsabilitat de la persona implicada; i les circumstàncies atenuants o agreujants. Les infraccions reiterades en un termini de cinc anys eleven el límit màxim. El Comitè Europeu de Protecció de Dades també pot imposar multes en virtut del RGPD quan el tractament d'IA afecti dades personals.
Article 113 i considerant 179: un desplegament per fases des de l'entrada en vigor fins a l'aplicació plena
Actualització (16 de juny de 2026): el Parlament Europeu va adoptar l'òmnibus de simplificació de la Llei d'IA (2025/0359(COD)) en primera lectura el 16 de juny de 2026 per 423 vots a favor, 57 en contra i 174 abstencions, després de l'acord interinstitucional provisional del 7 de maig de 2026 (el Coreper va avalar l'acord el 13 de maig de 2026). El text adoptat fixa amb caràcter vinculant les noves dates: una nova prohibició a l'article 5 dels sistemes d'IA que creen imatges íntimes sense consentiment i material d'abús sexual infantil (compliment a tot tardar el 2 de desembre de 2026); marcatge d'aigua del contingut generat per IA des del 2 de desembre de 2026; sistemes d'alt risc autònoms (annex III) des del 2 de desembre de 2027; i sistemes d'alt risc integrats en productes regulats des del 2 d'agost de 2028. La majoria de les altres disposicions de la Llei d'IA continuen aplicant-se des del 2 d'agost de 2026. Només queda l'adopció formal del Consell; el text vigent del Reglament (UE) 2024/1689 continua en vigor fins que l'acte modificador es publiqui en el Diari Oficial. Ponents conjunts del PE (IMCO i LIBE): Arba Kokalari (PPE, Suècia) i Michael McNamara (Renew, Irlanda). Font: comunicat de premsa del PE 20260611IPR45207.
Termes essencials de l'article 3 del Reglament (UE) 2024/1689
Abreviatures i organismes clau referenciats en el Reglament (UE) 2024/1689
Documentació primària del Reglament (UE) 2024/1689
Sis eines per analitzar, seguir i treballar amb la regulació de la intel·ligència artificial de la UE
Prova gratuïta de 14 dies. Sense necessitat de targeta.
Comenceu la prova gratuïta