Reglament (UE) 2024/1689 del Parlament Europeu i del Consell de 13 de juny de 2024 pel qual s'estableixen normes harmonitzades sobre intel·ligència artificial i es modifiquen els Reglaments (CE) Núm. 300/2008, (UE) Núm. 167/2013, (UE) Núm. 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 i les Directives 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (Llei d'Intel·ligència Artificial) (Text amb rellevància EEA)

Tenint en compte el Tractat de Funcionament de la Unió Europea, i en particular els seus articles 16 i 114,

Després de la transmissió del projecte d'acte legislatiu als parlaments nacionals,

(1) La finalitat d'aquest Reglament és millorar el funcionament del mercat interior establint un marc jurídic uniforme en particular per al desenvolupament, la comercialització, la posada en servei i l'ús de sistemes d'intel·ligència artificial (sistemes d'intel·ligència artificial) en la Unió, d'acord amb els valors de la Unió, per a promoure l'ús de la intel·ligència artificial centrada en l'ésser humà (sistemes d'intel·ligència artificial), garantint al mateix temps un alt nivell de protecció de la salut, la seguretat, els drets fonamentals consagrats en la Carta dels Drets Fonamentals de la Unió Europea (la Carta de Drets Fonamentals de la Unió Europea), inclosa la democràcia, l'Estat de Dret i la protecció del medi ambient, per a protegir contra els efectes nocius dels sistemes d'intel·ligència artificial en la Unió, i per a donar suport a la innovació, garantint així la lliure circulació, transfronterera, de béns i serveis basats en intel·ligència artificial, impedint així als Estats membres imposar restriccions en el desenvolupament, la comercialització i l'ús de sistemes d'intel·ligència artificial, excepte autorització expressa d'aquest Reglament.

(2) Aquest Reglament ha d'aplicar-se d'acord amb els valors de la Unió consagrats en la Carta, facilitant la protecció de les persones físiques, les empreses, la democràcia, l'Estat de Dret i la protecció del medi ambient, impulsant al mateix temps la innovació i l'ocupació i convertint a la Unió en líder en l'adquisició d'una IA fiable.

(3) Els sistemes d'IA poden desplegar-se fàcilment en una gran varietat de sectors de l'economia i moltes parts de la societat, fins i tot a través de les fronteres, i poden circular fàcilment per tota la Unió. Les normes nacionals divergents poden conduir a la fragmentació del mercat interior i a la disminució de la seguretat jurídica dels operadors que desenvolupen, importen o utilitzen sistemes d'IA; per tant, cal evitar les divergències que obstaculitzen la lliure circulació, la innovació, el desplegament i la captació de sistemes d'IA i de productes i serveis relacionats dins del mercat interior, establint obligacions uniformes per als operadors i garantint la protecció uniforme de les persones en tot el mercat interior, en la mesura en què aquest Reglament conté normes específiques sobre l'ús de sistemes d'IA per a la identificació biomètrica remota a l'efecte de l'aplicació de la llei, de l'ús de sistemes d'IA per a l'avaluació de riscos de les persones físiques a l'efecte de l'aplicació de la llei i de l'ús de sistemes d'IA de classificació biomètrica a l'efecte de l'aplicació de la llei.

(4) La IA és una família de tecnologies en ràpida evolució que contribueix a una àmplia gamma de beneficis econòmics, ambientals i socials en tot l'espectre d'indústries i activitats socials.A través de la millora de la predicció, l'optimització de les operacions i l'assignació de recursos, i la personalització de solucions digitals disponibles per a persones i organitzacions, l'ús de la IA pot proporcionar avantatges competitius clau per a les empreses i donar suport a resultats social i mediambientalment beneficiosos, per exemple en salut, agricultura, seguretat alimentària, educació i formació, mitjans de comunicació, esports, cultura, gestió d'infraestructures, energia, transport i logística, serveis públics, seguretat, justícia, recursos i eficiència energètica, seguiment ambiental, conservació i restauració de la biodiversitat i els ecosistemes i la mitigació i adaptació del canvi climàtic.

(5) Al mateix temps, en funció de les circumstàncies relatives a la seva aplicació específica, ús i nivell de desenvolupament tecnològic, la IA pot generar riscos i causar danys als interessos públics i als drets fonamentals protegits pel dret de la Unió, que poden ser materials o immaterials, inclosos els danys físics, psicològics, socials o econòmics.

(6) Donat el gran impacte que la IA pot tenir en la societat i la necessitat de generar confiança, és vital que la IA i el seu marc regulador es desenvolupin d'acord amb els valors de la Unió consagrats en l'article 2 del Tractat de la Unió Europea (TUE), els drets i llibertats fonamentals consagrats en els Tractats i, de conformitat amb l'article 6 del TUE, la Carta.

(7) Per garantir un nivell coherent i alt de protecció dels interessos públics pel que fa a la salut, la seguretat i els drets fonamentals, s'han d'establir normes comunes per als sistemes d'intel·ligència artificial d'alt risc, que siguin coherents amb la Carta, no discriminatòries i d'acord amb els compromisos comercials internacionals de la Unió, així com tenir en compte la Declaració Europea de Drets i Principis per a la Dècada Digital i les directrius ètiques per a una intel·ligència artificial de confiança del Grup d'Experts d'Alt Nivell en Intel·ligència Artificial (AI HLEG).

(8) Per tant, és necessari establir un marc jurídic de la Unió que estableixi normes harmonitzades en matèria d'IA en el mercat interior que, al mateix temps, reuneixi un alt nivell de protecció dels interessos públics, inclosa la democràcia, l'Estat de Dret i la protecció del medi ambient, tal com reconeix i protegeix el Dret de la Unió, que garanteixi el bon funcionament del mercat interior, que permeti que aquests sistemes es beneficiïn del principi de lliure circulació de béns i serveis, que permeti a un ecosistema europeu d'actors públics i privats crear sistemes d'IA d'acord amb els valors de la Unió i que desbloquegi el potencial de la transformació digital en totes les regions de la Unió, així com les mesures de suport a la innovació amb un enfocament centrat en les petites i mitjanes empreses (PIME), incloses les startups, i que garanteixi la protecció dels principis ètics, tal com demana específicament el Parlament Europeu [E0006].

(9) Les normes harmonitzades aplicables a la comercialització, posada en servei i ús de sistemes d'IA d'alt risc s'han d'establir de manera coherent amb el Reglament (CE) núm. 765/2008 del Parlament Europeu i del Consell [E0008], la Decisió núm. 768/2008/CE del Parlament Europeu i del Consell [E0008] i el Reglament (UE) 2019/1020 del Parlament Europeu i del Consell [E0008] i el Reglament (UE) 2019/1020 del Parlament Europeu i del Consell [E0008] i el Reglament (UE) 2019/1020 del Parlament Europeu i del Consell [E0008], que ha d'aplicar-se en tots els sectors sense perjudici del dret comunitari de protecció de dades, drets fonamentals, ocupació i protecció dels treballadors, i que, en el marc de la Directiva 85/374/CEE [E0010], no ha d'afectar ni afectar el dret de la Unió a les condicions laborals i laborals específiques dels Estats membres i de la Unió, ni tampoc a l'exercici de les condicions laborals específiques dels sistemes d'intel·ligència artificial establerts en la Directiva del Parlament Europeu i del Consell sobre la millora de les condicions laborals dels sistemes d'intel·ligència artificial, ni a la transparència, la documentació tècnica i el registre dels sistemes d'intel·ligència artificial, ni a la limitació de l'ús de determinats sistemes d'intel·ligència artificial, en la mesura en què no siguin específics dels sistemes d'intel·ligència artificial i persegueixin altres objectius legítims d'interès públic.

(10) En compliment del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i la Llei Orgànica 3/2018, de 5 de desembre, de Protecció de Dades Personals i garantia dels drets digitals, li oferim la següent informació sobre el tractament de les seves dades personals:

(11) Aquest Reglament hauria d'estar sens perjudici de les disposicions relatives a la responsabilitat dels prestadors de serveis intermedis tal com s'estableixen en el Reglament (UE) 2022/2065 del Parlament Europeu i del Consell [E0015].

(12) La noció de "sistema AI" en aquest Reglament ha de ser clarament definida i ha d'estar estretament alineada amb el treball de les organitzacions internacionals que treballen en IA per garantir la seguretat jurídica, facilitar la convergència internacional i l'àmplia acceptació, mentre que la definició ha de basar-se en les característiques clau dels sistemes d'IA per a executar automàticament les operacions. Una característica clau dels sistemes d'IA és la seva capacitat per a inferir models o algorismes basats en dades. Les tècniques que permeten inferir els sistemes d'IA per a derivar models o algorismes, o ambdues, a partir d'entrades o dades. La capacitat d'un sistema d'IA per a inferir transcendeix el processament de dades bàsics permetent l'aprenentatge, el raonament o els objectius implícits. La referència als sistemes d'IA pot ser diferent del propòsit previst del sistema d'IA en un context específic. Els objectius del sistema d'IA poden ser diferents de les funcions realitzades pels sistemes d'IA i incloure prediccions, continguts, recomanacions o decisions. Els sistemes d'IA estan dissenyats per a operar amb diferents nivells d'autonomia, el que significa que un sistema d'IA pot funcionar de manera independent o com a component d'un producte. Els sistemes d'IA es poden utilitzar de manera independent o com a component d'un producte.

(13) La noció de "desplegador" a què fa referència aquest Reglament s'ha d'interpretar com qualsevol persona física o jurídica, incloent una autoritat pública, agència o un altre organisme, utilitzant un sistema d'IA sota la seva autoritat, excepte quan el sistema d'IA s'utilitza en el curs d'una activitat personal no professional.Depenent del tipus de sistema d'IA, l'ús del sistema pot afectar persones diferents del desplegador.

(14) La noció de "dades biomètriques" utilitzades en aquest Reglament s'ha d'interpretar a la llum de la noció de dades biomètriques tal com es defineix a l'article 4, punt (14) del Reglament (UE) 2016/679, article 3, punt (18) del Reglament (UE) 2018/1725 i article 3, punt (13) de la Directiva (UE) 2016/680. Les dades biomètriques poden permetre l'autenticació, identificació o categorització de les persones físiques i per al reconeixement de les emocions de les persones físiques.

(15) La noció de "identificació biomètrica" a què es refereix aquest Reglament ha de definir-se com el reconeixement automatitzat de les característiques físiques, fisiològiques i conductuals humanes, com ara la cara, el moviment ocular, la forma corporal, la veu, la prosòdia, la gaita, la postura, la freqüència cardíaca, la pressió arterial, l'olor, les característiques de les pulsacions clau, amb la finalitat d'establir la identitat d'un individu comparant les dades biomètriques d'aquest individu amb les dades biomètriques emmagatzemades d'individus en una base de dades de referència, independentment de si l'individu ha donat el seu consentiment o no, exclou els sistemes d'IA destinats a la verificació biomètrica, que inclou l'autenticació, l'únic propòsit de la qual és confirmar que una persona física específica és la persona que afirma ser i confirmar la identitat d'una persona física amb l'únic propòsit de tenir accés a un servei, desbloquejar un dispositiu o tenir accés a la seguretat a les instal·lacions.

(16) La noció de "categoria biomètrica" a què es refereix aquest Reglament hauria de definir-se com l'assignació de persones físiques a categories específiques sobre la base de les seves dades biomètriques. Aquestes categories específiques poden relacionar-se amb aspectes com el sexe, l'edat, el color del cabell, el color dels ulls, els tatuatges, els trets de comportament o personalitat, el llenguatge, la religió, la pertinença a una minoria nacional, el llenguatge, la religió, la pertinença a una minoria nacional, la qual cosa significa que la característica no pot ser utilitzada, per raons tècniques objectives, sense el servei principal, i la integració d'aquesta característica o funcionalitat no és un mitjà per evitar l'aplicabilitat de les regles d'aquest Reglament.

(17) La noció de "sistema d'identificació biomètrica remota" a què es refereix aquest Reglament ha de definir-se funcionalment, com un sistema d'IA destinat a la identificació de les persones físiques sense la seva implicació activa, típicament a distància, mitjançant la comparació de les dades biomètriques d'una persona física amb les dades biomètriques contingudes en una base de dades de referència, independentment de la tecnologia, els processos o els tipus de dades biomètriques utilitzades, amb l'única finalitat de confirmar que una persona física específica és la persona que afirma ser i tenir accés a les premisses de seguretat. Aquesta exclusió es justifica pel fet que aquests sistemes d'identificació biomètrica remota tenen un impacte menor en els drets fonamentals d'un gran nombre de persones sense la seva implicació activa. En aquest sentit, els sistemes de "temps real" impliquen l'ús de material "en temps real" o "en temps real" generat per una càmera o un altre dispositiu amb funcionalitat similar.

(18) La noció de "sistema de reconeixement d'emocions" a la qual es refereix aquest Reglament ha de definir-se com un sistema d'IA amb la finalitat d'identificar o inferir emocions o intencions de les persones físiques sobre la base de les seves dades biomètriques.La noció es refereix a emocions o intencions com la felicitat, la tristesa, la ràbia, la sorpresa, el disgust, la vergonya, el menyspreu, la satisfacció i la diversió. No inclou, per exemple, els sistemes utilitzats per detectar l'estat de fatiga dels pilots o conductors professionals amb la finalitat de prevenir accidents. Aquestes expressions poden ser expressions facials bàsiques, com ara un malestar o un somriure, o gestos com el moviment de mans, braços o cap, o característiques de la veu d'una persona, com una veu elevada o xiuxiueig.

(19) A l'efecte d'aquest Reglament s'ha d'entendre la noció d'espai públic accessible a un nombre indeterminat de persones físiques, independentment de si l'espai en qüestió és de propietat privada o pública, independentment de l'activitat per a la qual es pugui utilitzar l'espai, per exemple, les piscines, els gimnasos, els estadis; per al transport, per exemple, les estacions d'autobusos, de metro i de ferrocarril, els aeroports, els mitjans de transport; per a l'oci, per exemple, els cinemes, els parcs, els boscos, les sales de reunions; o per a l'oci, per exemple, les carreteres públiques i places, els parcs, els boscos, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, els parcs, etc.

(20) Per tal d'obtenir els majors beneficis dels sistemes d'IA, protegir els drets fonamentals, la salut i la seguretat i permetre el control democràtic, l'alfabetització en IA hauria d'equipar els proveïdors, els desplegadors i les persones afectades amb les nocions necessàries per prendre decisions informades sobre els sistemes d'IA, les mesures a aplicar durant la fase de desenvolupament del sistema d'IA, i, en el context de l'aplicació de la IA, els coneixements necessaris per entendre com les decisions preses amb l'ajuda de la IA tindran un impacte en ells.

(21) Amb la finalitat de garantir la igualtat de condicions i una protecció eficaç dels drets i llibertats de les persones en tota la Unió, les normes establertes per aquest Reglament haurien d'aplicar-se als proveïdors de sistemes d'IA de manera no discriminatòria, independentment de si estan establerts dins de la Unió o en un tercer país, i als desplegadors de sistemes d'IA establerts dins de la Unió.

(22) En el cas que un operador establert en la Unió contracti determinats serveis a un operador establert en un tercer país, per exemple, en el cas que un operador establert en la Unió contracti determinats serveis a un operador establert en un tercer país, i en el cas que un operador establert en un tercer país contracti determinats serveis a un operador establert en un tercer país, aquest ordenament hauria d'aplicar-se també als proveïdors i agents de sistemes d'IA establerts en un tercer país i a les organitzacions internacionals, tenint en compte les disposicions vigents i les necessitats especials per a la futura cooperació amb socis estrangers amb els quals s'intercanvia informació i proves, aquest ordenament no hauria d'aplicar-se a les autoritats públiques d'un tercer país o a nivell nacional per a l'aplicació de la llei i la cooperació judicial amb tercers països o entre la Unió Europea, Europol i altres organismes de la Unió i tercers països i organitzacions internacionals. Les autoritats nacionals competents per a la supervisió de l'aplicació de la llei i d'altres organismes de la Unió que facin ús d'aquests resultats en el futur, les parts contractants haurien de fer els màxims esforços per alinear aquests acords amb els requisits d'aquest Reglament.

(23) Aquest Reglament també hauria d'aplicar-se a les institucions, òrgans, oficines i agències de la Unió quan actuïn com a proveïdor o desplegador d'un sistema d'IA.

(24) Si els sistemes d'IA es comercialitzen, es posen en servei o s'utilitzen amb o sense modificació d'aquests sistemes amb finalitats militars, de defensa o de seguretat nacional, aquesta exclusió està justificada tant per l'article 4, apartat 2, com per les especificitats de la política de defensa pública dels Estats membres i per les especificitats de la política militar i de la política de defensa comuna dels Estats membres, en el context de l'ús de força letal i altres sistemes d'IA en el context de les activitats militars i de defensa, i per la naturalesa i les necessitats operatives de les activitats de seguretat nacional, així com per la naturalesa específica i les necessitats operatives de les activitats de seguretat nacional, així com per la naturalesa específica i les necessitats operatives de les activitats de seguretat nacional, així com per la naturalesa i les necessitats operatives de les activitats militars, de defensa o de seguretat pública, aquest sistema hauria de garantir el compliment d'aquest Reglament, excepte per als fins militars, de defensa o de seguretat nacional.

(25) Aquest Reglament ha de donar suport a la innovació, ha de respectar la llibertat de la ciència i no ha de soscavar l'activitat de recerca i desenvolupament, per la qual cosa és necessari excloure del seu àmbit d'aplicació sistemes i models d'IA específicament desenvolupats i posats en servei amb l'única finalitat de la recerca i el desenvolupament científics, i que les disposicions d'aquest Reglament no s'apliquin abans que aquests sistemes i models es posin en servei o es comercialitzin, sense perjudici de l'aplicació de disposicions sobre sistemes d'IA específicament desenvolupats i posats en servei amb l'única finalitat de la recerca i el desenvolupament científics, i que qualsevol altra activitat de recerca i desenvolupament es dugui a terme d'acord amb les normes ètiques i professionals de la recerca científica aplicables.

(26) Per a introduir un conjunt proporcionat i eficaç de normes vinculants per als sistemes d'IA, hauria de seguir-se un enfocament clarament definit basat en el risc, que hauria d'adaptar el tipus i el contingut d'aquestes normes a la intensitat i abast dels riscos que poden generar els sistemes d'IA, per la qual cosa és necessari prohibir determinades pràctiques d'IA inacceptables, establir requisits per als sistemes d'IA d'alt risc i obligacions per als operadors pertinents, i establir obligacions de transparència per a determinats sistemes d'IA.

(27) Si bé l'enfocament basat en el risc és la base per a un conjunt proporcionat i eficaç de normes vinculants, és important recordar les directrius Ètiques 2019 per a la IA independent HLEG, que tenen com a objectiu ajudar a garantir que la IA sigui fiable i èticament sòlida, que contribueixi al disseny d'una IA coherent, que respecti la dignitat humana i l'autonomia personal, i que funcioni de manera que els sistemes d'IA siguin desenvolupats i utilitzats d'acord amb les normes de privacitat i protecció de dades, i que els sistemes d'IA siguin desenvolupats i utilitzats d'acord amb les normes de qualitat i integritat, i que els sistemes d'IA siguin desenvolupats i utilitzats d'una manera que inclogui diversos actors i promogui la igualtat d'accés, la igualtat de gènere i la diversitat cultural, mentre que l'aplicació d'aquests sistemes ha de ser desenvolupada i utilitzada de manera sostenible i respectuosa amb el medi ambient.

(28) A part dels molts usos beneficiosos de la IA, també es pot fer un ús indegut i proporcionar eines noves i poderoses per a les pràctiques manipuladores, explotadores i de control social, pràctiques que són especialment perjudicials i abusives i que haurien de prohibir-se perquè contradiuen els valors de la Unió de respecte de la dignitat humana, la llibertat, la igualtat, la democràcia i l'Estat de Dret i els drets fonamentals consagrats en la Carta, inclòs el dret a la no discriminació, a la protecció de dades i a la privacitat i els drets del nen.

(29) La posada en el mercat, la posada en servei o l'ús de determinats sistemes d'intel·ligència artificial (IA) són especialment perillosos i, per tant, han de ser prohibits. Aquests sistemes d'intel·ligència artificial (IA) poden utilitzar-se per a persuadir a les persones de la seva autonomia, la seva capacitat de decisió o la seva llibertat d'elecció. Aquests sistemes d'intel·ligència artificial (IA) poden distorsionar de manera significativa les vulnerabilitats d'una persona o d'un grup específic de persones per la seva edat, discapacitat en el significat de la Directiva (UE) 2019/882 del Parlament Europeu i del Consell [E0016], o bé poden causar danys significatius a una altra persona o a un altre grup de persones, inclosos els danys ocasionats per factors externs al sistema d'intel·ligència artificial i del sistema d'intel·ligència artificial [E0017], en particular, les pràctiques comercials deslleials que condueixin a danys econòmics o financers als consumidors no han d'afectar en cap cas les pràctiques comercials deslleials en el context del tractament mèdic, com el tractament psicològic d'una malaltia mental o la rehabilitació física, i no han de considerar-se pràctiques comercials nocives, per exemple, en el camp de la publicitat, que compleixin amb la llei aplicable.

(30) Han de prohibir-se els sistemes de categorització biomètrica que es basen en dades biomètriques de les persones físiques, com la cara o l'empremta digital d'una persona, per deduir o inferir les opinions polítiques d'una persona, la pertinença sindical, les creences religioses o filosòfiques, la raça, la vida sexual o l'orientació sexual, prohibició que no ha de cobrir l'etiquetatge legal, el filtratge o la categorització de conjunts de dades biomètriques adquirits d'acord amb la legislació de la Unió o la legislació nacional segons dades biomètriques, com la classificació d'imatges segons el color del cabell o el color dels ulls, que poden utilitzar-se, per exemple, en l'àmbit de l'aplicació de la llei.

(31) Els sistemes d'IA que proporcionen puntuació social a les persones físiques per part d'actors públics o privats poden conduir a resultats discriminatoris i a l'exclusió de determinats grups, podent violar el dret a la dignitat i la no discriminació i els valors d'igualtat i justícia. Aquests sistemes d'IA poden avaluar o classificar les persones o grups naturals sobre la base de múltiples punts de dades relacionats amb el seu comportament social en múltiples contextos o característiques personals o de personalitat conegudes, inferides o predites durant determinats períodes de temps. La puntuació social obtinguda d'aquests sistemes d'IA pot conduir a un tractament perjudicial o desfavorable de les persones físiques o grups sencers en contextos socials, per la qual cosa s'han de prohibir els sistemes d'IA que impliquen aquestes pràctiques de puntuació inacceptables o que condueixen a aquests resultats perjudicials o desfavorables de les persones físiques que es duen a terme amb una finalitat específica d'acord amb la legislació de la Unió i nacional.

(32) L'ús de sistemes d'IA per a la identificació biomètrica remota "en temps real" de les persones físiques en espais d'accés públic per a l'aplicació de la llei és particularment intrusiu per als drets i llibertats de les persones afectades, en la mesura que pot afectar la vida privada d'una gran part de la població, evocar una sensació de vigilància constant i dissuadir indirectament l'exercici de la llibertat de reunió i altres drets fonamentals.Les inexactituds tècniques dels sistemes d'IA destinats a la identificació biomètrica remota de les persones físiques poden donar lloc a resultats esbiaixats i efectes discriminatoris.Aquests possibles resultats esbiaixats i efectes discriminatoris són particularment rellevants pel que fa a l'edat, l'ètnia, la raça, el sexe o les discapacitats.A més, la immediatesa de l'impacte i les limitades oportunitats per a nous controls o correccions en relació amb l'ús d'aquests sistemes que operen en temps real comporten riscos més elevats per als drets i llibertats de les persones afectades en el context de, o afectats per, activitats policials.

(33) Per tant, cal prohibir l'ús d'aquests sistemes a l'efecte d'aplicació de la llei, excepte en situacions enumerades exhaustivament i definides de manera estreta, en les quals l'ús sigui estrictament necessari per aconseguir un interès públic substancial, la importància del qual superi els riscos, la localització o la identificació de les víctimes d'un delicte o d'un atemptat terrorista; i la localització o identificació dels delictes penals previstos en la Decisió Marc 2002/584/JHA [E0018], tenint en compte que el recurs a una identificació biomètrica remota en temps real podria ser, previsiblement, necessari i proporcionat en graus molt diversos per a la persecució pràctica de la infraestructura crítica, tal com es defineix en l'article 2, punt (4) de la Directiva (UE) 2022/2557 del Parlament Europeu i del Consell [E0019], en què la interrupció o la destrucció d'aquesta infraestructura crítica pugui suposar una amenaça imminent a la vida o a l'exercici de la funció bàsica de l'Estat; i, en particular, que les autoritats policials, de control de fronteres, d'immigració o d'asil puguin utilitzar sistemes d'identitat, de conformitat amb la legislació de la Unió o la legislació nacional, per a identificar les persones que, durant un control d'identitat, es neguin a identificar-se o no puguin declarar-se o demostrar la seva identitat, sense que aquest Reglament obligui, per exemple, a una persona implicada en un delicte, que no estigui disposada o no pugui revelar la seva identitat a les autoritats policials.

(34) Per tal d'assegurar que aquests sistemes s'utilitzen de manera responsable i proporcionada, també és important establir que, en cadascuna de les situacions enumerades exhaustivament i definides de manera estreta, s'han de tenir en compte determinats elements, en particular pel que fa a la naturalesa de la situació que dona lloc a la sol·licitud i les conseqüències de l'ús dels sistemes d'identificació biomètrica remota "en temps real" en els espais d'accés públic i s'han de limitar a l'àmbit estrictament necessari pel que fa a les amenaces, les víctimes o els autors. L'ús del sistema d'identificació biomètrica remota en temps real en els espais d'accés públic només s'ha d'autoritzar si l'autoritat competent en matèria d'identificació biomètrica remota ha completat una avaluació d'impacte de drets fonamentals i, tret que es disposi el contrari en aquest Reglament, ha de registrar el sistema a la base de dades segons el que s'estableix en aquest Reglament.

(35) Cada ús d'un sistema d'identificació biomètrica remota "en temps real" a l'efecte de l'aplicació de la llei ha d'estar subjecte a una autorització expressa i específica per part d'una autoritat judicial o d'una autoritat administrativa independent d'un Estat membre la decisió del qual sigui vinculant; aquesta autorització ha d'obtenir-se, en principi, amb caràcter previ a l'ús del sistema d'intel·ligència artificial (IA) per a la identificació d'una persona o d'una persona. En aquestes situacions d'urgència, l'ús del sistema d'intel·ligència artificial ha de restringir-se al mínim necessari i ha d'estar subjecte a les garanties i condicions adequades, tal com es determina en la legislació nacional i s'especifica en el context de cada cas d'ús urgent per part de la pròpia autoritat policial. A més, si es rebutja aquesta autorització, l'ús de sistemes d'identificació biomètrica en temps real vinculats a aquesta autorització ha de cessar amb efecte immediat i totes les dades d'identificació biomètrica en temps real relacionades amb aquesta autorització, no ha d'incloure dades d'entrada adquirides legalment d'acord amb una altra legislació de la Unió o nacional.

(36) Per a dur a terme les seves tasques d'acord amb els requisits establerts en aquest Reglament, així com en les normes nacionals, s'hauria de notificar a l'autoritat de vigilància del mercat pertinent i a l'autoritat nacional de protecció de dades cada ús del sistema d'identificació biomètrica en temps real. Les autoritats de vigilància del mercat i les autoritats nacionals de protecció de dades que hagin estat notificades han de presentar a la Comissió un informe anual sobre l'ús de sistemes d'identificació biomètrica en temps real.

(37) D'altra banda, és convenient establir, dins del marc exhaustiu establert per aquest Reglament, que aquest ús en el territori d'un Estat membre de conformitat amb aquest Reglament només hauria de ser possible quan i pel que fa a l'Estat membre en qüestió hagi decidit establir expressament la possibilitat d'autoritzar aquest ús en les seves normes detallades de la legislació nacional, de manera que els Estats membres romanguin lliures, en virtut d'aquest Reglament, de no preveure aquesta possibilitat en absolut o només de preveure aquesta possibilitat en relació amb alguns dels objectius capaços de justificar l'ús autoritzat identificats en aquest Reglament; aquestes normes nacionals haurien de ser notificades a la Comissió en el termini de 30 dies a partir de la seva adopció.

(38) El present Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es DEROGA la Directiva 95/46/CE (Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades), i el Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es DEROGA la Directiva 95/46/CE.

(39) En compliment del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i la Llei Orgànica 3/2018, de 5 de desembre, de Protecció de Dades Personals i garantia dels drets digitals, li oferim la següent informació sobre el tractament de les seves dades personals:

(40) De conformitat amb l'article 6a del Protocol núm. 21 sobre la posició del Regne Unit i Irlanda respecte a l'espai de llibertat, seguretat i justícia, annex al TUE i al TFUE, Irlanda no està vinculada a les normes establertes en l'article 5(1), en la mesura en què s'aplica a l'ús de sistemes de categorització biomètrica per a activitats en l'àmbit de la cooperació policial i la cooperació judicial en matèria penal, en la mesura en què s'aplica a l'ús de sistemes de IA coberts per aquesta disposició, en l'article 5(1), en el primer paràgraf, en el punt (h), en l'article 5(2) al (6) i en l'article 26(10) d'aquest Reglament adoptat sobre la base de l'article 16 del TUE, en el qual Irlanda no està vinculada a les normes que regeixen les formes de cooperació judicial en matèria penal o cooperació policial que requereixen el compliment de les disposicions establertes en l'article 16 del TUE.

(41) De conformitat amb els articles 2 i 2a del Protocol núm. 22 sobre la posició de Dinamarca, annex al TUE i al TFUE, Dinamarca no està vinculada a les normes establertes en l'apartat 1 de l'article 5, punt g), en la mesura en què s'aplica a l'ús de sistemes de categorització biomètrica per a activitats en l'àmbit de la cooperació policial i la cooperació judicial en matèria penal, en l'apartat 1 de l'article 5, punt d), en la mesura en què s'aplica a l'ús de sistemes d'IA coberts per aquesta disposició, en l'apartat 1 de l'article 5, en el primer paràgraf, punt (h) i en l'apartat 10 de l'article 26 d'aquest Reglament aprovat sobre la base de l'article 16 del TUE, o subjecte a la seva aplicació, que es refereixen al tractament de dades personals per part dels Estats membres en el marc de les activitats incloses en l'àmbit del Capítol 4 o del Capítol 5 del Títol V de la Part 3 del TUE.

(42) D'acord amb la presumpció d'innocència, les persones físiques de la Unió sempre han de ser jutjades pel seu comportament real; les persones físiques mai han de ser jutjades per comportaments previsibles de la IA basats únicament en el seu perfil, trets de personalitat o característiques, com ara la nacionalitat, el lloc de naixement, el lloc de residència, el nombre de fills, el nivell de deute o el tipus d'automòbil, sense sospitar raonablement que aquesta persona està implicada en una activitat delictiva basada en fets verificables objectius o en la valoració de possibles delictes basats únicament en l'elaboració de perfils o en l'avaluació de les característiques i característiques de les persones, com els sistemes d'intel·ligència artificial que utilitzen l'anàlisi de riscos per avaluar la probabilitat de frau financer per part d'empreses sobre la base de transaccions sospitoses o eines d'anàlisi de riscos per predir la probabilitat de localització d'estupefaents o béns il·lícits per part de les autoritats duaneres, per exemple sobre la base de rutes de tràfic conegudes.

(43) La comercialització, la posada en servei per a aquest propòsit específic, o l'ús de sistemes d'IA que creen o expandeixen bases de dades de reconeixement facial a través del desballestament no dirigit d'imatges facials d'internet o imatges de CCTV, haurien d'estar prohibides perquè aquesta pràctica se suma a la sensació de vigilància massiva i pot provocar greus violacions dels drets fonamentals, inclòs el dret a la privacitat.

(44) Entre les mancances clau d'aquests sistemes hi ha la limitada fiabilitat, la manca d'especificitat i la limitada generalització; per tant, els sistemes d'IA que identifiquen o infereixen emocions o intencions de les persones físiques sobre la base de les seves dades biomètriques poden donar lloc a resultats discriminatoris i poden inferir intrusions en els drets i llibertats de determinades persones físiques o grups sencers; per tant, s'hauria de prohibir la comercialització, la posada en servei o l'ús de sistemes d'IA destinats a detectar l'estat emocional de les persones en situacions relacionades amb el lloc de treball i l'educació; aquesta prohibició no hauria d'abastar els sistemes d'IA col·locats en el mercat estrictament per raons mèdiques o de seguretat, com ara els sistemes destinats a l'ús terapèutic.

(45) Les pràctiques prohibides pel Dret de la Unió, inclosa la llei de protecció de dades, la llei de no discriminació, la llei de protecció del consumidor i la llei de competència, no haurien de veure's afectades per aquest Reglament.

(46) Els sistemes d'IA d'alt risc només s'han de col·locar al mercat de la Unió, posar-los en servei o utilitzar-los si compleixen certs requisits obligatoris. Aquests requisits han de garantir que els sistemes d'IA d'alt risc disponibles a la Unió o la producció de la qual s'utilitzi d'una altra manera a la Unió no suposin riscos inacceptables per als interessos públics de la Unió, tal com s'aclareix en la nota de la Comissió "La "Guia Blava" sobre l'aplicació de les normes de productes de la Unió 2022" [E0020], la norma general és que més d'un acte legal de la legislació d'harmonització de la Unió Europea 2022 [E0021] i (UE) 2017/746 [E0023] o la Directiva 2006/42/CE del Parlament Europeu i del Consell [E0023], poden ser aplicables a un producte, ja que per garantir la coherència i evitar les càrregues administratives o costos innecessaris, els proveïdors d'un producte que contingui un o més sistemes d'IA inclosos en un annex d'aquest Reglament han de tenir flexibilitat pel que fa a les decisions operatives sobre com garantir el compliment d'un o més sistemes d'IA amb tots els requisits aplicables de la legislació d'harmonització de la Unió, i aquesta limitació ha de minimitzar qualsevol possible restricció al comerç internacional.

(47) Els sistemes d'IA podrien tenir un impacte advers en la salut i la seguretat de les persones, en particular quan aquests sistemes operen com a components de seguretat dels productes. Consistint amb els objectius de la legislació d'harmonització de la Unió per a facilitar la lliure circulació de productes en el mercat interior i per a garantir que només els productes segurs i d'una altra manera conformes trobin el seu lloc en el mercat, és important que es previnguin i mitiguin els riscos de seguretat que pot generar un producte en el seu conjunt, per exemple, els robots cada vegada més autònoms, ja sigui en el context de la fabricació o l'assistència i l'atenció personals, siguin capaços d'operar amb seguretat i exercir les seves funcions en entorns complexos. De la mateixa manera, en el sector de la salut, on els interessos per a la vida i la salut són particularment alts, els sistemes de diagnòstic i els sistemes de suport a les decisions humanes han de ser fiables i precisos.

(48) L'abast de l'impacte advers causat pel sistema d'IA sobre els drets fonamentals protegits per la Carta és d'especial rellevància a l'hora de classificar un sistema d'IA com a alt risc, el dret a la dignitat humana, el respecte de la vida privada i familiar, la protecció de les dades personals, la llibertat de reunió i d'associació, el dret a la no discriminació, el dret a la protecció dels treballadors, els drets de les persones amb discapacitat, la igualtat de gènere, els drets de propietat intel·lectual, el dret a un recurs eficaç i a un judici just, el dret a la defensa i a la presumpció d'innocència, i el dret a una bona administració, tots dos drets que es desenvolupen en el comentari general de les Nacions Unides sobre els drets de la infància i la prestació d'aquesta protecció i atenció segons sigui necessari per al seu benestar.

(49) Pel que fa als sistemes d'IA d'alt risc que són components de seguretat de productes o sistemes, o que són ells mateixos productes o sistemes inclosos en l'àmbit del Reglament (CE) núm. 300/2008 del Parlament Europeu i del Consell [E0024], el Reglament (UE) núm. 167/2013 del Parlament Europeu i del Consell [E0026], la Directiva 2014/90/UE del Parlament Europeu i del Consell [E0028], el Reglament (UE) 2018/858 del Parlament Europeu i del Consell [E0030], i el Reglament (UE) 2018/1139 del Parlament Europeu i del Consell [E0031], i el Reglament (UE) 2019/2144 del Parlament Europeu i del Consell [E0031], per garantir que la Comissió tingui en compte, sobre la base de les especificitats tècniques i reglamentàries de cada sector, i sense interferir en els mecanismes i autoritats de governança, avaluació de conformitat i execució existents en aquest Reglament, els requisits obligatoris per als sistemes d'IA d'alt risc establerts en aquest Reglament a l'hora d'adoptar qualsevol acte delegat o d'execució rellevant sobre la base d'aquests actes.

(50) Pel que fa als sistemes d'intel·ligència artificial que són components de seguretat dels productes, o que són productes propis, que entren dins de l'àmbit d'aplicació d'una determinada legislació d'harmonització de la Unió enumerada en un annex d'aquest Reglament, convé classificar-los com a d'alt risc en virtut d'aquest Reglament si el producte en qüestió se sotmet al procediment d'avaluació de la conformitat amb un organisme d'avaluació de la conformitat de tercers conformement a la legislació pertinent d'harmonització de la Unió: maquinària, joguines, ascensors, equips i sistemes de protecció destinats a l'ús en atmosferes potencialment explosives, equips de ràdio, equips a pressió, equips d'embarcacions recreatives, instal·lacions per cable, aparells que cremen combustibles gasosos, dispositius mèdics, dispositius mèdics de diagnòstic in vitro, automoció i aviació.

(51) La classificació d'un sistema d'IA com a alt risc d'acord amb aquest Reglament no ha de significar necessàriament que el producte el component de seguretat del qual és el sistema d'IA, o el propi sistema d'IA com a producte, es consideri d'alt risc sota els criteris establerts en la legislació d'harmonització de la Unió pertinent que s'aplica al producte, en particular, el cas dels Reglaments (UE) 2017/745 i (UE) 2017/746, on es preveu una avaluació de conformitat de tercers per als productes de risc mitjà i alt.

(52) Pel que fa als sistemes d'intel·ligència artificial autònoms, és a dir, els sistemes d'intel·ligència artificial d'alt risc diferents dels que són components de seguretat dels productes, o que són ells mateixos productes, és convenient classificar-los com a d'alt risc si, a la llum de la seva finalitat, suposen un alt risc de perjudici per a la salut i la seguretat o els drets fonamentals de les persones, tenint en compte tant la gravetat del possible mal com la seva probabilitat d'ocurrència i s'utilitzen en una sèrie d'àmbits específicament predefinits especificats en aquest Reglament, i la identificació d'aquests sistemes es basa en la mateixa metodologia i criteris previstos també per a les futures modificacions de la llista de sistemes d'intel·ligència artificial d'alt risc que la Comissió hauria de poder adoptar, a través d'actes delegats, per a tenir en compte el ràpid ritme del desenvolupament tecnològic, així com els possibles canvis en l'ús dels sistemes d'intel·ligència artificial.

(53) A més, és important aclarir que hi pot haver casos concrets en què els sistemes d'IA esmentats en àrees predefinides especificades en aquest Reglament no comportin un risc significatiu per a la presa de decisions, ja sigui humà o automatitzat. Un sistema d'IA que no influeixi materialment en el resultat de la presa de decisions. Un sistema d'IA que no influeixi materialment en el resultat de la presa de decisions hauria d'entendre's com un sistema d'IA de caràcter tan limitat que només suposi un risc limitat per a l'ús d'una activitat humana acabada en un annex d'aquest Reglament. La tercera condició hauria de ser que el sistema d'IA es desviï del patró de qualificació anterior per tal de representar possibles inconsistències o anomalies.La quarta condició hauria de ser que els sistemes d'IA utilitzats en casos d'ús d'alt risc enumerats en un annex d'aquest Reglament.

(54) Les dades biomètriques constitueixen una categoria especial de dades personals, per la qual cosa és convenient classificar com a d'alt risc diversos casos d'ús crític de sistemes biomètrics, en la mesura en què la identificació biomètrica remota de persones físiques pugui donar lloc a resultats esbiaixats i efectes discriminatoris, per la qual cosa els sistemes d'identificació biomètrica remots i els efectes discriminatoris poden ser especialment rellevants pel que fa a l'edat, l'ètnia, la raça, el sexe o les discapacitats.La classificació dels sistemes d'identificació biomètrica remots, per la qual cosa s'exclouen els sistemes d'identificació biomètrica destinats a ser utilitzats per a la verificació biomètrica, inclosa l'autenticació, l'única finalitat de la qual és confirmar que una persona física específica és la persona que afirma ser i tenir accés segur a les instal·lacions.

(55) Pel que fa a la gestió i el funcionament de la infraestructura crítica, és convenient classificar com a alt risc els sistemes d'IA destinats a ser utilitzats com a components de seguretat en la gestió i el funcionament de la infraestructura digital crítica, com s'indica en el punt (8) de l'Annex a la Directiva (UE) 2022/2557, el trànsit rodat i el subministrament d'aigua, gas, calefacció i electricitat, ja que la seva fallada o mal funcionament pot posar en risc la vida i la salut de les persones a gran escala i provocar disrupcions apreciables en la conducta ordinària d'activitats socials i econòmiques. Els components de seguretat de la infraestructura crítica, inclosa la infraestructura digital crítica, poden conduir directament a riscos per a la integritat física de la infraestructura crítica i, per tant, a riscos per a la salut i la seguretat de les persones i la propietat.

(56) El desplegament de sistemes d'IA en l'educació és important per promoure l'educació i la formació digital d'alta qualitat i permetre que tots els estudiants i professors adquireixin i comparteixin les habilitats i competències digitals necessàries, inclosa l'alfabetització mediàtica, i el pensament crític, per prendre part activa en l'economia, la societat i els processos democràtics, però els sistemes d'IA utilitzats en l'educació o la formació professional, en particular per determinar els resultats de l'aprenentatge de les persones, per avaluar el nivell d'educació i la capacitat de detecció dels comportaments prohibits dels estudiants durant les proves, han de ser classificats com a sistemes d'IA d'alt risc, ja que aquests sistemes poden ser especialment intrusius i poden violar el dret a l'educació i la formació, així com el dret a no ser discriminats i perpetuar els patrons històrics de discriminació, per exemple, contra les dones, determinats grups d'edat, persones amb discapacitat o persones de determinats orígens racials o ètnics o d'orientació sexual.

(57) Els sistemes d'IA utilitzats en l'ocupació, la gestió dels treballadors i l'accés a l'autoocupació, en particular per a la contractació i selecció de persones, per a la presa de decisions que afectin els termes de la relació laboral, la promoció i la finalització de les relacions contractuals relacionades amb el treball, per a l'assignació de tasques sobre la base del comportament individual, les característiques o característiques personals i per al seguiment o avaluació de les persones en les relacions contractuals relacionades amb el treball, han de classificar-se també com a d'alt risc, ja que aquestes relacions contractuals poden implicar, de manera significativa, empleats i persones que presten serveis a través de plataformes com les referides en el Programa de Treball de la Comissió 2021.

(58) En particular, les persones físiques que sol·liciten o reben prestacions i serveis públics essencials per a la plena participació en la societat o per a la millora del seu nivell de vida; els sistemes d'IA que s'utilitzen per a determinar si aquests beneficis i serveis han de ser concedits, denegats, reduïts, revocats o reclamats per les autoritats; els sistemes d'IA que s'utilitzen per a avaluar la puntuació o la solvència de les persones físiques; els sistemes d'IA que s'utilitzen per a la detecció de frau en l'oferta de serveis financers; els sistemes d'IA que s'utilitzen per a la detecció de frau en l'oferta de serveis financers; els sistemes d'IA que s'utilitzen per a la detecció de frau en l'oferta de serveis financers; els sistemes d'IA que s'utilitzen per a la detecció de frau en l'oferta de serveis financers i d'orientació sexual; i els sistemes d'IA que s'utilitzen per a avaluar i classificar les trucades d'emergència de les persones físiques o per a l'expedició de serveis de primera resposta d'emergència, inclosos els policials, els bombers i els sistemes de triatge de pacients d'emergència, també han de ser classificats com a d'alt risc, ja que prenen decisions en situacions molt crítiques per a la vida i la salut de les persones i la seva propietat.

(59) Atès el seu paper i la seva responsabilitat, les accions de les autoritats policials que impliquin determinats usos dels sistemes d'intel·ligència artificial es caracteritzen per un grau significatiu de desequilibri de poder i poden donar lloc a la vigilància, la detenció o la privació de la llibertat d'una persona física, la seva exactitud o solidesa, o la seva innocència, i a l'exercici d'importants drets fonamentals processals, com ara el dret a un recurs efectiu i a un judici just, així com el dret a la defensa i a la presumpció d'innocència, i a l'exercici d'una sèrie de sistemes d'intel·ligència artificial (IA) destinats a avaluar la fiabilitat de les proves en el curs de la recerca o la persecució de delictes penals, així com els sistemes d'intel·ligència artificial destinats específicament a la detecció, la detecció, la investigació i la persecució de delictes penals.

(60) L'exactitud, el caràcter no discriminatori i la transparència dels sistemes d'intel·ligència artificial utilitzats en aquests contextos són, per tant, especialment importants per garantir el respecte dels drets fonamentals de les persones afectades, la protecció de la vida privada i de les dades personals, la protecció internacional i la bona administració. Per tant, és convenient classificar els sistemes d'intel·ligència artificial utilitzats en matèria de migració, asil i gestió de control de fronteres com a polígrafs i eines similars, per avaluar determinats riscos que plantegen les persones físiques que entren en el territori d'un Estat membre o sol·liciten visat o asil, i les queixes associades respecte a l'objectiu de detectar, reconèixer i identificar les persones físiques en l'àmbit de la gestió migratòria, de l'asil i del control fronterer, i d'altra banda, la Directiva 2013/32/UE del Parlament Europeu i del Consell [E0032], i en cap cas l'ús dels sistemes d'intel·ligència artificial en matèria de migració, òrgans, oficines o agències de control fronterer com a mitjà per eludir les seves obligacions internacionals en virtut del Conveni de les Nacions Unides sobre l'Estatut dels Refugiats modificat pel Protocol de 31 de gener de 1967.

(61) Determinats sistemes d'IA destinats a l'administració de justícia i processos democràtics han de ser classificats com a d'alt risc, tenint en compte el seu potencial impacte en la democràcia, l'estat de dret, les llibertats individuals, així com el dret a un recurs efectiu i a un judici just, en particular, a qualificar com a sistemes d'IA d'alt risc destinats a la investigació i interpretació de fets i de la llei i a l'aplicació de la llei a un conjunt concret de fets. L'ús d'eines d'IA pot donar suport a la capacitat de decisió dels jutges o la independència judicial, però no ha de substituir-la: la classificació dels sistemes d'IA com a d'alt risc no ha d'estendre's als sistemes d'IA destinats a activitats administratives purament auxiliars, com ara l'anonimat o la pseudonimització de decisions judicials, documents o dades, comunicació entre personal, tasques administratives.

(62) Sense perjudici de les normes previstes en el Reglament (UE) 2024/900 del Parlament Europeu i del Consell [E0034], i amb la finalitat d'abordar els riscos d'interferència externa indeguda amb el dret de vot consagrat en l'article 39 de la Carta, i dels efectes adversos sobre la democràcia i l'Estat de Dret, els sistemes d'IA destinats a influir en el resultat d'una elecció o referèndum o el comportament de vot de les persones físiques en l'exercici del seu vot en eleccions o referèndums haurien de classificar-se com a sistemes d'IA d'alt risc, amb excepció dels sistemes d'IA als quals les persones físiques de producció no estan directament exposades, com ara eines utilitzades per organitzar, optimitzar i estructurar campanyes polítiques des d'un punt de vista administratiu i logístic.

(63) El fet que un sistema d'intel·ligència artificial es classifiqui com un sistema d'intel·ligència artificial d'alt risc en virtut d'aquest Reglament no s'ha d'interpretar com una indicació que indiqui que l'ús del sistema és lícit en virtut d'altres actes de dret de la Unió o en virtut de la legislació nacional compatible amb el dret de la Unió, com ara la protecció de dades personals, l'ús de polígrafs i eines similars o altres sistemes per detectar l'estat emocional de les persones físiques. Qualsevol ús hauria de continuar produint-se únicament d'acord amb els requisits aplicables de la Carta i dels actes de dret secundari de la Unió i del dret nacional. Aquest Reglament no s'ha d'entendre com una disposició legal per al tractament de dades personals, incloses les categories especials de dades personals, si escau, tret que es disposi específicament el contrari en aquest Reglament.

(64) La norma general és que les mesures adoptades pels proveïdors per complir amb els requisits generals d'aquest Reglament sobre la IA són aplicables a un sol producte. (64) Per mitigar els riscos dels sistemes d'IA d'alt risc col·locats al mercat o posats en servei i per garantir un alt nivell de fiabilitat, han d'aplicar-se determinats requisits obligatoris d'IA, tenint en compte la finalitat i el context d'ús del sistema d'IA d'alt risc, tenint en compte que les mesures adoptades pels proveïdors per complir amb els requisits generals d'aquest Reglament sobre la IA poden ser aplicables a un sol producte. (64) Els riscos dels sistemes d'IA d'alt risc coberts per la legislació d'harmonització de la UE 2022; per exemple, els riscos dels productes de maquinària o dispositius mèdics que incorporin un sistema d'IA podrien presentar riscos no abordats per la legislació d'harmonització de la Unió d'un o més sistemes d'IA d'alt risc, per garantir la coherència i evitar una càrrega administrativa innecessària i costos innecessaris, els proveïdors d'un producte que contingui un o més sistemes d'IA d'un o més sistemes d'IA d'una manera òptima. Aquesta flexibilitat podria significar, per exemple, una decisió del proveïdor d'integrar una part dels processos d'avaluació i presentació d'informes, informació i documentació exigits per la legislació d'harmonització de la Unió d'acord amb el nou marc legislatiu i els procediments exigits per la legislació d'harmonització de la Unió existent basada en el nou marc legislatiu i, de cap manera, soscavar l'obligació del proveïdor de complir amb tots els requisits aplicables.

(65) El sistema de gestió de riscos ha de consistir en un procés continu i iteratiu que es desenvolupi al llarg de tot el cicle de vida d'un sistema d'intel·ligència artificial d'alt risc, que ha de ser revisat i actualitzat periòdicament per garantir la seva eficàcia contínua, així com la justificació i documentació de les possibles decisions i accions rellevants d'aquest sistema d'intel·ligència artificial, incloent els possibles riscos derivats de la interacció entre el sistema d'intel·ligència artificial i l'entorn en el qual opera. (65) El sistema de gestió de riscos ha d'adoptar les mesures de gestió de riscos més apropiades a la llum de l'estat de la tècnica en IA. (65) El sistema de gestió de riscos ha d'incloure els usos dels sistemes d'intel·ligència artificial d'alt risc en el context de les característiques específiques i l'ús d'un sistema d'intel·ligència artificial d'alt risc, però s'ha d'assegurar que les circumstàncies conegudes o previsibles derivades de l'ús del sistema d'intel·ligència artificial d'alt risc per part del proveïdor no han de requerir una formació addicional específica per al sistema d'intel·ligència artificial d'alt risc per part del proveïdor per mitigar els abusos previsibles raonables segons sigui necessari i apropiat.

(66) Els requisits han d'aplicar-se als sistemes d'IA d'alt risc pel que fa a la gestió de riscos, la qualitat i la rellevància dels conjunts de dades utilitzats, la documentació tècnica i el manteniment de registres, la transparència i la provisió d'informació als desplegadors, la supervisió humana i la robustesa, la precisió i la ciberseguretat, requisits necessaris per mitigar eficaçment els riscos per a la salut, la seguretat i els drets fonamentals. Com que no hi ha altres mesures menys restrictives del comerç raonablement disponibles, aquests requisits no són restriccions injustificades al comerç.

(67) Els sistemes de dades d'alta qualitat i accés a dades d'alta qualitat tenen un paper vital en la provisió d'estructura i en l'assegurament del rendiment de molts sistemes d'IA, especialment quan s'utilitzen tècniques que impliquen la formació de models, i no es converteixen en una font de discriminació prohibida pel dret de la Unió. Els conjunts de dades d'alta qualitat per a la formació i la validació de dades, i en la mesura que sigui possible, han de tenir en compte les propietats estadístiques adequades, com ara el Reglament (UE) 2016/679, la governança de dades i les pràctiques de gestió, amb especial atenció a la mitigació de possibles biaixos en els conjunts de dades, especialment quan s'utilitzen dades històriques, o es generen quan s'implementa la discriminació existent, en particular per a les persones que pertanyen a determinats grups vulnerables, inclosos els grups racials o ètnics. El requisit per als conjunts de dades és que es puguin complir, en la mesura que sigui necessari, els requisits relacionats amb la governança de dades, la integritat del conjunt de dades i les pràctiques de capacitació, validació i proves de dades.

(68) Per al desenvolupament i avaluació de sistemes d'IA d'alt risc, determinats actors, com els proveïdors, els organismes notificats i altres entitats rellevants, com els centres d'innovació digital europeus, les instal·lacions d'experimentació de proves i els investigadors, haurien de poder accedir i utilitzar conjunts de dades d'alta qualitat dins dels àmbits d'activitat d'aquells actors que estiguin relacionats amb aquest Reglament. Els espais de dades comuns europeus establerts per la Comissió i la facilitació de l'intercanvi de dades entre empreses i amb el govern en interès públic seran fonamentals per proporcionar accés de confiança, validació i proves de dades d'alta qualitat per a la formació, validació i proves de sistemes d'IA. Per exemple, en salut, l'espai europeu de dades de salut facilitarà l'accés no discriminatori a les dades de salut i la formació d'algoritmes d'IA sobre aquests conjunts de dades, de manera segura, oportuna, transparent i fiable, i amb una governança institucional adequada.

(69) El dret a la intimitat i a la protecció de les dades personals ha de garantir-se durant tot el cicle de vida del sistema d'IA. En aquest sentit, els principis de minimització de dades i protecció de dades per disseny i per defecte, tal com estableix la legislació de protecció de dades de la Unió, són aplicables quan es tractin dades personals. Les mesures adoptades pels proveïdors per garantir el compliment d'aquests principis poden incloure no només l'anonimat i el xifrat, sinó també l'ús de tecnologia que permeti portar algorismes a les dades i permeti la formació de sistemes d'IA sense la transmissió entre les parts o la còpia de les dades crues o estructurades per si mateixes, sense perjudici dels requisits en matèria de governança de dades previstos en aquest Reglament.

(70) Amb la finalitat de protegir el dret d'altres persones de la discriminació que pogués derivar-se del biaix en els sistemes d'IA, els prestadors deuen, excepcionalment, en la mesura que sigui estrictament necessari per garantir la detecció i correcció de biaixos en relació amb els sistemes d'IA d'alt risc, subjectes a les garanties adequades per als drets i llibertats fonamentals de les persones físiques i, després de l'aplicació de totes les condicions aplicables establertes en el Reglament (UE) 2016/679 i (UE) 2018/1725 i la Directiva (UE) 2016/680, poder tractar també categories especials de dades personals, com a qüestió d'interès públic substancial en el sentit de l'article 9(2), punt (g) del Reglament (UE) 2016/679 i l'article 10(2), punt (g) del Reglament (UE) 2018/1725.

(71) Disposar d'informació comprensible sobre com s'han desenvolupat els sistemes d'IA d'alt risc i com es realitzen al llarg de tota la seva vida és essencial per a possibilitar la traçabilitat d'aquests sistemes, verificar el compliment dels requisits d'aquest Reglament, així com el seguiment de les seves operacions i el seguiment postmercat, que requereix el manteniment dels registres i la disponibilitat de la documentació tècnica, que conté la informació necessària per a avaluar el compliment del sistema d'IA amb els requisits pertinents i facilitar el seguiment postmercat. Aquesta informació ha d'incloure les característiques generals, les capacitats i les limitacions del sistema, els algorismes, les dades, els processos de formació, proves i validació utilitzats, així com la documentació sobre el sistema de gestió de riscos pertinent i s'ha de mantenir actualitzada, de manera adequada durant tota la vida útil del sistema d'IA.

(72) Els sistemes de IA d'alt risc han d'anar acompanyats d'informació adequada en forma d'instruccions d'ús. Aquests sistemes d'IA d'alt risc han d'anar acompanyats d'informació adequada en forma d'instruccions d'ús. Aquests sistemes d'IA haurien d'anar acompanyats d'informació sobre les possibles circumstàncies conegudes i previsibles relacionades amb l'ús del sistema d'intel·ligència artificial (IA) per part del proveïdor i sobre els canvis que el sistema d'intel·ligència artificial ha d'incloure, entre d'altres, mesures per facilitar la interpretació dels resultats del sistema d'intel·ligència artificial i donar suport a la presa de decisions informades per part dels desplegadors. Per tal de millorar la llegibilitat i l'accessibilitat de la informació inclosa en les instruccions d'ús, si escau, exemples il·lustratius, per exemple, sobre les limitacions i els usos previsibles del sistema d'intel·ligència artificial, s'ha d'incloure informació significativa, completa, accessible i comprensible, tenint en compte les necessitats i el coneixement previsible dels desplegadors objectiu, segons determini l'Estat membre en qüestió.

(73) En aquest sentit, les mesures de supervisió humana adequades han de ser identificades pel proveïdor del sistema abans de la seva comercialització o posada en servei, i que les persones físiques a les quals s'ha assignat la supervisió humana tinguin la competència, la formació i l'autoritat necessàries per dur a terme aquesta funció, així com que les persones físiques a les quals s'ha assignat la supervisió humana tinguin la competència, la formació i l'autoritat necessàries per tal d'orientar i informar a una persona física a la qual s'hagi assignat la supervisió humana si no es compleixen les conseqüències negatives o els riscos. Considerant les conseqüències significatives per a les persones en cas d'una coincidència incorrecta per part de determinats sistemes d'identificació biomètrica, és convenient preveure un requisit de supervisió humana millorat per a aquests sistemes, tret que aquest requisit hagi estat verificat per separat i confirmat per almenys dues persones físiques, aquest requisit no hauria de suposar una càrrega o retards innecessaris i podria ser suficient que les verificacions separades per les diferents persones es registren automàticament en els registres generats pel sistema, tenint en compte les especificitats de les àrees d'aplicació de la llei, migració, control de fronteres i asil, aquest requisit no hauria d'aplicar-se quan la legislació de la Unió o nacional consideri l'aplicació d'aquest requisit desproporcionada.

(74) La Comissió i les organitzacions i parts interessades pertinents han de tenir en compte la mitigació dels riscos i els impactes negatius del sistema d'IA. S'insta els proveïdors a comunicar que la informació als desplegadors d'una manera clara i fàcil d'entendre, lliure de malentesos o declaracions enganyoses. La legislació de la Unió sobre metrologia, incloent les Directives 2014/31/EU [E0035] i 2014/32/EU [E0036] del Parlament Europeu i del Consell, té com a objectiu garantir la precisió i l'equitat de les transaccions comercials. En aquest context, en cooperació amb les parts interessades i l'organització rellevants, com ara les autoritats de metrologia i de benchmarking, la Comissió ha de prendre nota i col·laborar amb els socis internacionals que treballen en metrologia i els indicadors de mesura pertinents relacionats amb la IA.

(75) La robustesa tècnica és un requisit clau per als sistemes d'IA d'alt risc. Han de ser resilients en relació amb comportaments nocius o no desitjats que puguin resultar de limitacions dins dels sistemes o de l'entorn en què operen els sistemes (per exemple, errors, defectes, inconsistències, situacions inesperades). Per tant, s'han de prendre mesures tècniques i organitzatives adequades per garantir la robustesa dels sistemes d'IA d'alt risc, per exemple, dissenyant i desenvolupant solucions tècniques adequades per prevenir o minimitzar comportaments nocius o no desitjats. Aquestes solucions tècniques poden incloure, per exemple, mecanismes que permetin al sistema interrompre de forma segura el seu funcionament (plans segurs de fallades) en presència de certes anomalies o quan el funcionament tingui lloc fora de certs límits predeterminats.

(76) La ciberseguretat té un paper crucial per garantir que els sistemes d'intel·ligència artificial siguin resilients davant els intents d'alterar el seu ús, comportament, rendiment o comprometre les seves propietats de seguretat per part de tercers maliciosos que explotin les vulnerabilitats del sistema. Els ciberatacs contra els sistemes d'intel·ligència artificial poden aprofitar actius específics d'IA, com ara conjunts de dades d'entrenament (per exemple, enverinament de dades) o models entrenats (per exemple, atacs adversaris o inferència de membres), o explotar vulnerabilitats en els actius digitals del sistema d'intel·ligència artificial o la infraestructura de TIC subjacent. Per garantir un nivell de ciberseguretat adequat als riscos, les mesures adequades, com ara els controls de seguretat, haurien de ser preses pels proveïdors de sistemes d'intel·ligència artificial d'alt risc, tenint en compte també la infraestructura de TIC subjacent.

(77) Sense perjudici dels requisits relatius a la robustesa i exactitud establerts en aquest Reglament, els sistemes d'IA d'alt risc que entren dins de l'àmbit d'aplicació d'un reglament del Parlament Europeu i del Consell sobre els requisits de ciberseguretat horitzontal per als productes amb elements digitals, d'acord amb aquest Reglament, han de considerar-se conformes als requisits essencials d'un reglament del Parlament Europeu i del Consell sobre els requisits de ciberseguretat horitzontal per als productes amb elements digitals, per la qual cosa l'avaluació dels riscos de ciberseguretat associats a un producte amb elements digitals classificats com a sistema d'IA d'alt risc, en virtut d'un reglament del Parlament Europeu i del Consell sobre els requisits de ciberseguretat horitzontal per als productes amb elements digitals, ha de considerar els riscos per a la ciberresistència d'un sistema d'IA per als intents de tercers no autoritzats d'alterar el seu ús, comportament o rendiment, incloses les vulnerabilitats específiques d'IA com l'enverinament de dades o els atacs adversaris, així com, com a pertinents, els riscos per als drets fonamentals exigits per aquest Reglament.

(78) El procediment d'avaluació de la conformitat previst en aquest Reglament hauria d'aplicar-se en relació amb els requisits essencials de ciberseguretat d'un producte amb elements digitals coberts per un Reglament del Parlament Europeu i del Consell sobre requisits d'intel·ligència artificial d'alt risc per a productes amb elements digitals, però aquesta norma no hauria de comportar la reducció del nivell necessari de garantia per a productes amb elements digitals d'alt risc, de manera que, a través d'una excepció a aquest Reglament, s'apliquin els sistemes d'intel·ligència artificial d'alt risc amb elements digitals, de conformitat amb les disposicions d'avaluació de la conformitat d'un Reglament del Parlament Europeu i del Consell sobre requisits de ciberseguretat horitzontal per a productes amb elements digitals, en aquest cas, per a tots els altres aspectes contemplats en aquest Reglament, les disposicions d'avaluació de la conformitat basades en el control intern establerts en aquest Reglament, i les tasques assignades a ENISA en virtut del Reglament (UE) 2019/881 del Parlament Europeu i del Consell [E0037], la Comissió hauria de cooperar amb ENISA en qüestions relacionades amb la ciberseguretat dels sistemes d'intel·ligència artificial.

(79) És apropiat que una persona física o jurídica específica, definida com el proveïdor, assumeixi la responsabilitat de la comercialització o la posada en servei d'un sistema d'IA d'alt risc, independentment de si aquesta persona física o jurídica és la persona que ha dissenyat o desenvolupat el sistema.

(80) Com a signataris de la Convenció de les Nacions Unides sobre els Drets de les Persones amb Discapacitat, la Unió i els Estats membres tenen l'obligació legal de protegir les persones amb discapacitat de la discriminació i promoure la seva igualtat, de garantir que les persones amb discapacitat tinguin accés, en igualtat de condicions amb les altres, a les tecnologies i sistemes d'informació i comunicació, i de garantir l'accés ple i igualitari a totes les persones potencialment afectades per les tecnologies d'intel·ligència artificial, incloses les persones amb discapacitat, de manera que sigui essencial que els proveïdors garanteixin el ple compliment dels requisits d'accessibilitat, inclosa la Directiva (UE) 2016/2102 del Parlament Europeu i del Consell [E0038] i la Directiva (UE) 2019/882 [E0038] i la Directiva (UE) 2019/882 [E0038] i la Directiva (UE) 2019/882 [E0038] i que les mesures necessàries s'integrin el màxim possible en el disseny del sistema d'intel·ligència artificial d'alt risc.

(81) El prestador ha d'establir un sistema sòlid de gestió de la qualitat, garantir el compliment del procediment d'avaluació de la conformitat requerit, elaborar la documentació pertinent i establir un sistema sòlid de control de la qualitat. Els proveïdors de sistemes d'IA d'alt risc que estiguin subjectes a obligacions en matèria de sistemes de gestió de la qualitat en virtut del dret de la Unió sectorial pertinent haurien de tenir la possibilitat d'incloure els elements del sistema de gestió de la qualitat previst en aquest Reglament com a part del sistema de gestió de la qualitat existent previst en aquesta legislació de la Unió sectorial.

(82) Per permetre l'aplicació d'aquest Reglament i crear unes condicions equitatives per als operadors, i tenint en compte les diferents formes de posada a disposició dels productes digitals, és important assegurar que, en totes les circumstàncies, una persona establerta a la Unió pot proporcionar a les autoritats tota la informació necessària sobre el compliment d'un sistema d'IA, de manera que, abans de posar a disposició els seus sistemes d'IA a la Unió, els proveïdors establerts en tercers països han de nomenar, per mandat escrit, un representant autoritzat establert a la Unió, un paper fonamental per garantir el compliment dels sistemes d'IA d'alt risc posats en el mercat o posats en servei a la Unió per aquells proveïdors que no estiguin establerts a la Unió i que serveixin com a persona de contacte establerta a la Unió.

(83) En vista de la naturalesa i complexitat de la cadena de valor per als sistemes d'IA i d'acord amb el Nou Marc Legislatiu, és essencial garantir la seguretat jurídica i facilitar el compliment d'aquest Reglament, per la qual cosa és necessari aclarir el paper i les obligacions específiques dels operadors rellevants al llarg d'aquesta cadena de valor, com els importadors i distribuïdors que poden contribuir al desenvolupament de sistemes d'IA. En determinades situacions, aquests operadors podrien actuar en més d'un paper al mateix temps i, per tant, haurien de complir de manera acumulada totes les obligacions rellevants associades a aquests rols.

(84) Per garantir la seguretat jurídica, és necessari aclarir que, en determinades condicions específiques, qualsevol distribuïdor, importador, desplegador o un altre tercer ha de ser considerat proveïdor d'un sistema d'IA d'alt risc i, per tant, ha d'assumir totes les obligacions pertinents, sense perjudici de les disposicions contractuals que estipulen que les obligacions s'assignen d'una altra manera, així com si aquesta part fa una modificació substancial d'un sistema d'IA d'alt risc que ja s'ha posat en el mercat o s'ha posat en servei, de manera que el sistema d'IA d'alt risc, inclòs un sistema d'IA d'alt risc, que no ha estat classificat com a sistema d'IA d'alt risc i que ja s'ha posat en servei, de manera que aquestes disposicions s'apliquin sense perjudici de les disposicions més específiques establertes en la legislació d'harmonització de la Unió basada en el Nou Marc Legislatiu, per exemple, l'article 16(2) del Reglament (UE) 2017/745, que estableix que determinats canvis no han de considerar-se modificacions d'un dispositiu que pugui afectar el seu compliment amb els requisits aplicables, ha de continuar aplicant-se als sistemes d'IA d'alt risc que són dispositius mèdics en el sentit d'aquest Reglament.

(85) Els sistemes d'IA de propòsit general poden ser utilitzats com a sistemes d'IA d'alt risc per si mateixos o com a components d'altres sistemes d'IA d'alt risc. Per tant, a causa de la seva naturalesa particular i amb la finalitat d'assegurar un repartiment just de les responsabilitats al llarg de la cadena de valor d'IA, els proveïdors d'aquests sistemes haurien de, independentment de si poden ser utilitzats com a sistemes d'IA d'alt risc com a tals per altres proveïdors o com a components de sistemes d'IA d'alt risc i tret que es disposi el contrari en virtut d'aquest Reglament, cooperar estretament amb els proveïdors dels sistemes d'IA d'alt risc pertinents per permetre el seu compliment amb les obligacions pertinents en virtut d'aquest Reglament i amb les autoritats competents establertes en aquest Reglament.

(86) Quan, en les condicions previstes en aquest Reglament, el proveïdor que inicialment va comercialitzar el sistema d'IA o el va posar en servei ja no es consideri el proveïdor a l'efecte d'aquest Reglament, i quan aquest proveïdor no hagi exclòs expressament el canvi del sistema d'IA en un sistema d'IA d'alt risc, l'anterior proveïdor hauria de cooperar estretament i posar a disposició la informació necessària i proporcionar l'accés tècnic raonablement esperat i altra assistència que es requereixi per al compliment de les obligacions establertes en aquest Reglament, en particular pel que fa al compliment de l'avaluació de conformitat dels sistemes d'IA d'alt risc.

(87) A més, quan un sistema d'intel·ligència artificial d'alt risc que és un component de seguretat d'un producte que entra dins de l'àmbit d'aplicació de la legislació d'harmonització de la Unió basada en el Nou Marc Legislatiu no es comercialitza ni es posa en servei independentment del producte, el fabricant del producte definit en aquesta legislació hauria de complir amb les obligacions del proveïdor establertes en aquest Reglament i, en particular, hauria de garantir que el sistema d'intel·ligència artificial integrat en el producte final compleixi amb els requisits d'aquest Reglament.

(88) Al llarg de la cadena de valor de la IA, múltiples parts sovint subministren sistemes, eines i serveis d'IA, però també components o processos que són incorporats pel proveïdor al sistema d'IA amb diversos objectius, incloent-hi la formació de models, el reciclatge de models, les proves i l'avaluació de models, la integració en el programari o altres aspectes del desenvolupament de models. Aquestes parts tenen un paper important en la cadena de valor cap al proveïdor del sistema d'IA d'alt risc en el qual s'integren els seus sistemes d'IA, eines, serveis, components o processos, i han de proporcionar per acord escrit a aquest proveïdor la informació necessària, capacitats, accés tècnic i altra assistència basada en l'estat de la tècnica generalment reconegut, per tal de permetre al proveïdor complir plenament amb les obligacions establertes en aquest Reglament, sense comprometre els seus propis drets de propietat intel·lectual o secrets comercials.

(89) Els tercers que facin accessibles les eines públiques, els serveis, els processos o els components d'IA diferents dels models d'IA de propòsit general, no han de tenir el mandat de complir amb els requisits dirigits a les responsabilitats al llarg de la cadena de valor d'IA, en particular cap al proveïdor que els ha utilitzat o integrat, quan aquestes eines, serveis, processos o components d'IA es facin accessibles sota una llicència lliure i de codi obert.

(90) La Comissió podria desenvolupar i recomanar termes contractuals de model voluntari entre proveïdors de sistemes d'intel·ligència artificial d'alt risc i tercers que subministrin eines, serveis, components o processos que s'utilitzin o s'integrin en sistemes d'intel·ligència artificial d'alt risc, per facilitar la cooperació al llarg de la cadena de valor.

(91) Donada la naturalesa dels sistemes d'IA i els riscos per a la seguretat i els drets fonamentals possiblement associats al seu ús, també pel que fa a la necessitat de garantir un control adequat de l'acompliment d'un sistema d'IA en un entorn de la vida real, és convenient establir mesures tècniques i organitzatives apropiades per a garantir l'ús de sistemes d'IA d'alt risc d'acord amb les instruccions d'ús i amb determinades obligacions pel que fa al control del funcionament dels sistemes d'IA i el registre, si escau, i garantir que les persones assignades per a aplicar les instruccions d'ús i supervisió humana d'acord amb aquest Reglament tinguin la competència necessària, en particular un nivell adequat d'alfabetització en IA, formació i autoritat per a complir adequadament aquestes tasques, sense perjudici d'altres obligacions de desplegament en relació amb els sistemes d'IA d'alt risc d'acord amb la legislació de la Unió o nacional.

(92) Aquest Reglament, sense perjudici de les obligacions dels empresaris d'informar o informar i consultar als treballadors o als seus representants en virtut de la legislació i la pràctica de la Unió o dels seus representants, inclosa la Directiva 2002/14/CE del Parlament Europeu i del Consell [E0039], sobre les decisions de posada en servei o d'ús de sistemes d'IA, continua sent necessari garantir la informació als treballadors i als seus representants sobre el desplegament previst de sistemes d'IA d'alt risc en el lloc de treball en el qual no es compleixin les condicions per a aquestes obligacions d'informació o informació i consulta en altres instruments jurídics, i aquest dret d'informació és complementari i necessari per a l'objectiu de protegir els drets fonamentals subjacents a aquest Reglament, per la qual cosa hauria d'establir-se un requisit d'informació a aquest efecte, sense afectar els drets existents dels treballadors.

(93) En el cas de les persones que hagin de prendre decisions o hagin de prendre decisions relatives a les persones físiques, en el cas que aquestes hagin de prendre decisions o hagin de prendre decisions relatives a les persones físiques, en el cas que es tracti d'un sistema d'intel·ligència artificial d'alt risc, aquesta obligació s'ha d'aplicar d'acord amb l'article 13 de la Directiva (UE) 2016/680, que estableix que les persones físiques tenen dret a un sistema d'intel·ligència artificial d'alt risc i a un sistema d'intel·ligència artificial d'alt risc.

(94) Qualsevol tractament de dades biomètriques involucrat en l'ús de sistemes d'IA per a la identificació biomètrica a l'efecte de l'aplicació de la llei ha de complir amb l'article 10 de la Directiva (UE) 2016/680, que permet aquest tractament només quan sigui estrictament necessari, subjecte a les salvaguardes adequades per als drets i llibertats de l'interessat, i quan ho autoritzi, també ha de respectar els principis establerts en l'article 4 (1) de la Directiva (UE) 2016/680, inclosa la licitud, l'equitat i la transparència, la limitació de la finalitat, l'exactitud i la limitació de l'emmagatzematge.

(95) Sense perjudici de l'aplicació del Dret de la Unió, en particular del Reglament (UE) 2016/679 i de la Directiva (UE) 2016/680, tenint en compte el caràcter intrusiu dels sistemes d'identificació biomètrica post-remot, l'ús dels sistemes d'identificació biomètrica post-remot ha d'estar subjecte a salvaguardes. Els sistemes d'identificació biomètrica post-remot han d'utilitzar-se sempre de manera proporcionada, legítima i estrictament necessària, i per tant dirigits, en termes de les persones a identificar, la ubicació, l'abast temporal i sobre la base d'un conjunt tancat de dades de vídeo adquirit legalment. En qualsevol cas, les condicions d'identificació biomètrica post-remot no han de proporcionar una base per eludir les condicions de la prohibició i estrictes excepcions per a la identificació biomètrica remota en temps real.

(96) L'avaluació d'impacte s'ha de dur a terme amb anterioritat a la implementació del sistema d'IA d'alt risc. (96) L'avaluació d'impacte s'ha de dur a terme amb anterioritat a la implementació del sistema d'IA d'alt risc. (96) L'avaluació d'impacte s'ha de dur a terme amb anterioritat a la implementació del sistema d'IA d'alt risc i s'ha d'incloure una descripció del període de temps i freqüència del sistema d'IA d'alt risc en les instruccions d'ús, incloent però no limitant-se a la informació proporcionada pel proveïdor del sistema d'IA d'alt risc en els procediments d'ús concrets, com ara disposicions de governança en aquest context d'ús específic, procediments de gestió de reclamacions i reparació, com ara disposicions de supervisió dels drets humans en aquest context d'ús concret, i en particular quan s'utilitzin sistemes d'IA d'alt risc, experts independents i organitzacions de la societat civil per a la realització d'aquestes avaluacions d'impacte i el disseny de mesures que s'han de prendre en el cas de materialització dels riscos.

(97) La noció de models d'IA de propòsit general s'ha de definir clarament i establir a part de la noció de sistemes d'IA de propòsit general per permetre la seguretat jurídica. La definició s'ha de basar en les característiques funcionals clau d'un model d'IA de propòsit general per permetre la seguretat jurídica. Els models d'IA de propòsit general es poden introduir al mercat de diverses maneres, com ara biblioteques, interfícies de programació d'aplicacions (APIs) o còpies físiques. Els models d'IA de propòsit general s'han d'aplicar també quan els models d'IA de propòsit general s'integren al mercat o es posen en servei. Quan el proveïdor d'un model d'IA de propòsit general es considera que el model d'IA de propòsit general s'ha de continuar aplicant a més dels sistemes d'IA de propòsit general que s'utilitzen per proporcionar un producte o un servei a tercers, la definició no ha de cobrir els models d'IA utilitzats abans de la seva posada al mercat amb l'únic propòsit d'investigar, desenvolupar i prototipar activitats.

(98) Mentre que la generalitat d'un model podria, entre altres coses, ser determinada per una sèrie de paràmetres, els models amb almenys mil milions de paràmetres i entrenats amb una gran quantitat de dades que utilitzen l'autosupervisió a escala haurien de ser considerats per mostrar una generalitat significativa i per realitzar competentment una àmplia gamma de tasques distintives.

(99) Els grans models generatius d'IA són un exemple típic d'un model d'IA de propòsit general, ja que permeten la generació flexible de contingut, com en forma de text, àudio, imatges o vídeo, que poden acomodar fàcilment una àmplia gamma de tasques distintives.

(100) Quan un model d'IA de propòsit general s'integra o forma part d'un sistema d'IA, aquest sistema s'ha de considerar un sistema d'IA de propòsit general quan, a causa d'aquesta integració, aquest sistema té la capacitat de servir a una varietat de propòsits. Un sistema d'IA de propòsit general es pot utilitzar directament, o es pot integrar en altres sistemes d'IA.

(101) Els proveïdors de models d'IA d'ús general tenen un paper i una responsabilitat especials al llarg de la cadena de valor de la IA, ja que els models que proporcionen poden constituir la base d'una sèrie de sistemes de baix a baix, sovint proporcionats per proveïdors de baix a baix, que necessiten una bona comprensió dels models i de les seves capacitats, tant per permetre la integració d'aquests models en els seus productes, com per complir amb les seves obligacions en virtut d'aquest o altres reglaments. Per tant, s'han d'establir mesures de transparència proporcionades, inclosa l'elaboració i el manteniment actualitzat de la documentació, i el subministrament d'informació sobre el model d'IA d'ús general per al seu ús per part dels proveïdors de baix a fi de posar-la a la disposició de l'Oficina d'Intel·ligència Artificial i les autoritats nacionals competents.

(102) El programari i les dades, inclosos els models, alliberats sota una llicència lliure i de codi obert que els permeti compartir-los obertament i on els usuaris puguin accedir lliurement, utilitzar-los, modificar-los i redistribuir-los o modificar-ne les versions, poden contribuir a la recerca i la innovació en el mercat i poden proporcionar oportunitats de creixement significatives per a l'economia de la Unió. Els models d'IA de propòsit general alliberats sota llicències lliures i de codi obert s'han de considerar com a lliures i de codi obert també quan permeten als usuaris executar, copiar, distribuir, estudiar, canviar i millorar el programari i les dades, inclosos els models sota la condició que el proveïdor original del model sigui acreditat, es respecten els termes idèntics o comparables de distribució.

(103) Els components d'IA lliures i de codi obert cobreixen el programari i les dades, incloent models i models d'IA de propòsit general, eines, serveis o processos d'un sistema d'IA. Els components d'IA lliures i de codi obert es poden proporcionar a través de diferents canals, inclòs el seu desenvolupament en repositoris oberts. Als efectes d'aquest Reglament, els components d'IA que es proporcionen a un preu o d'una altra manera monetitzats, incloent a través d'una plataforma de programari, relacionada amb el component d'IA, o l'ús de dades personals per raons diferents de la millora de la seguretat, compatibilitat o interoperabilitat del programari, amb excepció de les transaccions entre microempreses, no haurien de beneficiar-se de les excepcions proporcionades als components d'IA de codi lliure i obert no haurien de constituir, en si mateixos, una monetització.

(104) Els proveïdors de models d'IA d'ús general que es publiquen sota una llicència lliure i de codi obert, i els paràmetres de la qual, inclosos els pesos, la informació sobre l'arquitectura del model i la informació sobre l'ús del model, han d'estar subjectes a excepcions pel que fa als requisits relacionats amb la transparència imposats sobre els models d'IA d'ús general, llevat que es pugui considerar que la circumstància que el model sigui transparent i vagi acompanyat d'una llicència de codi obert no ha de considerar-se una raó suficient per excloure el compliment de les obligacions d'aquest Reglament. En qualsevol cas, atès que la publicació de models d'IA d'ús general sota la llicència lliure i de codi obert no ha de fer referència a l'obligació d'elaborar un resum sobre el contingut utilitzat per a la formació del model i l'obligació d'establir una política per complir amb la llei de drets d'autor de la Unió, en particular per identificar i complir amb la reserva de drets de conformitat amb l'article 4(3) de la Directiva (UE) 2019/790 del Parlament Europeu i del Consell [E0040].

(105) El desenvolupament i la formació de les tècniques de mineria de textos i dades poden ser utilitzades extensament en aquest context per a la recuperació i l'anàlisi d'aquests continguts, llevat que s'apliquin excepcions i limitacions de drets d'autor. La Directiva (UE) 2019/790 va introduir excepcions i limitacions que permeten la reproducció i extracció d'obres o altres temes, amb la finalitat de prevenir la mineria de textos i dades, llevat que s'hagi reservat expressament els drets d'explotació de dades per a la investigació científica.

(106) Els proveïdors que col·loquen models d'IA de propòsit general en el mercat de la Unió han d'assegurar el compliment de les obligacions pertinents en aquest Reglament, i per això, els proveïdors de models d'IA de propòsit general han d'establir una política per complir amb la legislació de la Unió sobre drets d'autor i drets afins, en particular per identificar i complir amb la reserva de drets expressada pels titulars de drets de conformitat amb l'article 4(3) de la Directiva (UE) 2019/790. Qualsevol proveïdor que col·loqui un model d'IA de propòsit general en el mercat de la Unió ha de complir amb aquesta obligació, independentment de la jurisdicció en què es produeixin els actes pertinents per als drets d'autor que sustenten la formació d'aquests models d'IA de propòsit general, cosa que és necessari per garantir la igualtat de condicions entre els proveïdors de models d'IA de propòsit general, on cap proveïdor hauria de poder obtenir un avantatge competitiu en el mercat de la Unió aplicant normes de drets d'autor més baixes que les previstes a la Unió.

(107) Per tal d'augmentar la transparència sobre les dades que s'utilitzen en la pre-formació i la formació de models d'IA de propòsit general, incloent text i dades protegides per la llei de drets d'autor, és adequat que els proveïdors d'aquests models elaborin i facin públic un resum prou detallat del contingut utilitzat per a la formació del model d'IA de propòsit general. Tot i tenir en compte la necessitat de protegir els secrets comercials i la informació comercial confidencial, aquest resum hauria de ser generalment complet en el seu abast en lloc de tècnicament detallat per facilitar a les parts amb interessos legítims, inclosos els titulars de drets d'autor, per exercir i fer complir els seus drets d'acord amb el dret de la Unió, per exemple, mitjançant la llista de les principals col·leccions de dades o conjunts que van entrar en la formació del model, com ara grans bases de dades privades o públiques o arxius de dades, i proporcionant una explicació narrativa sobre altres fonts de dades utilitzades.

(108) Pel que fa a les obligacions imposades als proveïdors de models d'IA de propòsit general per establir una política de compliment de la llei de drets d'autor de la Unió i posar a disposició pública un resum del contingut utilitzat per a la formació, l'Oficina d'IA ha de supervisar si el proveïdor ha complert aquestes obligacions sense verificar o procedir a una avaluació de treball de les dades de formació en termes de compliment dels drets d'autor.

(109) El compliment de les obligacions aplicables als proveïdors de models d'IA d'ús general ha de ser proporcional i proporcional al tipus de proveïdor de models, excloent la necessitat de compliment per a les persones que desenvolupin o utilitzin models amb finalitats de recerca no professionals o científics, però que, sense perjudici de la llei de drets d'autor de la Unió, el compliment d'aquestes obligacions ha de tenir en compte la grandària del proveïdor i permetre formes simplificades de compliment per a les pimes, incloses les startups, que no han de representar un cost excessiu i no descoratjar l'ús d'aquests models. En el cas d'una modificació o ajustament de models d'IA d'ús general, les obligacions per als proveïdors de models d'IA d'ús general han de limitar-se a aquesta modificació o ajustament, per exemple complementant la documentació tècnica ja existent amb informació sobre les modificacions, incloses les noves fonts de dades de formació, com a mitjà per complir amb les obligacions de la cadena de valor previstes en aquest Reglament.

(110) Els models d'IA de propòsit general poden plantejar riscos sistèmics que inclouen, però no es limiten a, efectes negatius reals o raonablement previsibles en relació amb els grans accidents, les interrupcions de sectors crítics i les greus conseqüències per a la salut pública i la seguretat econòmica; la difusió de continguts negatius reals o raonablement previsibles sobre els processos democràtics, la fiabilitat dels models, l'equitat dels models i la seguretat dels models, el nivell d'autonomia del model, l'accés a les eines, les noves o combinades modalitats, les estratègies d'alliberament i distribució, el potencial de reduir les barreres d'entrada o l'ús d'armes; els efectes de la interacció i l'ús d'eines, com ara la capacitat de controlar els sistemes físics i interferir en la infraestructura crítica; la facilitació de la desinformació i la discriminació amb els riscos per als individus, les comunitats o les societats; el risc que un esdeveniment particular pugui conduir a una reacció en cadena amb efectes negatius considerables que podrien afectar a tota una ciutat, a tota una activitat de domini o a tota una comunitat.

(111) És apropiat establir una metodologia per a la classificació de models d'IA de propòsit general amb riscos sistèmics. Com que els riscos sistèmics resulten de capacitats particularment altes, un model d'IA de propòsit general es considerarà que presenta riscos sistèmics. Segons l'estat de l'art en el moment de l'entrada en vigor d'aquest model. La quantitat acumulada de capacitats en un model d'IA de propòsit general es podria establir un llindar inicial d'operacions de punt flotant amb riscos sistèmics. Per a informar d'això, l'Oficina d'IA hauria de tenir en compte la forma en què el model d'IA de propòsit general es col·locarà al mercat o el nombre d'usuaris sistèmics. Aquesta decisió s'hauria de prendre sobre la base d'una avaluació global dels criteris per a la designació d'un model d'IA de propòsit general amb risc sistèmic. Aquesta decisió s'hauria de prendre sobre la base d'una petició raonada d'un proveïdor el model del qual ha estat designat com a model d'IA de propòsit general amb risc sistèmic.

(112) També és necessari aclarir un procediment per a la classificació d'un model d'IA de propòsit general amb riscos sistèmics. Un model d'IA de propòsit general que compleixi el llindar aplicable per a les capacitats d'alt impacte hauria de presumir que un model d'IA de propòsit general complirà els requisits que condueixen a la presumpció. Això és especialment rellevant en relació amb el llindar d'operacions de punt flotant, perquè la formació de models d'IA de propòsit general requereix una planificació considerable que inclogui l'assignació anticipada de recursos computacionals i, per tant, els proveïdors de models d'IA de propòsit general excepcionalment no presenten riscos sistèmics. Aquesta informació és valuosa per a l'Oficina d'IA de propòsit general amb riscos sistèmics i els proveïdors poden començar a comprometre's amb l'Oficina d'IA de propòsit general amb riscos sistèmics. Aquesta informació és especialment important pel que fa als models d'IA de propòsit general que estan previstos per ser alliberats com a codi obert, atès que, després del llançament del model de codi obert, les mesures necessàries per garantir el compliment de les obligacions d'aquest Reglament poden ser més difícils d'implementar.

(113) Si la Comissió pren consciència que un model d'IA d'ús general compleix els requisits per classificar-se com a model d'IA d'ús general amb risc sistèmic, que prèviament no s'havia conegut o del qual el proveïdor corresponent no ha notificat a la Comissió, la Comissió hauria d'estar facultada per designar-lo. Un sistema d'alertes qualificades ha de garantir que l'Oficina d'Intel·ligència Artificial sigui sensibilitzada pel panell científic de models d'IA d'ús general que possiblement s'han de classificar com a models d'IA d'ús general amb risc sistèmic, a més de les activitats de seguiment de l'Oficina d'Intel·ligència Artificial.

(114) Els proveïdors de models d'IA de propòsit general que presentin riscos sistèmics haurien d'estar subjectes, a més de les obligacions previstes per als proveïdors de models d'IA de propòsit general, a les obligacions destinades a identificar i mitigar aquests riscos i garantir un nivell adequat de protecció de la ciberseguretat, independentment de si es proporciona com a model independent o integrat en un sistema d'IA o un producte, i per a aconseguir aquests objectius, aquest Reglament hauria d'exigir als proveïdors que realitzin les avaluacions de models necessàries, en particular abans de la seva primera comercialització, mitjançant proves internes o externes independents, i que els proveïdors de models d'IA de propòsit general amb riscos sistèmics, incloent, per exemple, l'aplicació de polítiques de gestió de riscos, com ara els processos de rendició de comptes i governança, la implementació de processos de seguiment postmercat, la presa de mesures adequades al llarg del cicle de vida de tot el model i la cooperació amb actors rellevants al llarg de la cadena de valor de la IA.

(115) Els proveïdors de models d'IA de propòsit general amb riscos sistèmics han d'avaluar i mitigar possibles riscos sistèmics. Si, malgrat els esforços per identificar i prevenir riscos relacionats amb un model d'IA de propòsit general que pugui presentar riscos sistèmics, el desenvolupament o l'ús del model causa un incident greu, el proveïdor de models d'IA de propòsit general ha de fer un seguiment sense demora indeguda de l'incident i informar de qualsevol informació rellevant i possibles mesures correctives al llarg de tot el cicle de vida del model. Protecció de la ciberseguretat relacionada amb riscos sistèmics associats a l'ús maliciós o atacs ha de considerar degudament la fugida de models accidentals, alliberaments no autoritzats, eludiment de mesures de seguretat, i la defensa contra ciberatacs, algorismes, servidors i conjunts de dades, com ara mesures de seguretat operacional per a la seguretat de la informació, polítiques de ciberseguretat específiques, solucions tècniques i establertes adequades, i controls d'accés cibernètic i físic, adequats a les circumstàncies pertinents i els riscos involucrats.

(116) L'Oficina d'Intel·ligència Artificial (IA) ha de fomentar i facilitar l'elaboració, revisió i adaptació de codis de pràctica, tenint en compte els enfocaments internacionals. Per garantir que els codis de pràctica reflecteixin l'estat de la tècnica i tinguin degudament en compte un conjunt divers de perspectives, l'Oficina d'Intel·ligència Artificial hauria de col·laborar amb les autoritats nacionals competents pertinents, i podria, si escau, consultar amb les organitzacions de la societat civil i altres parts interessades i experts rellevants, inclòs el Panell Científic, per a l'elaboració d'aquests codis.

(117) Els codis de pràctica han de representar una eina central per al compliment adequat de les obligacions previstes en aquest Reglament per als proveïdors de models d'IA de propòsit general. Els proveïdors han de poder confiar en codis de pràctica per a demostrar el compliment de les obligacions. Mitjançant actes d'execució, la Comissió pot decidir aprovar un codi de pràctica i donar-li una validesa general dins de la Unió o, alternativament, proporcionar normes comunes per a l'aplicació de les obligacions pertinents. Una vegada que aquest Reglament sigui publicat i avaluat com adequat per a cobrir les obligacions pertinents per l'Oficina d'IA, el compliment d'una norma harmonitzada europea hauria d'atorgar als proveïdors la presumpció de conformitat utilitzant mitjans alternatius adequats, si no es disposa de codis de pràctica o normes harmonitzades, o optar per no confiar en ells.

(118) Aquest Reglament regula els sistemes d'IA i els models d'IA imposant certs requisits i obligacions als actors rellevants del mercat que els posen en servei o utilitzen a la Unió, complementant així les obligacions dels proveïdors de serveis intermediaris que incorporin aquests sistemes o models en els seus serveis regulats pel Reglament (UE) 2022/2065. En la mesura que aquests sistemes o models s'incorporin a plataformes o motors de cerca en línia molt grans designats pel Reglament (UE) 2022/2065, s'han de presumir que es compleixen amb el marc de gestió de riscos previst en el Reglament (UE) 2022/2065. En aquest marc, els proveïdors de plataformes en línia molt grans i motors de cerca en línia molt grans estan obligats a avaluar els riscos sistèmics potencials derivats del disseny, funcionament i ús dels seus serveis, així com els riscos sistèmics derivats de possibles abusos. Aquests proveïdors també estan obligats a prendre mesures de mitigació adequades en compliment dels drets fonamentals.

(119) Tenint en compte el ràpid ritme d'innovació i l'evolució tecnològica dels serveis digitals en l'àmbit dels diferents instruments del Dret de la Unió, en particular tenint en compte l'ús i la percepció dels seus destinataris, els sistemes d'IA subjectes a aquest Reglament poden proporcionar-se com a serveis intermedis o parts d'aquest dins del significat del Reglament (UE) 2022/2065, que s'ha d'interpretar de manera neutra en la tecnologia, per exemple, els sistemes d'IA es poden utilitzar per proporcionar motors de cerca en línia, en particular, en la mesura que un sistema d'IA com un xatbot en línia realitza cerques de, en principi, tots els llocs web, després incorpora els resultats en el seu coneixement existent i utilitza el coneixement actualitzat per generar una única sortida que combina diferents fonts d'informació.

(120) A més, les obligacions imposades als proveïdors i desplegadors de certs sistemes d'IA en aquest Reglament per permetre la detecció i divulgació que els resultats d'aquests sistemes es generin o manipulin artificialment són especialment rellevants per facilitar l'aplicació efectiva del Reglament (UE) 2022/2065, en particular pel que fa a les obligacions dels proveïdors de plataformes en línia molt grans o motors de cerca en línia molt grans per identificar i mitigar els riscos sistèmics que poden sorgir de la difusió de continguts que s'han generat o manipulat artificialment, en particular el risc dels efectes negatius reals o previsibles sobre els processos democràtics, el discurs cívic i els processos electorals, fins i tot a través de la desinformació.

(121) El compliment de les normes harmonitzades definides en el punt c) de l'article 2, del Reglament (UE) núm. 1025/2012 del Parlament Europeu i del Consell [E0041], que normalment s'espera que reflecteixin l'estat de la tècnica, hauria de fomentar-se una representació equilibrada dels interessos de totes les parts interessades en el desenvolupament de les normes, en particular de les pimes, les organitzacions de consumidors i les parts interessades mediambientals i socials, de conformitat amb els articles 5 i 6 del Reglament (UE) núm. 1025/2012; no obstant això, en absència de referències rellevants a les normes harmonitzades, la Comissió hauria de poder establir, mitjançant actes d'execució i prèvia consulta al fòrum consultiu, especificacions comunes per a determinats requisits d'aquest Reglament, o quan les normes harmonitzades pertinents no hagin estat acceptades per cap de les organitzacions europees de normalització, o quan la Comissió consideri aquest retard en l'adopció d'una norma harmonitzada a causa de la complexitat tècnica d'aquesta norma, i quan desenvolupi especificacions comunes, s'estimuli a la Comissió a cooperar amb els socis internacionals i els organismes internacionals de normalització.

(122) És convenient que, sense perjudici de l'ús de normes harmonitzades i especificacions comunes, els proveïdors d'un sistema d'IA d'alt risc que hagi estat format i provat sobre dades que reflecteixin l'entorn geogràfic, conductual, contextual o funcional específic dins del qual es pretén utilitzar el sistema d'IA, presumeixin de complir amb la mesura pertinent prevista en el requisit de governança de dades establert en aquest Reglament, sense perjudici dels requisits relacionats amb la robustesa i exactitud establerts en aquest Reglament, de conformitat amb l'article 54(3) del Reglament (UE) 2019/881, els sistemes d'IA d'alt risc que hagin estat certificats o per als quals s'hagi publicat una declaració de conformitat en virtut d'aquest Reglament i les referències dels quals hagin estat publicades en el Diari Oficial de la Unió Europea, en la mesura en què el certificat de ciberseguretat o la declaració de conformitat o parts d'aquest Reglament cobreixin el requisit de ciberseguretat d'aquest Reglament, sense perjudici del caràcter voluntari d'aquest esquema de ciberseguretat.

(123) Per tal de garantir un alt nivell de fiabilitat dels sistemes d'IA d'alt risc, aquests sistemes haurien d'estar subjectes a una avaluació de conformitat abans de la seva comercialització o posada en servei.

(124) És convenient que, per a minimitzar la càrrega sobre els operadors i evitar qualsevol possible duplicació, per als sistemes d'IA d'alt risc relacionats amb els productes contemplats en la legislació vigent d'harmonització de la Unió basada en el Nou Marc Legislatiu, el compliment d'aquests sistemes d'IA amb els requisits d'aquest Reglament s'avaluï com a part de l'avaluació de conformitat ja prevista en aquesta llei, per la qual cosa l'aplicabilitat dels requisits d'aquest Reglament no hauria d'afectar la lògica específica, la metodologia o l'estructura general d'avaluació de conformitat conforme a la legislació d'harmonització de la Unió pertinent.

(125) Donada la complexitat dels sistemes d'IA d'alt risc i els riscos que hi estan associats, és important desenvolupar un procediment adequat d'avaluació de la conformitat dels sistemes d'IA d'alt risc que impliquin organismes notificats, l'anomenada avaluació de la conformitat de tercers; no obstant això, donada l'experiència actual dels certificadors professionals de premercat en l'àmbit de la seguretat del producte i la diferent naturalesa dels riscos implicats, és convenient limitar, almenys en una fase inicial d'aplicació d'aquest Reglament, l'àmbit d'aplicació de l'avaluació de la conformitat de tercers per a sistemes d'IA d'alt risc diferents dels relacionats amb els productes; per tant, l'avaluació de la conformitat d'aquests sistemes ha de dur-se a terme com a norma general pel proveïdor sota la seva pròpia responsabilitat, amb l'única excepció dels sistemes d'IA destinats a la biometria.

(126) Per dur a terme les avaluacions de conformitat de tercers quan sigui necessari, les autoritats nacionals competents han de notificar als organismes notificats d'acord amb aquest Reglament, sempre que compleixin una sèrie de requisits, en particular en matèria d'independència, competència, absència de conflictes d'interessos i requisits adequats de ciberseguretat.La notificació d'aquests organismes ha de ser enviada per les autoritats nacionals competents a la Comissió i als altres Estats membres mitjançant l'eina de notificació electrònica desenvolupada i gestionada per la Comissió de conformitat amb l'article R23 de l'Annex I de la Decisió núm. 768/2008/CE.

(127) D'acord amb els compromisos de la Unió en virtut de l'Acord de l'Organització Mundial del Comerç sobre Barreres Tècniques al Comerç, és adequat facilitar el reconeixement mutu dels resultats de l'avaluació de la conformitat produïts per organismes competents d'avaluació de la conformitat, independents del territori en el qual s'estableixin, sempre que aquests organismes d'avaluació de la conformitat establerts en virtut de la llei d'un tercer país compleixin els requisits aplicables d'aquest Reglament i la Unió hagi conclòs un acord en aquest sentit, i en aquest context, la Comissió hauria d'explorar activament els possibles instruments internacionals a aquest efecte i, en particular, perseguir la celebració d'acords de reconeixement mutu amb tercers països.

(128) D'acord amb la noció comunament establerta de modificació substancial per als productes regulats per la legislació d'harmonització de la Unió, és convenient que sempre que es produeixi un canvi que pugui afectar el compliment d'un sistema d'IA d'alt risc amb aquest Reglament (p. ex. canvi de sistema operatiu o arquitectura de programari), o quan canviï la finalitat prevista del sistema, que el sistema d'IA es consideri un nou sistema d'IA que ha de sotmetre's a una nova avaluació de conformitat, però, els canvis que es produeixin en l'algorisme i el rendiment dels sistemes d'IA que continuïn "aprenent" després de la seva comercialització o posada en servei, és a dir, l'adaptació automàtica de com es duen a terme les funcions, no haurien de constituir una modificació substancial, sempre que aquests canvis hagin estat predeterminats pel proveïdor i avaluats en el moment de l'avaluació de conformitat.

(129) Els sistemes d'IA d'alt risc han de portar la marca CE per indicar la seva conformitat amb aquest Reglament de manera que puguin circular lliurement dins del mercat interior. Per als sistemes d'IA d'alt risc integrats en un producte, s'ha d'establir una marca física CE, i pot complementar-se amb una marca digital CE. Per als sistemes d'IA d'alt risc només s'ha d'utilitzar una marca digital CE. Els Estats membres no han de crear obstacles injustificats per a la comercialització o la posada en servei de sistemes d'IA d'alt risc que compleixin els requisits establerts en aquest Reglament i que portin la marca CE.

(130) En determinades condicions, la ràpida disponibilitat de tecnologies innovadores pot ser crucial per a la salut i la seguretat de les persones, la protecció del medi ambient i del canvi climàtic i per al conjunt de la societat, per la qual cosa és convenient que, sota raons excepcionals de seguretat pública o protecció de la vida i la salut de les persones físiques, la protecció del medi ambient i la protecció dels actius industrials i infraestructurals clau, les autoritats de vigilància del mercat puguin autoritzar la comercialització o la posada en servei de sistemes d'IA que no hagin estat objecte d'una avaluació de conformitat.En situacions degudament justificades, tal com preveu aquest Reglament, les autoritats policials o de protecció civil puguin posar en servei un sistema específic d'IA d'alt risc sense l'autorització de l'autoritat de vigilància del mercat, sempre que aquesta autorització es sol·liciti durant o després de l'ús sense demora indeguda.

(131) Per tal de facilitar el treball de la Comissió i dels Estats membres en l'àmbit de la IA, així com per augmentar la transparència cap al públic, els proveïdors de sistemes d'IA d'alt risc diferents dels relacionats amb els productes inclosos en un annex d'aquest Reglament, haurien d'estar obligats a registrar-se i gestionar-se en una base de dades de la UE. Abans d'utilitzar un sistema d'IA d'alt risc inclòs en un annex d'aquest Reglament, la base de dades de la UE hauria de ser accessible al públic de manera gratuïta. Per als sistemes d'IA d'alt risc en l'àrea de la infraestructura crítica, l'accés a la base de dades d'alt risc només hauria de ser registrat a nivell nacional. Per garantir la plena funcionalitat de la base de dades de la UE, quan es desplega, el procediment per establir la base de dades de la UE hauria de complir amb els requisits de la Directiva (UE) 2019/882.

(132) En determinades circumstàncies, l'ús d'aquests sistemes ha d'estar subjecte a obligacions de transparència específiques sense perjudici de les exigències i obligacions dels sistemes d'intel·ligència artificial d'alt risc, i ha de ser objecte d'excepcions específiques per tenir en compte les circumstàncies i el context d'ús d'aquests sistemes, i ha de tenir-se en compte les característiques de les persones físiques pertanyents a grups vulnerables per la seva edat o discapacitat, i ha de tenir-se en compte les característiques de les persones físiques que pertanyen a grups vulnerables per la seva edat o discapacitat, i ha de tenir-se en compte les característiques de les persones físiques que, mitjançant el tractament de les seves dades biomètriques, poden identificar o inferir les emocions o intencions d'aquestes persones o assignar-les a categories específiques, com ara el sexe, l'edat, el color dels cabells, el color dels ulls, els tatuatges, els trets personals, l'origen ètnic, les preferències personals i els interessos.

(133) Una gran varietat de sistemes d'intel·ligència artificial poden generar grans quantitats de contingut sintètic que es fa cada vegada més difícil per als éssers humans de distingir-se del contingut generat i autèntic. L'àmplia disponibilitat i capacitat creixent d'aquests sistemes tenen un impacte significatiu en la integritat i la manipulació a escala, el frau, la suplantació d'identitat i l'engany dels consumidors. En vista d'aquests impactes, el ritme tecnològic ràpid i la necessitat de nous mètodes i tècniques per rastrejar l'origen de la informació. Aquestes tècniques i mètodes han de ser suficientment fiables, interoperables, eficaços i robustos en la mesura que sigui tècnicament possible, tenint en compte les tècniques disponibles i les limitacions dels diferents tipus de contingut, els mètodes de registre, les empremtes dactilars o altres tècniques, tal com es reflecteix en l'estat general de la tècnica, els models d'intel·ligència artificial generen contingut, facilitant així el compliment d'aquesta obligació per part del proveïdor d'intel·ligència artificial que realitza principalment una funció d'assistència per a l'edició estàndard o els sistemes d'intel·ligència artificial que no alteren substancialment les dades d'entrada proporcionades pel desplegador o la semàntica.

(134) El compliment d'aquesta obligació de transparència no s'ha d'interpretar com una indicació del dret a la llibertat d'expressió i el dret a la llibertat de les arts i les ciències garantides en la Carta, en particular quan el contingut formi part d'una obra o programa evidentment creatiu, satíric, artístic, fictici o anàleg, subjecte a les garanties adequades per a l'existència d'aquests continguts, incloent la seva explotació i ús normal, mantenint la utilitat i la qualitat de l'obra, i també és convenient preveure una obligació de divulgació similar en relació amb el text generat per la IA, llevat que el contingut generat per la IA hagi estat objecte d'un procés de revisió humana o control editorial i una persona física o jurídica assumeixi la responsabilitat editorial de la publicació dels continguts.

(135) Sense perjudici del caràcter obligatori i de la plena aplicabilitat de les obligacions de transparència, la Comissió també pot fomentar i facilitar l'elaboració de codis de pràctica a nivell de la Unió per a facilitar l'aplicació efectiva de les obligacions relatives a la detecció i l'etiquetatge dels continguts artificialment generats o manipulats, fins i tot per a donar suport a acords pràctics per a fer accessibles i facilitar la cooperació amb altres actors al llarg de la cadena de valor, difondre continguts o comprovar la seva autenticitat i procedència per a permetre que el públic distingeixi eficaçment els continguts generats per IA.

(136) Les obligacions imposades als proveïdors i desplegadors de determinats sistemes d'IA en aquest Reglament per permetre la detecció i la divulgació que els resultats d'aquests sistemes són generats o manipulats artificialment són particularment rellevants per facilitar l'aplicació efectiva del Reglament (UE) 2022/2065, en particular pel que fa a les obligacions dels proveïdors de plataformes en línia molt grans o motors de cerca en línia molt grans per identificar i mitigar els riscos sistèmics que poden derivar-se de la difusió de continguts generats o manipulats artificialment, en particular el risc dels efectes negatius reals o previsibles sobre els processos democràtics, el discurs cívic i els processos electorals, sense perjudici de l'obligació en l'article 16 (6) del Reglament (UE) 2022/2065 dels proveïdors de serveis d'allotjament per processar avisos sobre continguts il·legals rebuts d'acord amb l'article 16(1) d'aquest Reglament i que no han d'influir en l'avaluació i la decisió sobre la il·legalitat dels continguts específics. Aquesta avaluació s'ha de realitzar únicament amb referència a les normes que regeixen la legalitat dels continguts.

(137) El compliment de les obligacions de transparència per als sistemes d'IA contemplats en aquest Reglament no s'ha d'interpretar com indicar que l'ús del sistema d'IA o la seva producció és legal en virtut d'aquest Reglament o d'altres lleis de la Unió i els Estats membres i ha d'estar sense perjudici d'altres obligacions de transparència per als desplegadors de sistemes d'IA establerts en la legislació de la Unió o nacional.

(138) La IA és una família de tecnologies que es desenvolupa ràpidament i que requereix una supervisió reguladora i un espai segur i controlat per a l'experimentació, alhora que garanteix la innovació responsable i la integració de les salvaguardes adequades i les mesures de mitigació de riscos. Per garantir un marc legal que promogui la innovació, sigui resistent al futur i resistent a la interrupció, els Estats membres han de garantir que les seves autoritats nacionals competents estableixin almenys una caixa de sorra reguladora d'IA a nivell nacional per facilitar el desenvolupament i la prova de sistemes d'IA innovadors sota una supervisió reguladora estricta abans que aquests sistemes es posin al mercat o es posin en servei.

(139) Els objectius de les caixes de sorra reguladores de la IA haurien de ser fomentar la innovació de la IA mitjançant l'establiment d'un entorn d'experimentació i proves controlats en la fase de desenvolupament i pre-màrqueting amb la finalitat de garantir la seguretat jurídica dels sistemes d'IA amb aquest Reglament i la comprensió de les oportunitats, riscos emergents i impactes de l'ús de la IA, facilitar la cooperació i l'intercanvi de bones pràctiques amb les autoritats implicades en el marc de la IA reguladora de la caixa de sorra. La participació dels sistemes d'IA reguladors hauria de centrar-se en qüestions que augmentin la incertesa legal dels proveïdors i proveïdors potencials per innovar, experimentar amb la IA reguladora de la caixa de sorra i contribuir a l'aprenentatge regulador de la IA. La supervisió dels sistemes d'IA reguladors hauria de donar lloc a una mitigació adequada i, si escau, a la participació d'altres actors dins de l'ecosistema d'IA.

(140) En compliment del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i la Llei Orgànica 3/2018, de 5 de desembre, de Protecció de Dades Personals i garantia dels drets digitals (LOPDGDD), li oferim la següent informació sobre el tractament de les seves dades personals:

(141) Per tal d'accelerar el procés de desenvolupament i la comercialització dels sistemes d'IA d'alt risc enumerats en un annex d'aquest Reglament, és important que els proveïdors o proveïdors potencials d'aquests sistemes també es beneficiïn d'un règim específic de prova d'aquests sistemes en condicions del món real, sense que això suposi la introducció de garanties adequades i suficients per a les persones físiques per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions del món real, amb l'excepció que el consentiment dels subjectes per a participar en les proves en condicions de protecció de dades reals, amb l'excepció que el consentiment dels subjectes per a les proves en condicions de protecció de dades personals es transfereixi a tercers països només quan s'hagin establert les garanties adequades per a les dades personals en virtut del dret de la Unió, com el Reglament (UE) 2022/868 [E0042] i (UE) 2023/2854 [E0043] del Parlament Europeu i del Consell.

(142) Per garantir que la IA condueixi a resultats socialment i ambientalment beneficiosos, s'encoratja els Estats membres a donar suport i promoure solucions d'IA en suport de resultats social i mediambientalment beneficiosos, com ara solucions basades en IA per augmentar l'accessibilitat de les persones amb discapacitat, abordar les desigualtats socioeconòmiques o complir els objectius ambientals, mitjançant l'assignació de recursos suficients, incloent el finançament públic i de la Unió, i, si escau, i sempre que es compleixin els criteris d'elegibilitat i selecció, considerant en particular projectes que persegueixen aquests objectius, aquests projectes s'han de basar en el principi de cooperació interdisciplinària entre desenvolupadors d'IA, experts en desigualtat i no discriminació, accessibilitat, consumidors, ambientals i drets digitals, així com acadèmics.

(143) Per tal de promoure i protegir la innovació, és important que es tinguin en compte els interessos de les pimes, incloses les start-ups, que són empreses proveïdores o desplegadores de sistemes d'intel·ligència artificial, que tinguin accés prioritari a les pimes, que tinguin una seu social o una sucursal a la Unió, que tinguin accés prioritari a les pimes, que tinguin les mateixes condicions i criteris, que estableixin nous canals dedicats a la comunicació amb les pimes, que incloguin les empreses emergents, que facilitin la participació de les pimes i altres parts interessades en els processos d'avaluació de la conformitat, i que, si escau, la Comissió avaluï periòdicament els costos de certificació i compliment de les pimes, incloses les empreses emergents, que puguin suposar un cost significatiu per a les pimes i per a les empreses emergents, que puguin complementar els esforços de les pimes per a la documentació obligatòria i la comunicació amb les empreses operadores, mitjançant l'organització de campanyes de comunicació adequades per a la sensibilització sobre les obligacions derivades d'aquest Reglament, i que aquestes empreses mitjanes, fins fa poc qualificades com a petites empreses en el sentit de l'Annex a la Recomanació 2003/361/CE [E0044], puguin tenir accés a aquestes mesures de suport, ja que aquestes noves empreses mitjanes a vegades poden mancar dels recursos legals i de la formació necessària per a garantir la correcta comprensió i compliment d'aquest Reglament.

(144) Per tal de promoure i protegir la innovació, la plataforma AI-on-demand, tots els programes i projectes de finançament pertinents de la Unió, com el Programa Europa Digital, Horitzó Europa, implementat per la Comissió i els Estats membres a nivell de la Unió o nacional, haurien de contribuir, segons correspongui, a la consecució dels objectius d'aquest Reglament.

(145) Amb la finalitat de minimitzar els riscos d'aplicació derivats de la falta de coneixement i experiència en el mercat, així com per a facilitar el compliment dels proveïdors, en particular de les PIME, incloses les empreses emergents, i els organismes notificats amb les seves obligacions en virtut d'aquest Reglament, la plataforma d'IA-on-demand, els centres europeus d'innovació digital i les instal·lacions de proves i experimentació establertes per la Comissió i els Estats membres a nivell de la Unió o nacional haurien de contribuir a l'aplicació d'aquest Reglament; dins de les seves respectives missions i àmbits de competència, la plataforma d'IA-on-demand, els centres europeus d'innovació digital i les instal·lacions de proves i experimentació poden proporcionar suport tècnic i científic als proveïdors i organismes notificats.

(146) A més, a la llum de la grandària molt petita d'alguns operadors i per a garantir la proporcionalitat dels costos de la innovació, és convenient permetre que les microempreses compleixin una de les obligacions més costoses, a saber, establir un sistema de gestió de la qualitat, de manera simplificada que redueixi la càrrega administrativa i els costos per a aquestes empreses sense afectar el nivell de protecció i la necessitat de complir amb els requisits dels sistemes d'intel·ligència artificial d'alt risc.

(147) És convenient que la Comissió faciliti, en la mesura que sigui possible, l'accés a les instal·lacions de prova i experimentació a organismes, grups o laboratoris establerts o acreditats de conformitat amb qualsevol legislació d'harmonització de la Unió i que compleixin les tasques en el context de l'avaluació de la conformitat dels productes o dispositius inclosos en aquesta legislació d'harmonització de la Unió, en particular pel que fa als panells d'experts, laboratoris d'experts i laboratoris de referència en l'àmbit dels dispositius mèdics de conformitat amb els Reglaments (UE) 2017/745 i (UE) 2017/746.

(148) Aquest Reglament hauria d'establir un marc de governança que permeti coordinar i donar suport a l'aplicació d'aquest Reglament a nivell nacional, així com crear capacitats a nivell de la Unió i integrar a les parts interessades en l'àmbit de la IA. L'Oficina d'Intel·ligència Artificial (IA) va ser establerta per la Decisió de la Comissió [E0045] i té com a missió desenvolupar competències i capacitats de la Unió en l'àmbit de la IA. Els Estats membres haurien de facilitar les tasques de l'Oficina d'Intel·ligència Artificial a nivell de la Unió i reforçar el funcionament del mercat únic digital.

(149) Per tal de facilitar una implementació fluida, eficaç i harmonitzada d'aquest Reglament, s'ha d'establir una Junta Directiva que reflecteixi els diversos interessos de l'ecosistema de la IA i que estigui formada per representants dels Estats membres, incloent-hi les opinions, recomanacions, consells o directrius sobre qüestions relatives a l'aplicació d'aquest Reglament, incloent-hi les qüestions relatives a l'execució, les especificacions tècniques o les normes nacionals competents en matèria de qüestions específiques relacionades amb la IA. Per tal de donar una certa flexibilitat als Estats membres en la designació dels seus representants a nivell nacional, aquests representants poden establir dues subgrups permanents per proporcionar una plataforma de cooperació i intercanvi entre les autoritats de vigilància del mercat, i notificar a les autoritats sobre qüestions relacionades, respectivament, amb l'article 30 del Reglament (UE) 2019/1020.

(150) Amb vista a garantir la participació de les parts interessades en l'aplicació i aplicació d'aquest Reglament, s'hauria d'establir un fòrum consultiu per a assessorar i proporcionar coneixements tècnics al Consell i a la Comissió, per a garantir una representació variada i equilibrada de les parts interessades entre l'interès comercial i el no comercial i, dins de la categoria d'interessos comercials, pel que fa a les PIME i altres empreses, el fòrum consultiu hauria d'incloure, entre altres coses, la indústria, les pimes, el món acadèmic, la societat civil, inclosos els interlocutors socials, així com l'Agència Europea de Drets Fonamentals, ENISA, el Comitè Europeu de Normalització Electrotècnica (CENELEC) i l'Institut Europeu de Normes de Telecomunicacions (ETSI).

(151) Per donar suport a l'aplicació i execució d'aquest Reglament, en particular les activitats de seguiment de l'Oficina d'Intel·ligència Artificial pel que fa als models d'IA de propòsit general, s'ha d'establir un panell científic d'experts independents que ha de ser seleccionat sobre la base d'una experiència científica o tècnica actualitzada en l'àmbit de la IA i ha de dur a terme les seves tasques amb imparcialitat, objectivitat i garantir la confidencialitat de la informació i les dades obtingudes en l'execució de les seves tasques i activitats. Per permetre el reforç de les capacitats nacionals necessàries per a l'aplicació efectiva d'aquest Reglament, els Estats membres han de poder sol·licitar el suport del grup d'experts que constitueix el panell científic per a les seves activitats d'aplicació.

(152) Amb la finalitat de donar suport a l'aplicació adequada dels sistemes d'IA i reforçar les capacitats dels Estats membres, la IA de la Unió hauria d'establir i posar a la disposició dels Estats membres les estructures de suport.

(153) Els Estats membres tenen un paper clau en l'aplicació i l'aplicació d'aquest Reglament i, en aquest sentit, cada Estat membre ha de designar almenys una autoritat de notificació i almenys una autoritat de vigilància del mercat com a autoritats nacionals competents amb la finalitat de supervisar l'aplicació i l'aplicació d'aquest Reglament.Els Estats membres poden decidir nomenar qualsevol tipus d'entitat pública per a exercir les tasques de les autoritats nacionals competents en el sentit d'aquest Reglament, d'acord amb les seves característiques i necessitats organitzatives nacionals específiques.Per a augmentar l'eficàcia de l'organització per part dels Estats membres i establir un únic punt de contacte amb el públic i altres homòlegs a nivell dels Estats membres i de la Unió, cada Estat membre ha de designar una autoritat de vigilància del mercat per a actuar com un únic punt de contacte.

(154) Les autoritats nacionals competents han d'exercir les seves competències de manera independent, imparcial i sense prejudicis, per tal de salvaguardar els principis d'objectivitat de les seves activitats i tasques i assegurar l'aplicació i l'aplicació d'aquest Reglament, els membres d'aquestes autoritats han d'abstenir-se de qualsevol acció incompatible amb les seves obligacions i han d'estar subjectes a les normes de confidencialitat d'aquest Reglament.

(155) Per tal de garantir que els proveïdors de sistemes d'IA d'alt risc puguin tenir en compte l'experiència en l'ús de sistemes d'IA d'alt risc per millorar els seus sistemes i el procés de disseny i desenvolupament o que puguin prendre qualsevol acció correctiva de manera oportuna, tots els proveïdors haurien de tenir un sistema de monitorització post-mercat que inclogui una anàlisi de la interacció amb altres sistemes d'IA, inclosos altres dispositius i programari. Aquest sistema també és clau per assegurar que els possibles riscos que sorgeixen dels sistemes d'IA que segueixen "aprenent" després d'haver estat posats en el mercat o posat en servei poden ser més eficients i puntuals.

(156) Per tal de garantir un compliment adequat i efectiu dels requisits i obligacions establerts per aquest Reglament, que és la legislació d'harmonització de la Unió, el sistema de vigilància del mercat i el compliment dels productes establerts pel Reglament (UE) 2019/1020 han de tenir tots els poders d'execució establerts en aquest Reglament i en el Reglament (UE) 2019/1020 i han d'exercir les seves competències i les seves obligacions de manera independent, imparcial i sense prejudicis. Tot i que la majoria dels sistemes d'IA no estan subjectes a requisits i obligacions específics d'aquest Reglament, és convenient designar el Supervisor Europeu de Protecció de Dades com una autoritat de vigilància del mercat competent per a ells, sense perjudici de la designació de les autoritats nacionals competents pels Estats membres.

(157) Aquest Reglament, sense perjudici de les competències, les funcions, les competències i la independència de les autoritats públiques nacionals competents o dels organismes que supervisen l'aplicació de la legislació de la Unió en matèria de protecció dels drets fonamentals, inclosos els organismes d'igualtat i les autoritats de protecció de dades, ha d'establir-se un procediment de salvaguarda específic per garantir una aplicació adequada i oportuna dels sistemes d'IA que presentin un risc per a la salut, la seguretat i els drets fonamentals, i ha d'aplicar-se als sistemes d'IA d'alt risc que presentin un risc, als sistemes prohibits que s'hagin comercialitzat, posats en servei o utilitzats en violació de les pràctiques prohibides previstes en aquest Reglament i als sistemes d'IA que s'hagin posat a disposició en violació dels requisits de transparència establerts en aquest Reglament i presentin un risc.

(158) Les autoritats competents per a la supervisió i execució de les obligacions previstes en el Reglament (UE) núm. 575/2013 del Parlament Europeu i del Consell [E0047], 2009/138/CE [E0049], 2014/17/CE [E0048], 2014/17/CE [E0048], 2014/17/CE [E0048], 2014/17/CE [E0048], 2014/17/UE [E0051] i 2016/97 [E0051] del Parlament Europeu i del Consell, llevat que els Estats membres decideixin designar una altra autoritat per al compliment d'aquestes tasques de vigilància del mercat, incloses les competències per dur a terme les nostres activitats de supervisió del mercat ex post (UE) núm. 1024/2013 [E0052], haurien d'informar sense demora al Banc Central Europeu de les obligacions processals establertes en el Reglament (UE) núm. 1024/2013 [E0052], per tal d'evitar superposicions, també haurien de preveure's excepcions limitades en relació amb el sistema de gestió de riscos dels proveïdors i l'obligació de supervisió imposada a les empreses de serveis financers d'alt risc en virtut de la Directiva 2009/138/UE i altres tipus d'institucions financeres subjectes a requisits de governança interna, arranjaments o processos establerts en la legislació de serveis financers de la Unió pertinent per garantir la coherència i la igualtat de tracte en el sector financer.

(159) Les persones interessades tenen dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals es van recollir. Les persones interessades tenen dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals es van recollir.

(160) Les autoritats de vigilància del mercat i la Comissió haurien de poder proposar activitats conjuntes, incloses les investigacions conjuntes, que han de ser dutes a terme per les autoritats de vigilància del mercat o les autoritats de vigilància del mercat juntament amb la Comissió, amb l'objectiu de promoure el compliment, identificar l'incompliment, sensibilitzar i proporcionar orientació en relació amb aquest Reglament respecte a categories específiques de sistemes d'IA d'alt risc que es troben en un risc greu en dos o més Estats membres. Les activitats conjuntes per promoure el compliment s'han de dur a terme de conformitat amb l'article 9 del Reglament (UE) 2019/1020.

(161) Cal aclarir les responsabilitats i competències a nivell de la Unió i a nivell nacional pel que fa als sistemes d'IA que es construeixen sobre models d'IA d'ús general. Per evitar la superposició de competències, on un sistema d'IA es basa en un model d'IA d'ús general i el model i el sistema són proporcionats pel mateix proveïdor, la supervisió ha de tenir lloc a nivell de la Unió a través de l'Oficina d'Intel·ligència Artificial (AI) 2019/1020. En tots els altres casos, les autoritats nacionals de vigilància del mercat han de cooperar amb l'Oficina d'Intel·ligència Artificial per dur a terme avaluacions de compliment i informar la Junta i altres autoritats de vigilància del mercat en conseqüència.

(162) Per fer un millor ús de l'experiència i les sinergies centralitzades de la Unió a nivell de la Unió, les competències de supervisió i execució de les obligacions dels proveïdors de models d'IA d'ús general haurien de ser competència de la Comissió, i l'Oficina d'IA hauria de poder dur a terme totes les accions necessàries per supervisar l'aplicació efectiva d'aquest Reglament pel que fa als models d'IA d'ús general, tant per iniciativa pròpia, seguint els resultats de les seves activitats de seguiment, com a petició de les autoritats de vigilància del mercat d'acord amb les condicions establertes en aquest Reglament.

(163) Amb l'objectiu de complementar els sistemes de governança dels models d'IA de propòsit general, el panell científic ha de donar suport a les activitats de seguiment de l'Oficina d'IA i pot, en determinats casos, proporcionar alertes qualificades a l'Oficina d'IA que desencadenen seguiments, com ara investigacions, que haurien de ser el cas en què el panell científic tingui motius per sospitar que un model d'IA de propòsit general planteja un risc concret i identificable a nivell de la Unió; a més, aquest hauria de ser el cas en què el panell científic tingui motius per sospitar que un model d'IA de propòsit general compleix els criteris que portarien a una classificació com a model d'IA de propòsit general amb risc sistèmic.

(164) L'Oficina d'Intel·ligència Artificial (IA) ha de poder dur a terme les accions necessàries per supervisar l'aplicació efectiva i el compliment de les obligacions dels proveïdors de models d'IA d'ús general establertes en aquest Reglament, així com per sol·licitar als proveïdors de models d'IA d'ús general, així com per sol·licitar a experts independents que duguin a terme les avaluacions en el seu nom. El compliment de les obligacions ha de ser exigible, entre altres coses, mitjançant sol·licituds per prendre les mesures adequades, incloent mesures de mitigació de riscos en el cas de riscos sistèmics identificats, retirant o recordant el model. Com a salvaguarda, quan sigui necessari més enllà dels drets processals previstos en aquest Reglament, els proveïdors de models d'IA d'ús general han de tenir els drets processals previstos en l'article 18 del Reglament (UE) 2019/1020, que ha d'aplicar mutatis mutandis, sense perjudici dels drets processals més específics previstos en aquest Reglament.

(165) El desenvolupament de sistemes d'IA diferents dels sistemes d'IA d'alt risc d'acord amb els requisits d'aquest Reglament pot conduir a una major adopció de codis de conducta, inclosos els mecanismes de governança relacionats, destinats a fomentar l'aplicació voluntària d'alguns o tots els requisits obligatoris aplicables als sistemes d'IA d'alt risc, tenint en compte les solucions tècniques disponibles i les millors pràctiques de la indústria, com ara el model i les targetes de dades, la sostenibilitat ambiental, les mesures d'alfabetització de la IA, el disseny i desenvolupament inclusiu de les persones vulnerables i l'accessibilitat de les persones amb discapacitat, i la diversitat dels equips de desenvolupament, inclòs l'equilibri de gènere, així com la participació d'actors rellevants com les organitzacions empresarials i de la societat civil, l'acadèmia, les organitzacions de recerca, els sindicats i l'organització de protecció del consumidor. La Comissió pot desenvolupar iniciatives, incloent de caràcter sectorial, per facilitar la reducció de les barreres tècniques que dificulten l'intercanvi transfronterer de dades per al desenvolupament de la IA, inclosa la infraestructura d'accés a dades, la interoperabilitat semàntica i tècnica de diferents tipus de dades.

(166) És important que els sistemes d'IA relacionats amb productes que no són d'alt risc d'acord amb aquest Reglament i que, per tant, no estan obligats a complir amb els requisits establerts per als sistemes d'IA d'alt risc siguin segurs quan es posin en el mercat o es posin en servei, i per contribuir a aquest objectiu, el Reglament (UE) 2023/988 del Parlament Europeu i del Consell [E0053] s'aplicaria com a xarxa de seguretat.

(167) Amb la finalitat d'assegurar una cooperació de confiança i constructiva de les autoritats competents en l'àmbit de la Unió i en l'àmbit nacional, totes les parts implicades en l'aplicació d'aquest Reglament han de respectar la confidencialitat de la informació i les dades obtingudes en l'acompliment de les seves tasques, de conformitat amb la legislació nacional o de la Unió, i han de dur a terme les seves tasques i activitats de manera que es protegeixin, en particular, els drets de propietat intel·lectual, la informació comercial confidencial i els secrets comercials, l'aplicació efectiva d'aquest Reglament, els interessos de seguretat pública i nacional, la integritat dels procediments penals i administratius i la integritat de la informació classificada.

(168) Els Estats membres han de prendre totes les mesures necessàries per garantir que les disposicions d'aquest Reglament s'apliquin, incloent l'establiment de sancions efectives, proporcionades i dissuasives per la seva infracció, i per tal de reforçar i harmonitzar les sancions administratives per la infracció d'aquest Reglament, els Estats membres han de tenir en compte, en cada cas, totes les circumstàncies rellevants de la infracció i de les seves conseqüències i la grandària del proveïdor, en particular si el proveïdor és una PIME, inclosa una start-up. El Supervisor Europeu de Protecció de Dades ha de tenir la facultat d'imposar multes a les institucions, agències i organismes de la Unió que entren en l'àmbit d'aquest Reglament.

(169) El compliment de les obligacions dels prestadors de models d'IA de propòsit general imposades en virtut d'aquest Reglament ha de ser exigible, entre altres coses, mitjançant multes, així com per incompliment de les mesures sol·licitades per la Comissió d'acord amb aquest Reglament, subjectes a terminis de prescripció adequats d'acord amb el principi de proporcionalitat. Totes les decisions preses per la Comissió d'acord amb aquest Reglament estan subjectes a revisió pel Tribunal de Justícia de la Unió Europea d'acord amb el TFUE, inclosa la jurisdicció il·limitada del Tribunal de Justícia en matèria de sancions de conformitat amb l'article 261 del TFUE.

(170) El dret de la Unió i el dret nacional ja proporcionen solucions efectives a les persones físiques i jurídiques els drets i llibertats de les quals es veuen afectats negativament per l'ús de sistemes d'IA. Sense perjudici d'aquests recursos, qualsevol persona física o jurídica que tingui motius per considerar que hi ha hagut una infracció d'aquest Reglament hauria de tenir dret a presentar una reclamació davant l'autoritat de vigilància del mercat pertinent.

(171) Les persones afectades han de tenir dret a obtenir una explicació en què la decisió d'un desplegador es basi principalment en els resultats de determinats sistemes d'intel·ligència artificial d'alt risc que entren dins de l'àmbit d'aplicació d'aquest Reglament i en què aquesta decisió produeixi efectes jurídics o afecti significativament de manera similar a aquestes persones de manera que considerin que tenen un impacte negatiu en la seva salut, seguretat o drets fonamentals. Aquesta explicació ha de ser clara i significativa i ha de proporcionar una base sobre la qual les persones afectades puguin exercir els seus drets. El dret a obtenir una explicació no s'ha d'aplicar a l'ús de sistemes d'intel·ligència artificial per als quals les excepcions o restriccions es deriven de la legislació de la Unió o nacional i només s'ha d'aplicar en la mesura en què aquest dret no estigui ja previst en el dret de la Unió.

(172) La Directiva (UE) 2019/1937 del Parlament Europeu i del Consell [E0054] ha d'aplicar-se, per tant, a la notificació d'infraccions d'aquest Reglament i a la protecció de les persones denunciants d'aquestes infraccions.

(173) Per tal de garantir que el marc regulador es pugui adaptar quan sigui necessari, la facultat d'adoptar actes d'acord amb l'article 290 del TFUE hauria de delegar-se a la Comissió per modificar les condicions sota les quals no s'ha de considerar un sistema d'IA d'alt risc, les disposicions relatives als procediments d'avaluació de conformitat amb la declaració de conformitat de la UE, les disposicions relatives als sistemes d'avaluació de conformitat amb el sistema de gestió de la conformitat i l'avaluació de la documentació tècnica, el llindar, els criteris de referència i els indicadors, en les normes per a la classificació dels models d'IA d'ús general amb risc sistèmic, la documentació tècnica per als proveïdors de models d'IA d'ús general amb risc sistèmic, la documentació tècnica per als proveïdors de models d'IA d'ús general amb risc sistèmic, la documentació tècnica per als proveïdors de models d'IA d'ús general amb risc sistèmic, i que aquestes consultes es duguin a terme d'acord amb els principis establerts en l'Acord Interinstitucional de 13 d'abril de 2016 sobre la millora de la legislació [E0055], i que els seus experts tinguin accés sistemàtic a les reunions dels grups d'experts de la Comissió que s'ocupen de la preparació dels actes delegats.

(174) Tenint en compte els ràpids desenvolupaments tecnològics i els coneixements tècnics necessaris per a aplicar de manera efectiva aquest Reglament, la Comissió ha d'avaluar i revisar aquest Reglament abans del 2 d'agost de 2029 i cada quatre anys després i informar el Parlament Europeu i al Consell sobre la necessitat de modificar la llista de sistemes d'IA d'alt risc i la llista de pràctiques prohibides una vegada a l'any; així mateix, abans del 2 d'agost de 2028 i cada quatre anys després, la Comissió ha d'avaluar i informar el Parlament Europeu i al Consell sobre la necessitat de modificar la llista de títols d'àrees d'alt risc en l'annex d'aquest Reglament, els sistemes d'IA en l'àmbit de les obligacions de transparència, l'eficàcia del sistema de supervisió i governança i els progressos en el desenvolupament de sistemes d'IA d'eficiència energètica, incloent la necessitat de noves mesures o accions; finalment, abans del 2 d'agost de 2028 i cada tres anys, la Comissió ha d'avaluar l'impacte i l'eficàcia dels sistemes d'IA d'alt risc en el cas de sistemes d'IA d'alt risc i possiblement altres requisits addicionals per a aquests sistemes d'IA.

(175) Per tal de garantir unes condicions uniformes per a l'aplicació d'aquest Reglament, s'han d'atribuir a la Comissió competències d'execució que s'han d'exercir d'acord amb el Reglament (UE) núm. 182/2011 del Parlament Europeu i del Consell [E0056].

(176) Atès que l'objectiu d'aquest Reglament, a saber, millorar el funcionament del mercat interior i promoure l'adopció d'una IA centrada en l'ésser humà i digna de confiança, garantint al mateix temps un alt nivell de protecció de la salut, la seguretat i els drets fonamentals consagrats en la Carta, inclosa la democràcia, l'Estat de Dret i la protecció del medi ambient contra els efectes nocius dels sistemes d'IA en la Unió i donant suport a la innovació, no pot aconseguir-se prou pels Estats membres i, més aviat, a causa de l'escala o els efectes de l'acció, pot aconseguir-se millor a escala de la Unió, la Unió pot adoptar mesures d'acord amb el principi de subsidiarietat establert en l'article 5 del TUE, aquest Reglament no va més enllà del necessari per a aconseguir aquest objectiu.

(177) A fi de garantir la seguretat jurídica, garantir un període d'adaptació adequat als operadors i evitar la interrupció del mercat, fins i tot assegurant la continuïtat de l'ús dels sistemes d'IA, és convenient que aquest Reglament s'apliqui als sistemes d'IA d'alt risc que s'hagin posat en el mercat o posat en servei abans de la data general d'aplicació dels mateixos, només si, a partir d'aquesta data, aquests sistemes estan subjectes a canvis significatius en el seu disseny o finalitat prevista, i cal aclarir que, en aquest sentit, el concepte de canvi significatiu s'ha d'entendre com a equivalent en substància a la noció de modificació substancial, que s'utilitza únicament en relació amb els sistemes d'IA d'alt risc establerts pels actes jurídics enumerats en un annex d'aquest Reglament i els operadors de sistemes d'IA d'alt risc que estiguin destinats a ser utilitzats per les autoritats públiques, respectivament, han de prendre les mesures necessàries per complir amb els requisits d'aquest Reglament a la fi de 2030 i el 2 d'agost de 2030.

(178) S'anima als proveïdors de sistemes d'intel·ligència artificial d'alt risc a començar a complir, de manera voluntària, amb les obligacions pertinents d'aquest Reglament ja durant el període transitori.

(179) Aquest Reglament hauria d'aplicar-se a partir del 2 d'agost de 2026, però tenint en compte el risc inacceptable associat a l'ús de la IA de certes maneres, les prohibicions i les disposicions generals d'aquest Reglament ja haurien d'aplicar-se a partir del 2 d'agost de 2025, i les infraestructures relacionades amb la governança i el sistema d'avaluació de la conformitat haurien d'aplicar-se a partir del 2 d'agost de 2025, tenint en compte el ràpid ritme dels avenços tecnològics i l'adopció de models d'IA de propòsit general, les obligacions dels proveïdors de models d'IA haurien d'estar llestes a partir del 2 d'agost de 2025 per tal de permetre als proveïdors demostrar el seu compliment a temps.A més, els Estats membres haurien d'establir i notificar a la Comissió les normes sobre sancions, incloses les sancions administratives, i garantir que s'apliquin de manera adequada i efectiva a partir de la data d'aplicació d'aquest Reglament.

(180) El Supervisor Europeu de Protecció de Dades i el Consell Europeu de Protecció de Dades van ser consultats d'acord amb els articles 42(1) i (2) del Reglament (UE) 2018/1725 i van emetre el seu dictamen conjunt el 18 de juny de 2021,

Article 1

L'objectiu d'aquest Reglament és millorar el funcionament del mercat interior i promoure l'adquisició d'intel·ligència artificial centrada en l'ésser humà i de confiança (IA), garantint al mateix temps un alt nivell de protecció de la salut, la seguretat, els drets fonamentals consagrats en la Carta, inclosa la democràcia, l'Estat de Dret i la protecció del medi ambient, contra els efectes nocius dels sistemes d'IA en la Unió i donant suport a la innovació.

Aquest Reglament estableix: (a) normes harmonitzades per a la comercialització, la posada en servei i l'ús de sistemes d'intel·ligència artificial en la Unió; (b) prohibicions de determinades pràctiques d'intel·ligència artificial; (c) requisits específics per a sistemes d'intel·ligència artificial d'alt risc i obligacions per als operadors d'aquests sistemes;(d) normes harmonitzades de transparència per a determinats sistemes d'intel·ligència artificial;(e) normes harmonitzades per a la comercialització de models d'intel·ligència artificial d'ús general;(f) normes sobre el control del mercat, la vigilància del mercat, la governança i l'aplicació;(g) mesures per a donar suport a la innovació, amb especial atenció a les PIME, incloses les empreses emergents.

L'objectiu d'aquest Reglament és millorar el funcionament del mercat interior i promoure l'ús d'intel·ligència artificial centrada en l'ésser humà i de confiança (IA), garantint al mateix temps un alt nivell de protecció de la salut, la seguretat, els drets fonamentals consagrats en la Carta, inclosa la democràcia, l'Estat de Dret i la protecció del medi ambient, contra els efectes nocius dels sistemes d'IA en la Unió i donant suport a la innovació.

2. Aquest Reglament estableix:(a) normes harmonitzades per a la comercialització, la posada en servei i l'ús de sistemes d'IA en la Unió;(b) prohibicions de determinades pràctiques d'IA;(c) requisits específics per a sistemes d'IA d'alt risc i obligacions per als operadors d'aquests sistemes;(d) normes harmonitzades de transparència per a determinats sistemes d'IA;(e) normes harmonitzades per a la comercialització de models d'IA d'ús general;(f) normes per a la supervisió del mercat, la vigilància del mercat, la governança i l'aplicació;(g) mesures per a donar suport a la innovació, amb especial atenció a les PIME, incloses les empreses emergents.

Article 2

Aquest Reglament s'aplica a: (a) proveïdors que comercialitzin o posin en servei sistemes d'IA o col·loquin en el mercat models d'IA de propòsit general a la Unió, independentment de si aquests proveïdors estan establerts o localitzats dins de la Unió; (b) proveïdors i desplegadors de sistemes d'IA que tinguin el seu lloc d'establiment o es trobin dins de la Unió;(d) importadors i distribuïdors de sistemes d'IA;(e) fabricants de productes que comercialitzin o posin en servei un sistema d'IA juntament amb el seu producte i sota el seu propi nom o marca;(f) representants autoritzats de proveïdors, que no estiguin establerts a la Unió;(g) persones afectades que es trobin a la Unió.

Per als sistemes d'IA classificats com a sistemes d'IA d'alt risc d'acord amb l'apartat 1 de l'article 6 relatiu als productes inclosos en la legislació d'harmonització de la Unió que figura en la secció B de l'Annex I, només s'apliquen l'apartat 1 de l'article 6, els articles 102 a 109 i l'article 112, i l'article 57 només s'aplica en la mesura en què els requisits per als sistemes d'IA d'alt risc d'acord amb aquest Reglament s'hagin integrat en aquesta legislació d'harmonització de la Unió.

Aquest Reglament no s'aplica a àmbits fora de l'àmbit d'aplicació del Dret de la Unió, i no afectarà, en cap cas, a les competències dels Estats membres en matèria de seguretat nacional, independentment del tipus d'entitat que els Estats membres confiïn per a dur a terme tasques en relació amb aquestes competències.

Aquest Reglament no s'aplica als sistemes d'IA on i fins ara es comercialitzen, es posen en servei, o s'utilitzen amb o sense modificació exclusivament amb finalitats militars, de defensa o de seguretat nacional, independentment del tipus d'entitat que realitzi aquestes activitats.

Aquest Reglament no s'aplica als sistemes d'IA que no es comercialitzen ni es posen en servei en la Unió, on la producció s'utilitza en la Unió exclusivament amb finalitats militars, de defensa o de seguretat nacional, independentment del tipus d'entitat que dugui a terme aquestes activitats.

Aquest Reglament no s'aplica ni a les autoritats públiques d'un tercer país ni a les organitzacions internacionals que entren dins de l'àmbit d'aplicació d'aquest Reglament, de conformitat amb l'apartat 1, en el qual aquestes autoritats o organitzacions utilitzen sistemes d'IA en el marc de la cooperació internacional o els acords per a l'aplicació de la llei i la cooperació judicial amb la Unió o amb un o més Estats membres, sempre que aquest tercer país o organització internacional proporcioni garanties adequades respecte a la protecció dels drets i llibertats fonamentals de les persones.

Aquest Reglament no afectarà l'aplicació de les disposicions sobre la responsabilitat dels prestadors de serveis d'intermediació establertes en el capítol II del Reglament (UE) 2022/2065.

Aquest Reglament no s'aplica als sistemes d'IA o models d'IA, incloent la seva producció, específicament desenvolupats i posats en servei amb l'únic propòsit de la investigació i el desenvolupament científic.

El present Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es deroga la Directiva 95/46/CE (Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades).

Aquest Reglament no s'aplica a cap activitat de recerca, assaig o desenvolupament sobre sistemes d'IA o models d'IA abans de la seva comercialització o posada en servei. Aquestes activitats es duran a terme d'acord amb el dret de la Unió aplicable. Els assajos en condicions del món real no estaran coberts per aquesta exclusió.

Aquest Reglament no perjudica les normes establertes per altres actes jurídics de la Unió relacionats amb la protecció del consumidor i la seguretat dels productes.

Aquest Reglament no s'aplica a les obligacions dels desplegadors que són persones físiques que utilitzen sistemes d'IA en el curs d'una activitat purament personal no professional.

Aquest Reglament no impedeix que la Unió o els Estats membres mantinguin o introdueixin lleis, reglaments o disposicions administratives que siguin més favorables per als treballadors pel que fa a la protecció dels seus drets respecte a l'ús de sistemes d'IA per part dels empresaris, ni que fomentin o permetin l'aplicació de convenis col·lectius que siguin més favorables per als treballadors.

Aquest Reglament no s'aplica als sistemes d'IA alliberats sota llicències lliures i de codi obert, llevat que es comercialitzin o es posin en servei com a sistemes d'IA d'alt risc o com a sistema d'IA que s'ajusti a l'article 5 o 50.

Aquest Reglament s'aplica a:(a) proveïdors que comercialitzen o posen en servei sistemes d'IA o comercialitzen models d'IA de propòsit general a la Unió, independentment de si aquests proveïdors estan establerts o localitzats dins de la Unió;(b) proveïdors i desplegadors de sistemes d'IA que tinguin el seu lloc d'establiment o estiguin situats dins de la Unió;(d) importadors i distribuïdors de sistemes d'IA;(e) fabricants de productes que comercialitzen o posen en servei un sistema d'IA juntament amb el seu producte i sota el seu propi nom o marca;(f) representants autoritzats de proveïdors, que no estan establerts a la Unió;(g) persones afectades que es troben a la Unió.

En el cas dels sistemes d'IA classificats com a sistemes d'IA d'alt risc d'acord amb l'apartat 1 de l'article 6 relatiu als productes inclosos en la legislació d'harmonització de la Unió que figura en la secció B de l'Annex I, només s'apliquen l'apartat 1 de l'article 6, els articles 102 a 109 i l'article 112, i l'article 57 només s'aplica en la mesura en què els requisits per als sistemes d'IA d'alt risc d'acord amb aquest Reglament s'hagin integrat en aquesta legislació d'harmonització de la Unió.

Aquest Reglament no s'aplica a àmbits fora de l'àmbit del Dret de la Unió, i no afectarà, en cap cas, a les competències dels Estats membres en matèria de seguretat nacional, amb independència del tipus d'entitat a la qual els Estats membres confiïn per a dur a terme tasques en relació amb aquestes competències.

Aquest Reglament no s'aplica ni a les autoritats públiques d'un tercer país ni a les organitzacions internacionals que entren en l'àmbit d'aplicació d'aquest Reglament, de conformitat amb l'apartat 1, en el qual aquestes autoritats o organitzacions utilitzen sistemes d'IA en el marc de la cooperació internacional o els acords per a l'aplicació de la llei i la cooperació judicial amb la Unió o amb un o més Estats membres, sempre que aquest tercer país o organització internacional proporcioni garanties adequades respecte a la protecció dels drets i llibertats fonamentals de les persones.

El present Reglament no afectarà l'aplicació de les disposicions sobre la responsabilitat dels prestadors de serveis d'intermediació establertes en el Capítol II del Reglament (UE) 2022/2065.

6. Aquest Reglament no s'aplica als sistemes d'IA o models d'IA, incloent-hi la seva producció, específicament desenvolupats i posats en servei amb l'únic propòsit de la investigació i el desenvolupament científic.

El present Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es DEROGA la Directiva 95/46/CE, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es DEROGA la Directiva 95/46/CE.

8. Aquest Reglament no s'aplica a cap activitat de recerca, assaig o desenvolupament sobre sistemes d'IA o models d'IA abans de la seva comercialització o posada en servei. Aquestes activitats es duran a terme d'acord amb el dret de la Unió aplicable. Els assajos en condicions del món real no estaran coberts per aquesta exclusió.

Aquest Reglament no perjudica les normes establertes per altres actes jurídics de la Unió relacionats amb la protecció del consumidor i la seguretat dels productes.

10. Aquest Reglament no s'aplica a les obligacions dels desplegadors que són persones físiques que utilitzen sistemes d'IA en el curs d'una activitat purament personal no professional.

11. Aquest Reglament no impedeix que la Unió o els Estats membres mantinguin o introdueixin lleis, reglaments o disposicions administratives més favorables per als treballadors quant a la protecció dels seus drets en relació amb l'ús de sistemes d'IA per part dels empresaris, ni que fomentin o permetin l'aplicació de convenis col·lectius més favorables per als treballadors.

12. Aquest Reglament no s'aplica als sistemes d'IA alliberats sota llicències lliures i de codi obert, llevat que es comercialitzin o es posin en servei com a sistemes d'IA d'alt risc o com a sistema d'IA que es regeixi per l'article 5 o 50.

Article 3

A l'efecte d'aquest Reglament, s'apliquen les següents definicions: (1) "sistema AI" significa un sistema basat en màquines que està dissenyat per operar amb diferents nivells d'autonomia i que pot mostrar adaptivitat després del seu desplegament; (2) "proveïdor" significa una persona física o jurídica, autoritat pública, agència o un altre organisme que desenvolupa un sistema AI o un model AI d'ús general, excepte el proveïdor o l'importador, que posa a disposició un sistema AI o un model AI d'ús general en el mercat;(10) "substitució al mercat" significa l'ús d'un sistema AI d'ús directe o gratuït;(13) "instruccions d'ús" significa l'ús d'un sistema AI d'una manera raonablement previsible o ús adequat dels sistemes AI;(16) "renúncia d'un sistema AI" significa el procés de demostrar si els requisits establerts en el capítol III, secció 2 relativa a un sistema d'avaluació de conformitat d'alt risc;(22) "organisme d'avaluació de conformitat" significa un canvi a un sistema d'IA d'acord amb aquest Reglament i amb una altra legislació d'harmonització de la Unió.

Article 4

Els proveïdors i desplegadors de sistemes d'IA han de prendre mesures per garantir, en la seva millor mesura, un nivell suficient d'alfabetització en intel·ligència artificial del seu personal i altres persones que s'ocupen del funcionament i l'ús dels sistemes d'intel·ligència artificial en el seu nom, tenint en compte els seus coneixements tècnics, experiència, educació i formació i el context en què s'han d'utilitzar els sistemes d'intel·ligència artificial, i tenint en compte les persones o grups de persones sobre els quals s'han d'utilitzar els sistemes d'intel·ligència artificial.

Article 5

Les següents pràctiques d'intel·ligència artificial estan prohibides: (a) la posada en el mercat, la posada en servei o l'ús d'un sistema d'intel·ligència artificial que distorsioni de manera significativa el comportament d'una persona o d'un grup de persones, amb l'objectiu, o l'efecte, de distorsionar materialment el comportament d'una persona o d'un grup específic de persones, amb l'objectiu, o amb l'efecte, de distorsionar materialment el comportament d'una persona o d'un grup específic de persones, amb l'objectiu, o amb l'efecte de distorsionar materialment el comportament d'una persona o d'un grup específic de persones, amb l'objectiu, o amb l'efecte de distorsionar materialment el comportament d'una persona o d'un grup específic de persones, amb l'objectiu, o amb l'ús d'un sistema d'intel·ligència artificial per avaluar o predir els trets i característiques de la personalitat d'una persona física, amb la finalitat d'avaluar o predir els trets i les característiques de la personalitat d'una persona física, o amb l'ús de sistemes d'intel·ligència artificial que creïn o ampliïn les seves bases de dades de reconeixement facial per motius mèdics o de seguretat, o amb l'ús de sistemes de categorització biomètrica que classifiquin individualment les persones físiques en funció de les seves creences religioses o filosòfiques, la vida sexual o l'orientació sexual; (h) l'ús de sistemes d'identificació biomètrica remots en l'àmbit de l'aplicació de la llei.

L'article 9 del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades.

L'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic a l'efecte de l'aplicació de la llei per a qualsevol dels objectius esmentats en el paràgraf 1, primer paràgraf, punt (h), es desplegarà per als fins assenyalats en aquest punt només per confirmar la identitat de l'individu específicament dirigit, i tindrà en compte els següents elements:(a) la naturalesa de la situació que dona lloc al possible ús, en particular la gravetat, probabilitat i escala del dany que es produiria si el sistema no fos utilitzat;(b) les conseqüències de l'ús del sistema per als drets i llibertats de totes les persones interessades, en particular la gravetat, probabilitat i escala d'aquestes conseqüències.

A més, l'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic a l'efecte de l'aplicació de la llei per a qualsevol dels objectius a què fa referència l'apartat 1, primer paràgraf, punt (h), d'aquest article ha de complir amb les garanties i condicions necessàries i proporcionades en relació amb l'ús d'aquests sistemes, en particular pel que fa a les limitacions temporals, geogràfiques i personals. L'ús del sistema d'identificació biomètrica remota "en temps real" en espais d'accés públic només s'autoritzarà si l'autoritat policial ha completat una avaluació d'impacte de drets fonamentals segons l'article 27 i ha registrat el sistema a la base de dades de la UE d'acord amb l'article 49.

A l'efecte de l'apartat 1, primer paràgraf, punt (h) i paràgraf 2, cada ús amb finalitats d'aplicació de la llei d'un sistema d'identificació biomètrica remota "en temps real" en espais d'accés públic estarà subjecte a una autorització prèvia atorgada per una autoritat judicial o una autoritat administrativa independent la decisió de la qual sigui vinculant de l'Estat membre en el qual s'hagi de realitzar l'ús, emesa sota una sol·licitud raonada i d'acord amb les normes detallades de la legislació nacional a què es refereix l'apartat 5, però, en una situació d'urgència degudament justificada, l'ús d'aquest sistema es podrà iniciar sense cap tipus d'autorització, com a més tard en un termini de 24 hores. Si es rebutja aquesta autorització, l'ús es detindrà amb efecte immediat i totes les dades, així com els resultats i sortides d'aquest ús es descartaran i eliminaran immediatament.

L'autoritat judicial competent o una autoritat administrativa independent la decisió de la qual sigui vinculant concedirà l'autorització només si es compleix, sobre la base de proves objectives o indicacions clares que se li presentin, que l'ús del sistema d'identificació biomètrica remota "en temps real" en qüestió és necessari, i proporcionalment, per a la consecució d'un dels objectius especificats en el paràgraf 1, primer paràgraf, punt (h), tal com s'identifica en la sol·licitud i, en particular, es limita al que és estrictament necessari pel que fa al període de temps, així com a l'àmbit geogràfic i personal.

Sense perjudici de l'apartat 3, cada ús d'un sistema d'identificació biomètrica remota "en temps real" en espais d'accés públic amb finalitats policials es notificarà a l'autoritat de vigilància del mercat pertinent i a l'autoritat nacional de protecció de dades d'acord amb les normes nacionals a què es refereix l'apartat 5. La notificació, com a mínim, contindrà la informació especificada en l'apartat 6 i no inclourà dades operatives sensibles.

Els Estats membres poden decidir la possibilitat d'autoritzar totalment o parcialment l'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic a l'efecte de l'aplicació de la llei dins dels límits i sota les condicions enumerades en l'apartat 1, primer paràgraf, punt (h) i els paràgrafs 2 i 3. Els Estats membres afectats establiran en la seva legislació nacional les normes detallades necessàries per a la sol·licitud, emissió i presentació d'informes relatius a les autoritzacions a què es refereix l'apartat 3. Aquestes normes també especificaran quins dels objectius enumerats en l'apartat 1, primer paràgraf, punt (h), inclòs quin dels delictes esmentats en el punt (iii) d'aquests, les autoritats competents podran notificar a la Comissió com a més tard 30 dies després de l'adopció d'aquests sistemes. Els Estats membres poden introduir, de conformitat amb el dret de la Unió, lleis més restrictives sobre l'ús de sistemes d'identificació biomètrica remota.

Les autoritats nacionals de vigilància del mercat i les autoritats nacionals de protecció de dades dels Estats membres que hagin estat notificades de l'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic per a fins policials de conformitat amb l'apartat 4 sotmetran a la Comissió informes anuals sobre aquest ús, amb la finalitat de proporcionar als Estats membres i a les autoritats nacionals de vigilància del mercat i de protecció de dades una plantilla, inclosa la informació sobre el nombre de decisions adoptades per les autoritats judicials competents o una autoritat administrativa independent la decisió de la qual sigui vinculant per a les sol·licituds d'autoritzacions d'acord amb l'apartat 3 i el seu resultat.

La Comissió publicarà informes anuals sobre l'ús de sistemes d'identificació biomètrica remota en temps real en espais d'accés públic per a fins policials, basats en dades agregades en els Estats membres sobre la base dels informes anuals esmentats en l'apartat 6. Aquests informes anuals no inclouran dades operatives sensibles de les activitats relacionades amb l'aplicació de la llei.

Aquest article no afectarà les prohibicions que s'apliquin quan una pràctica d'intel·ligència artificial infringeixi altres lleis de la Unió.

Les següents pràctiques d'IA estaran prohibides:(a) la posada en el mercat, la posada en servei o l'ús d'un sistema d'IA que deteriori materialment el comportament d'una persona o d'un grup de persones que causi danys significatius;(b) la posada en el mercat d'una persona o d'un grup de persones que pertanyin a aquest grup o que causi danys significatius;(c) la posada en el mercat d'una persona o d'un grup de persones que pertanyin a aquest grup o que causi danys significatius;(c) la posada en el mercat, la posada en servei d'una persona física o les seves característiques, o l'ús de sistemes d'IA que creïn o ampliïn les seves bases de dades de reconeixement facial per motius mèdics o de seguretat;(f) la posada en el mercat, la posada en servei per a aquesta finalitat específica, o l'ús de sistemes de categorització biomètrica per a deduir o filtrar dades biomètriques legalment adquirides en espais d'aplicació de la llei;(h) l'ús de sistemes d'identificació biomètrica remots en temps real per a un dels següents objectius:(f) la posada en servei d'una persona física per a aquesta finalitat específica;(f) la posada en el mercat, la posada en servei per a aquesta finalitat específica;(f) la posada en el mercat, la posada en servei per a aquesta finalitat específica;(f) la posada en el mercat, la posada en servei per a aquesta finalitat específica;(f) la posada en el mercat, la posada en servei per a aquesta finalitat específica;(h) l'ús de sistemes d'identificació biomètrica remots en temps real per a una de les finalitats següents:

2. L'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic a l'efecte de l'aplicació de la llei per a qualsevol dels objectius esmentats en el paràgraf 1, primer paràgraf, punt (h), es desplegarà per als fins assenyalats en aquest punt només per confirmar la identitat de l'individu específicament destinat, i tindrà en compte els següents elements:(a) la naturalesa de la situació que dona lloc al possible ús, en particular la gravetat, probabilitat i escala del dany que es produiria si el sistema no fos utilitzat;(b) les conseqüències de l'ús del sistema per als drets i llibertats de totes les persones interessades, en particular la gravetat, probabilitat i escala d'aquestes conseqüències.

3. A l'efecte de l'apartat 1, primer paràgraf, punt (h) i paràgraf 2, cada ús amb finalitats d'aplicació de la llei d'un sistema d'identificació biomètrica remota "en temps real" en espais d'accés públic estarà subjecte a una autorització prèvia atorgada per una autoritat judicial o una autoritat administrativa independent la decisió de la qual sigui vinculant de l'Estat membre en el qual es produeixi l'ús, emesa sota una sol·licitud raonada i d'acord amb les normes detallades de la legislació nacional a què es refereix l'apartat 5. No obstant això, en una situació d'urgència degudament justificada, l'ús d'aquest sistema es podrà iniciar sense cap tipus d'autorització, com a més tard en un termini de 24 hores. Si es rebutja aquesta autorització, l'ús es detindrà amb efecte immediat i totes les dades, així com els resultats i sortides d'aquest ús seran descartats i eliminats immediatament.

4. Sense perjudici de l'apartat 3, cada ús d'un sistema d'identificació biomètrica remota "en temps real" en espais d'accés públic amb finalitats policials es notificarà a l'autoritat de vigilància del mercat pertinent i a l'autoritat nacional de protecció de dades d'acord amb les normes nacionals a què es refereix l'apartat 5. La notificació, com a mínim, contindrà la informació especificada en l'apartat 6 i no inclourà dades operatives sensibles.

L'Estat membre pot decidir la possibilitat d'autoritzar totalment o parcialment l'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic a l'efecte de l'aplicació de la llei dins dels límits i sota les condicions enumerades en l'apartat 1, primer paràgraf, punt (h) i els paràgrafs 2 i 3. Els Estats membres afectats establiran en la seva legislació nacional les normes detallades necessàries per a la sol·licitud, emissió i presentació d'informes relatius a les autoritzacions a què es refereix l'apartat 3. Aquestes normes també especificaran quins dels objectius enumerats en l'apartat 1, primer paràgraf, punt (h) (iii) d'aquestes, i els Estats membres podran notificar aquestes normes a la Comissió com a més tard 30 dies després de l'adopció d'aquestes.

Les autoritats nacionals de vigilància del mercat i les autoritats nacionals de protecció de dades dels Estats membres que hagin estat notificades de l'ús de sistemes d'identificació biomètrica remota "en temps real" en espais d'accés públic per a fins policials de conformitat amb l'apartat 4 sotmetran a la Comissió informes anuals sobre aquest ús, amb la finalitat de proporcionar als Estats membres i a les autoritats nacionals de vigilància del mercat i protecció de dades una plantilla, inclosa la informació sobre el nombre de decisions adoptades per les autoritats judicials competents o una autoritat administrativa independent la decisió de la qual sigui vinculant per a les sol·licituds d'autoritzacions d'acord amb l'apartat 3 i el seu resultat.

8. Aquest article no afectarà les prohibicions que s'apliquin quan una pràctica d'intel·ligència artificial infringeixi altres lleis de la Unió.

Article 6

Independentment de si un sistema d'IA es comercialitza o es posa en servei independentment dels productes esmentats en els punts (a) i (b), aquest sistema d'IA es considerarà d'alt risc quan es compleixin les dues condicions següents: (a) el sistema d'IA està destinat a ser utilitzat com a component de seguretat d'un producte, o el sistema d'IA és en si mateix un producte, cobert per la legislació d'harmonització de la Unió enumerada en l'Annex I; (b) el producte el component de seguretat del qual conformement al punt (a) és el sistema d'IA, o el propi sistema d'IA com a producte, està obligat a sotmetre's a una avaluació de conformitat de tercers, amb vista a la comercialització o la posada en servei d'aquest producte de conformitat amb la legislació d'harmonització de la Unió enumerada en l'Annex I.

A més dels sistemes d'IA d'alt risc esmentats en l'apartat 1, els sistemes d'IA esmentats en l'Annex III es consideraran d'alt risc.

Per derogació de l'apartat 2, un sistema d'IA a què fa referència l'Annex III no es considerarà d'alt risc quan no suposi un risc significatiu de danyar la salut, la seguretat o els drets fonamentals de les persones físiques, fins i tot per no influir materialment en el resultat de la presa de decisions.

El primer subapartat s'aplicarà quan es compleixi alguna de les següents condicions:(a) el sistema d'IA està destinat a realitzar una tasca procedimental estreta;(b) el sistema d'IA està destinat a millorar el resultat d'una activitat humana prèviament completada;(c) el sistema d'IA està destinat a detectar patrons de presa de decisions o desviacions dels patrons de presa de decisions anteriors i no està destinat a reemplaçar o influir en l'avaluació humana prèviament completada, sense una revisió humana adequada; o(d) el sistema d'IA està destinat a realitzar una tasca preparatòria a una avaluació rellevant per als fins dels casos d'ús enumerats en l'Annex III.

Malgrat el primer subapartat, un sistema d'IA a què fa referència l'Annex III sempre es considerarà d'alt risc quan el sistema d'IA realitzi perfils de persones físiques.

Un proveïdor que consideri que un sistema d'intel·ligència artificial a què fa referència l'Annex III no és d'alt risc documentarà la seva avaluació abans que aquest sistema es posi en el mercat o es posi en servei. Aquest proveïdor estarà subjecte a l'obligació de registre establerta en l'apartat 2 de l'article 49.

La Comissió, després de consultar amb el Consell Europeu d'Intel·ligència Artificial (el "Board"), i no més tard del 2 de febrer de 2026, proporcionarà directrius que especifiquin l'aplicació pràctica d'aquest article d'acord amb l'article 96, juntament amb una àmplia llista d'exemples pràctics de casos d'ús de sistemes d'intel·ligència artificial d'alt risc i no d'alt risc.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar l'apartat 3, segon paràgraf, d'aquest article afegint noves condicions a les previstes en ell, o modificant-les, quan existeixin proves concretes i fiables de l'existència de sistemes d'IA que entren en l'àmbit d'aplicació de l'Annex III, però que no suposin un risc significatiu de perjudici per a la salut, la seguretat o els drets fonamentals de les persones físiques.

La Comissió adoptarà actes delegats de conformitat amb l'article 97 per a modificar l'apartat 3, segon paràgraf, d'aquest article suprimint qualsevol de les condicions previstes en aquest, quan hi hagi proves concretes i fiables que això sigui necessari per a mantenir el nivell de protecció de la salut, la seguretat i els drets fonamentals previst en aquest Reglament.

Qualsevol modificació de les condicions previstes en l'apartat 3, segon paràgraf, aprovat de conformitat amb els apartats 6 i 7 d'aquest article no reduirà el nivell general de protecció de la salut, la seguretat i els drets fonamentals previst en aquest Reglament i garantirà la coherència amb els actes delegats adoptats de conformitat amb l'apartat 1 de l'article 7, i tindrà en compte el mercat i l'evolució tecnològica.

1. Independentment de si un sistema d'IA es comercialitza o es posa en servei independentment dels productes esmentats en els punts (a) i (b), el sistema d'IA es considerarà d'alt risc quan es compleixin les dues condicions següents: (a) el sistema d'IA està destinat a ser utilitzat com a component de seguretat d'un producte, o el sistema d'IA està cobert per la legislació d'harmonització de la Unió llistada en l'Annex I; (b) el producte el component de seguretat del qual conformement al punt (a) és el sistema d'IA, o el propi sistema d'IA com a producte, està obligat a sotmetre's a una avaluació de conformitat de tercers, amb vista a la comercialització o la posada en servei d'aquest producte de conformitat amb la legislació d'harmonització de la Unió enumerada en l'Annex I.

A més dels sistemes d'IA d'alt risc esmentats en l'apartat 1, els sistemes d'IA esmentats en l'Annex III es consideraran d'alt risc.

3. Per derogació de l'apartat 2, un sistema d'IA a què fa referència l'Annex III no es considerarà d'alt risc quan no suposi un risc significatiu de danyar la salut, la seguretat o els drets fonamentals de les persones físiques, fins i tot per no influir materialment en el resultat de la presa de decisions.

4. Un proveïdor que consideri que un sistema d'intel·ligència artificial a què fa referència l'Annex III no és d'alt risc documentarà la seva avaluació abans que aquest sistema es posi en el mercat o es posi en servei. Aquest proveïdor estarà subjecte a l'obligació de registre establerta en l'apartat 2 de l'article 49.

La Comissió, després de consultar amb el Consell Europeu d'Intel·ligència Artificial (el "Board"), i no més tard del 2 de febrer de 2026, proporcionarà directrius que especifiquin l'aplicació pràctica d'aquest article d'acord amb l'article 96, juntament amb una llista completa d'exemples pràctics de casos d'ús de sistemes d'intel·ligència artificial d'alt risc i no d'alt risc.

7. La Comissió adoptarà actes delegats de conformitat amb l'article 97 per a modificar l'apartat 3, segon paràgraf, d'aquest article suprimint qualsevol de les condicions previstes en aquest, quan hi hagi proves concretes i fiables que això sigui necessari per a mantenir el nivell de protecció de la salut, la seguretat i els drets fonamentals previst en aquest Reglament.

8. Qualsevol modificació de les condicions previstes en l'apartat 3, segon paràgraf, aprovat de conformitat amb els apartats 6 i 7 d'aquest article no reduirà el nivell general de protecció de la salut, la seguretat i els drets fonamentals previst en aquest Reglament i garantirà la coherència amb els actes delegats adoptats de conformitat amb l'apartat 1 de l'article 7, i tindrà en compte el mercat i l'evolució tecnològica.

Article 7

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 per a modificar l'Annex III afegint o modificant casos d'ús de sistemes d'IA d'alt risc en els quals es compleixin les dues condicions següents:(a) els sistemes d'IA estan destinats a ser utilitzats en qualsevol de les àrees enumerades en l'Annex III;(b) els sistemes d'IA suposen un risc de dany per a la salut i la seguretat, o un impacte advers en els drets fonamentals, i aquest risc equival o és major que el risc de dany o d'impacte advers plantejat pels sistemes d'IA d'alt risc ja esmentats en l'Annex III.

En avaluar la condició de l'apartat 1, punt (b), la Comissió ha de tenir en compte els següents criteris:(a) la finalitat prevista del sistema d'IA;(b) la naturalesa i la quantitat de les dades tractades i utilitzades pel sistema d'IA, en particular si es tracten categories especials de dades personals;(e) la mesura en què l'ús d'un sistema d'IA ja hagi causat danys en la salut o en la seguretat;(f) l'abast potencial d'aquest dany o d'aquest impacte advers, en particular pel que fa a la intensitat i la capacitat d'aquest dany o impacte advers, en particular pel que fa al resultat produït amb un sistema d'IA o a l'edat;(h) la mesura en què el resultat produït amb un sistema d'IA sigui fàcilment corrigible o reversible, tenint en compte les solucions tècniques disponibles per corregir-lo o revertir-lo, i(j) la magnitud i probabilitat de benefici del desplegament del sistema d'IA per a persones, grups o societat en general, incloent possibles millores en la seguretat del producte;(k) la mesura en què el dret de la Unió existent preveu:

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 per a modificar la llista de l'Annex III eliminant els sistemes d'IA d'alt risc quan es compleixin les dues condicions següents:(a) el sistema d'IA d'alt risc en qüestió ja no planteja cap risc significatiu per als drets fonamentals, la salut o la seguretat, tenint en compte els criteris enumerats en l'apartat 2;(b) la supressió no disminueix el nivell general de protecció de la salut, la seguretat i els drets fonamentals conformement al Dret de la Unió.

1. La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 per a modificar l'Annex III afegint o modificant casos d'ús de sistemes d'IA d'alt risc en els quals es compleixin les dues condicions següents:(a) els sistemes d'IA estan destinats a ser utilitzats en qualsevol de les àrees enumerades en l'Annex III;(b) els sistemes d'IA suposen un risc de dany per a la salut i la seguretat, o un impacte advers en els drets fonamentals, i aquest risc equival o és major que el risc de dany o d'impacte advers plantejat pels sistemes d'IA d'alt risc ja esmentats en l'Annex III.

2. En avaluar la condició en virtut de l'apartat 1, punt (b), la Comissió tindrà en compte els següents criteris:(a) la finalitat prevista del sistema d'IA;(b) la naturalesa i quantitat de les dades tractades i utilitzades pel sistema d'IA, en particular si es tracten categories especials de dades personals;(e) la mesura en què l'ús d'un sistema d'IA ja hagi causat un dany o un impacte advers;(f) l'abast potencial d'aquest dany o d'aquest impacte advers, en particular pel que fa a la seva intensitat i capacitat d'afectar múltiples persones o afectar de manera desproporcionada a un determinat grup de persones;(h) la mesura en què el resultat produït per un sistema d'IA és fàcilment corrigible o reversible, tenint en compte les solucions tècniques disponibles per corregir o revertir el sistema d'IA, i(j) la magnitud i probabilitat de benefici del desplegament del sistema d'IA per a persones, grups o societat en general;(k) la mesura en què el dret de la Unió existent preveu:

3. La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 per a modificar la llista de l'Annex III eliminant els sistemes d'IA d'alt risc quan es compleixin les dues condicions següents:(a) el sistema d'IA d'alt risc en qüestió ja no suposa cap risc significatiu per als drets fonamentals, la salut o la seguretat, tenint en compte els criteris enumerats en l'apartat 2;(b) la supressió no disminueix el nivell general de protecció de la salut, la seguretat i els drets fonamentals conformement al Dret de la Unió.

Article 8

Els sistemes d'intel·ligència artificial d'alt risc compleixen amb els requisits establerts en aquesta secció, tenint en compte la seva finalitat, així com l'estat de la tècnica generalment reconeguda en tecnologies relacionades amb la IA i la IA, tenint en compte el sistema de gestió de riscos a què fa referència l'article 9 a l'hora de garantir el compliment d'aquests requisits.

Si un producte conté un sistema d'IA, al qual s'apliquen els requisits d'aquest Reglament, així com els requisits de la legislació d'harmonització de la Unió enumerats en la secció A de l'Annex I, els proveïdors seran responsables d'assegurar que el seu producte compleix plenament tots els requisits aplicables en virtut de la legislació d'harmonització de la Unió aplicable, i per a garantir el compliment dels sistemes d'IA d'alt risc contemplats en l'apartat 1 amb els requisits establerts en aquesta secció, i per a garantir la coherència, evitar la duplicació i minimitzar les càrregues addicionals, els proveïdors tindran l'opció d'integrar, si escau, els processos de proves i informes necessaris, informació i documentació que proporcionen respecte al seu producte en la documentació i procediments que ja existeixen i que són requerits per la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I.

Els sistemes d'intel·ligència artificial d'alt risc compleixen amb els requisits establerts en aquest apartat, tenint en compte la seva finalitat, així com l'estat de la tècnica generalment reconeguda en tecnologies relacionades amb la intel·ligència artificial i la intel·ligència artificial. El sistema de gestió de riscos a què fa referència l'article 9 es tindrà en compte a l'hora de garantir el compliment d'aquests requisits.

Si un producte conté un sistema d'IA, al qual s'apliquen els requisits d'aquest Reglament, així com els requisits de la legislació d'harmonització de la Unió enumerats en la secció A de l'Annex I, els proveïdors seran responsables d'assegurar que el seu producte compleix plenament tots els requisits aplicables en virtut de la legislació d'harmonització de la Unió aplicable, i de garantir el compliment dels sistemes d'IA d'alt risc contemplats en l'apartat 1 amb els requisits establerts en aquesta secció, i per a garantir la coherència, evitar la duplicació i minimitzar les càrregues addicionals, els proveïdors tindran l'opció d'integrar, segons correspongui, els processos de proves i informes necessaris, la informació i la documentació que proporcionen respecte al seu producte en la documentació i els procediments que ja existeixen i són requerits per la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I.

Article 9

S'establirà, implementarà, documentarà i mantindrà un sistema de gestió de riscos en relació amb els sistemes d'IA d'alt risc.

El sistema de gestió de riscos s'entén com un procés iteratiu continu planificat i executat durant tot el cicle de vida d'un sistema d'intel·ligència artificial d'alt risc, que requereix una revisió i actualització sistemàtica regulars, i que comprèn els següents passos: (a) la identificació i l'anàlisi dels riscos coneguts i raonablement previsibles que el sistema d'intel·ligència artificial d'alt risc pot suposar per a la salut, la seguretat o els drets fonamentals quan el sistema d'intel·ligència artificial d'alt risc s'utilitzi d'acord amb la seva finalitat prevista; (b) l'estimació i avaluació dels riscos que puguin sorgir quan el sistema d'intel·ligència artificial d'alt risc s'utilitzi d'acord amb la seva finalitat, i en condicions de mal ús raonablement previsible; (c) l'avaluació d'altres riscos possiblement sorgits, a partir de l'anàlisi de les dades recollides del sistema de seguiment post-mercat a què es refereix l'article 72; (d) l'adopció de mesures de gestió de riscos adequades i dirigides dissenyades per abordar els riscos identificats d'acord amb el punt (a).

Els riscos esmentats en aquest article només afectaran aquells que puguin ser raonablement mitigats o eliminats mitjançant el desenvolupament o disseny del sistema d'IA d'alt risc, o la provisió d'informació tècnica adequada.

Les mesures de gestió de riscos a què fa referència l'apartat 2, punt (d), han de tenir en compte els efectes i les possibles interaccions resultants de l'aplicació combinada dels requisits establerts en aquest apartat, amb la finalitat de minimitzar els riscos de forma més eficaç, alhora que s'aconsegueix un equilibri adequat en l'aplicació de les mesures per complir aquests requisits.

Les mesures de gestió de riscos a què fa referència l'apartat 2, punt (d), seran tals que es consideri acceptable el risc residual rellevant associat a cada risc, així com el risc residual global dels sistemes d'IA d'alt risc.

En la identificació de les mesures de gestió de riscos més adequades, s'asseguraran les següents:(a) eliminació o reducció de riscos identificats i avaluats de conformitat amb l'apartat 2 en la mesura que sigui tècnicament factible a través d'un disseny i desenvolupament adequats del sistema d'IA d'alt risc;(b) si escau, implementació de mesures adequades de mitigació i control de riscos que no es poden eliminar;(c) subministrament d'informació requerida de conformitat amb l'article 13 i, si escau, formació als desplegadors.

Amb la finalitat d'eliminar o reduir els riscos relacionats amb l'ús del sistema d'intel·ligència artificial d'alt risc, s'han de tenir en compte els coneixements tècnics, l'experiència, l'educació, la formació que ha d'esperar el desplegador i el presumible context en el qual es pretén utilitzar el sistema.

Els sistemes d'intel·ligència artificial d'alt risc s'han de provar amb la finalitat d'identificar les mesures de gestió de riscos més adequades i dirigides, i s'ha de garantir que els sistemes d'intel·ligència artificial d'alt risc es duguin a terme de manera coherent per a la seva finalitat i que compleixin els requisits establerts en aquesta secció.

Els procediments de prova poden incloure proves en condicions del món real d'acord amb l'article 60.

Les proves dels sistemes d'intel·ligència artificial d'alt risc es realitzaran, segons correspongui, en qualsevol moment del procés de desenvolupament i, en tot cas, abans de la seva comercialització o posada en servei, i es realitzaran amb mètriques i llindars probabilístics prèviament definits i adequats a la finalitat prevista del sistema d'intel·ligència artificial d'alt risc.

A l'hora d'implementar el sistema de gestió de riscos previst en els apartats 1 a 7, els proveïdors hauran de tenir en compte si, en vista del seu propòsit previst, el sistema d'IA d'alt risc és probable que tingui un impacte advers en les persones menors de 18 anys i, si escau, en altres grups vulnerables.

Per als proveïdors de sistemes d'intel·ligència artificial d'alt risc que estiguin subjectes a requisits relatius als processos interns de gestió de riscos d'acord amb altres disposicions pertinents del dret de la Unió, els aspectes previstos en els paràgrafs 1 a 9 poden formar part o combinar-se amb els procediments de gestió de riscos establerts d'acord amb aquesta llei.

1. S'establirà, implementarà, documentarà i mantindrà un sistema de gestió de riscos en relació amb els sistemes d'IA d'alt risc.

2. El sistema de gestió de riscos s'entén com un procés iteratiu continu planificat i executat al llarg de tot el cicle de vida d'un sistema d'IA d'alt risc, que requereix una revisió sistemàtica i actualització regular. Comprendrà els següents passos: (a) la identificació i l'anàlisi dels riscos coneguts i raonablement previsibles que el sistema d'IA d'alt risc pot suposar per a la salut, la seguretat o els drets fonamentals quan el sistema d'IA d'alt risc s'utilitzi d'acord amb la seva finalitat prevista; (b) l'estimació i avaluació dels riscos que puguin sorgir quan el sistema d'IA d'alt risc s'utilitzi d'acord amb la seva finalitat raonablement previsible; (c) l'avaluació d'altres riscos possiblement sorgits, a partir de l'anàlisi de les dades recollides del sistema de seguiment post-mercat a què es refereix l'article 72; (d) l'adopció de mesures de gestió de riscos adequades i dirigides dissenyades per abordar els riscos identificats d'acord amb el punt (a).

4. Les mesures de gestió de riscos a què fa referència l'apartat 2, punt (d), han de tenir en compte els efectes i les possibles interaccions derivades de l'aplicació combinada dels requisits establerts en aquest apartat, amb la finalitat de minimitzar els riscos de forma més eficaç, alhora que s'aconsegueix un equilibri adequat en l'aplicació de les mesures per complir aquests requisits.

6. Els sistemes d'intel·ligència artificial d'alt risc s'han de provar amb la finalitat d'identificar les mesures de gestió de riscos més adequades i dirigides. La prova ha de garantir que els sistemes d'intel·ligència artificial d'alt risc funcionin de manera coherent per a la seva finalitat i que compleixin els requisits establerts en aquesta secció.

Els procediments de prova poden incloure proves en condicions del món real d'acord amb l'article 60.

8. Les proves dels sistemes d'IA d'alt risc es realitzaran, segons correspongui, en qualsevol moment durant tot el procés de desenvolupament i, en tot cas, abans de la seva comercialització o posada en servei. Les proves es realitzaran amb mètriques prèvies definides i llindars probabilístics adequats a la finalitat prevista del sistema d'IA d'alt risc.

9. Quan s'apliqui el sistema de gestió de riscos previst en els apartats 1 a 7, els proveïdors hauran de tenir en compte si, en vista de la seva finalitat prevista, és probable que el sistema d'IA d'alt risc tingui un impacte advers en les persones menors de 18 anys i, si escau, en altres grups vulnerables.

10. Per als proveïdors de sistemes d'intel·ligència artificial d'alt risc que estiguin subjectes a requisits relatius als processos interns de gestió de riscos d'acord amb altres disposicions pertinents del dret de la Unió, els aspectes previstos en els paràgrafs 1 a 9 poden formar part o combinar-se amb els procediments de gestió de riscos establerts d'acord amb aquesta llei.

Article 10

Els sistemes d'IA d'alt risc que facin ús de tècniques d'entrenament de models d'IA amb dades es desenvoluparan sobre la base de conjunts de dades d'entrenament, validació i proves que compleixin els criteris de qualitat als quals es fa referència en els paràgrafs 2 a 5 quan s'utilitzin aquests conjunts de dades.

La formació, validació i proves de conjunts de dades estarà subjecta a pràctiques de governança i gestió de dades adequades per a la finalitat prevista del sistema d'intel·ligència artificial d'alt risc. Aquestes pràctiques afectaran en particular:(a) els processos de recollida de dades rellevants i l'origen de les dades, i en el cas de les dades personals, la finalitat original de la recollida;(c) la formulació de supòsits, en particular pel que fa a la informació que se suposa que les dades mesuren i representen;(f) l'examen en vista de possibles biaixos que són susceptibles d'afectar la salut i la seguretat de les persones, tenen un impacte negatiu en els drets fonamentals o condueixen a la discriminació prohibida en el dret de la Unió, especialment quan les sortides de dades influeixen en les entrades per a futures operacions;(h) la identificació de possibles biaixos de dades identificats segons el punt (f);(h) la identificació de buits de dades rellevants o deficiències que impedeixen el compliment d'aquest Reglament, i com es poden abordar aquests buits i deficiències.

Els conjunts de dades de formació, validació i proves seran rellevants, prou representatius i en la millor mesura possible, lliures d'errors i complets a la vista de la finalitat prevista. Tindran les propietats estadístiques adequades, incloses, si escau, les persones o grups de persones en relació amb els quals es pretén utilitzar el sistema d'IA d'alt risc. Aquestes característiques dels conjunts de dades es poden complir a nivell de conjunts de dades individuals o a nivell d'una combinació d'aquests.

Els conjunts de dades tindran en compte, en la mesura requerida per la finalitat prevista, les característiques o elements que siguin particulars de l'entorn geogràfic, contextual, conductual o funcional concret dins del qual es pretén utilitzar el sistema d'intel·ligència artificial d'alt risc.

En la mesura en què sigui estrictament necessari per garantir la detecció i correcció de biaixos en relació amb els sistemes d'IA d'alt risc d'acord amb l'apartat 2), els prestadors d'aquests sistemes podran tractar excepcionalment categories especials de dades de caràcter personal, amb subjecció a les garanties adequades en matèria de drets i llibertats fonamentals de les persones físiques. A més de les disposicions previstes en el Reglament (UE) 2016/679 i (UE) 2018/1725 i la Directiva (UE) 2016/680, les categories especials de dades personals estan subjectes a limitacions tècniques per a la reutilització de les dades personals, inclosa la seva pseudònima.

Per al desenvolupament de sistemes d'IA d'alt risc que no utilitzin tècniques que impliquin l'entrenament de models d'IA, els paràgrafs 2 a 5 s'apliquen només als conjunts de dades de prova.

1. Els sistemes d'IA d'alt risc que facin ús de tècniques d'entrenament de models d'IA amb dades es desenvoluparan sobre la base de conjunts de dades d'entrenament, validació i prova que compleixin els criteris de qualitat als quals es fa referència en els paràgrafs 2 a 5 sempre que s'utilitzin aquests conjunts de dades.

2. La formació, validació i proves de conjunts de dades estaran subjectes a pràctiques de governança i gestió de dades adequades per a la finalitat prevista del sistema d'IA d'alt risc. Aquestes pràctiques afectaran en particular:(a) els processos de recollida de dades rellevants i l'origen de les dades, i en el cas de les dades personals, la finalitat original de la recollida;(c) la formulació de supòsits, en particular pel que fa a la informació que se suposa que les dades mesuren i representen;(f) l'examen en vista de possibles biaixos que són susceptibles d'afectar la salut i la seguretat de les persones, tenen un impacte negatiu en els drets fonamentals o condueixen a la discriminació prohibida en el dret de la Unió, especialment quan les sortides de dades influeixen en les entrades per a futures operacions;(h) la identificació de possibles biaixos de dades identificats segons el punt (f);(h) la identificació de buits de dades rellevants o deficiències que impedeixen el compliment d'aquest Reglament, i com es poden abordar aquests buits i deficiències.

3. Els conjunts de dades de formació, validació i prova seran rellevants, prou representatius i en la millor mesura possible, lliures d'errors i complets a la vista de la finalitat prevista. Tindran les propietats estadístiques adequades, incloent, si escau, les persones o grups de persones en relació amb els quals es pretén utilitzar el sistema d'IA d'alt risc. Aquestes característiques dels conjunts de dades es poden complir a nivell de conjunts de dades individuals o a nivell d'una combinació d'aquests.

En determinades circumstàncies, els interessats podran sol·licitar la limitació del tractament de les seves dades, en aquest cas únicament les conservarem per a l'exercici o la defensa de reclamacions. En determinades circumstàncies, els interessats podran sol·licitar la limitació del tractament de les seves dades, en aquest cas únicament les conservarem per a l'exercici o la defensa de reclamacions. En determinades circumstàncies, els interessats podran sol·licitar la limitació del tractament de les seves dades, en aquest cas únicament les conservarem per a l'exercici o la defensa de reclamacions. En determinades circumstàncies i per motius relacionats amb la seva situació particular, els interessats podran oposar-se al tractament de les seves dades.

6. Per al desenvolupament de sistemes d'intel·ligència artificial d'alt risc que no utilitzin tècniques que impliquin l'entrenament de models d'intel·ligència artificial, els paràgrafs 2 a 5 només s'apliquen als conjunts de dades de prova.

Article 11

La documentació tècnica d'un sistema d'intel·ligència artificial d'alt risc s'elaborarà abans que aquest sistema es comercialitzi o es posi en servei i es mantindrà actualitzada.

La documentació tècnica s'ha d'elaborar de manera que demostri que el sistema d'intel·ligència artificial d'alt risc compleix amb els requisits establerts en aquesta secció i facilitar a les autoritats nacionals competents i als organismes notificats la informació necessària de manera clara i completa per avaluar el compliment del sistema d'intel·ligència artificial. Les PIME, incloses les empreses emergents, poden proporcionar els elements de la documentació tècnica especificats en l'Annex IV de manera simplificada. Si una PIME, inclosa una empresa emergent, opta per proporcionar la informació requerida en l'Annex IV de manera simplificada, utilitzarà el formulari esmentat en aquest apartat. Els organismes notificats acceptaran el formulari als efectes de l'avaluació de conformitat.

Quan es posi en el mercat o es posi en servei un sistema d'IA d'alt risc relacionat amb un producte contemplat en la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, s'elaborarà un únic conjunt de documentació tècnica que contingui tota la informació recollida en l'apartat 1, així com la informació requerida en virtut d'aquests actes jurídics.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar l'Annex IV, quan sigui necessari, per a garantir que, a la llum del progrés tècnic, la documentació tècnica proporcioni tota la informació necessària per a avaluar el compliment del sistema amb els requisits establerts en aquesta Secció.

1. La documentació tècnica d'un sistema d'intel·ligència artificial d'alt risc s'elaborarà abans que aquest sistema es comercialitzi o es posi en servei i es mantindrà actualitzada.

2. Quan es comercialitzi o posi en servei un sistema d'intel·ligència artificial d'alt risc relacionat amb un producte contemplat en la legislació d'harmonització de la Unió enumerada en l'apartat A de l'Annex I, s'elaborarà un únic conjunt de documentació tècnica que contingui tota la informació recollida en l'apartat 1, així com la informació requerida en virtut d'aquests actes jurídics.

3. La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar l'Annex IV, quan sigui necessari, per a garantir que, a la llum del progrés tècnic, la documentació tècnica proporcioni tota la informació necessària per a avaluar el compliment del sistema amb els requisits establerts en aquest apartat.

Article 12

Els sistemes d'intel·ligència artificial d'alt risc han de permetre tècnicament l'enregistrament automàtic d'esdeveniments (logs) durant la vida útil del sistema.

Per tal de garantir un nivell de traçabilitat del funcionament d'un sistema d'IA d'alt risc adequat a la finalitat prevista del sistema, les capacitats de registre han de permetre el registre d'esdeveniments rellevants per a: (a) identificar situacions que puguin donar lloc al sistema d'IA d'alt risc que presenti un risc en el sentit de l'article 79(1) o en una modificació substancial; (b) facilitar el seguiment post-mercat a què es refereix l'article 72; i (c) supervisar el funcionament dels sistemes d'IA d'alt risc a què es refereix l'article 26 (5).

Per als sistemes d'IA d'alt risc esmentats en el punt 1 (a), de l'Annex III, les capacitats de registre proporcionaran, com a mínim:(a) registre del període de cada ús del sistema (data d'inici i hora i data final i hora de cada ús);(b) la base de dades de referència contra la qual les dades d'entrada han estat comprovades pel sistema;(c) les dades d'entrada per a les quals la cerca ha portat a una coincidència;(d) la identificació de les persones físiques implicades en la verificació dels resultats, com es fa referència a l'article 14 (5).

1. Els sistemes d'intel·ligència artificial d'alt risc han de permetre tècnicament l'enregistrament automàtic d'esdeveniments (logs) durant la vida útil del sistema.

2. Per garantir un nivell de traçabilitat del funcionament d'un sistema d'IA d'alt risc adequat a la finalitat prevista del sistema, les capacitats de registre han de permetre el registre d'esdeveniments rellevants per a: (a) identificar situacions que puguin donar lloc al sistema d'IA d'alt risc que presenti un risc en el sentit de l'article 79(1) o en una modificació substancial; (b) facilitar el seguiment post-mercat a què es refereix l'article 72; i (c) supervisar el funcionament dels sistemes d'IA d'alt risc a què es refereix l'article 26 (5).

3. Per als sistemes d'IA d'alt risc esmentats en el punt 1 (a), de l'Annex III, les capacitats de registre proporcionaran, com a mínim:(a) registre del període de cada ús del sistema (data d'inici i hora i data final i hora de cada ús);(b) la base de dades de referència contra la qual les dades d'entrada han estat comprovades pel sistema;(c) les dades d'entrada per a les quals la cerca ha portat a una coincidència;(d) la identificació de les persones físiques implicades en la verificació dels resultats, com es fa referència a l'article 14 (5).

Article 13

Els sistemes d'intel·ligència artificial d'alt risc s'han de dissenyar i desenvolupar de manera que el seu funcionament sigui prou transparent per permetre als desplegadors interpretar la sortida d'un sistema i utilitzar-lo de manera adequada, i s'ha de garantir un tipus i un grau de transparència apropiats per tal d'aconseguir el compliment de les obligacions pertinents del proveïdor i desplegador establertes a la secció 3.

Els sistemes d'IA d'alt risc s'acompanyaran d'instruccions d'ús en un format digital adequat o d'una altra manera que incloguin informació concisa, completa, correcta i clara que sigui rellevant, accessible i comprensible per als desplegadors.

Les instruccions d'ús han de contenir almenys la següent informació:(a) la identitat i les dades de contacte del proveïdor i, si escau, del seu representant autoritzat;(b) les característiques, capacitats i limitacions del rendiment del sistema d'IA d'alt risc i el seu rendiment que han estat predeterminats pel proveïdor en el moment de l'avaluació de conformitat inicial, si n'hi ha;(d) les mesures de supervisió humana establertes per l'article 14, incloses les mesures tècniques de supervisió necessàries per facilitar la interpretació dels resultats dels sistemes d'IA d'alt risc, i la durada prevista del sistema d'IA d'alt risc, inclosa la seva freqüència, per garantir el correcte funcionament d'aquest sistema d'IA d'alt risc, inclosa la descripció dels mecanismes inclosos en el sistema d'IA d'alt risc que permet als desplegadors recollir, emmagatzemar i interpretar adequadament els registres d'acord amb l'article 12.

Els sistemes d'intel·ligència artificial d'alt risc s'han de dissenyar i desenvolupar de manera que el seu funcionament sigui prou transparent com per permetre als desplegadors interpretar la sortida d'un sistema i utilitzar-lo de manera adequada. S'ha de garantir un tipus i un grau de transparència apropiats per tal d'aconseguir el compliment de les obligacions pertinents del proveïdor i desplegador establertes a l'apartat 3.

2. Els sistemes d'IA d'alt risc s'acompanyaran d'instruccions d'ús en un format digital adequat o d'una altra manera que incloguin informació concisa, completa, correcta i clara que sigui rellevant, accessible i comprensible per als desplegadors.

3. Les instruccions d'ús han de contenir almenys la següent informació:(a) la identitat i les dades de contacte del proveïdor i, si escau, del seu representant autoritzat;(b) les característiques, capacitats i limitacions del rendiment del sistema d'IA d'alt risc i el seu rendiment que han estat predeterminats pel proveïdor en el moment de l'avaluació de la conformitat inicial, si n'hi ha;(d) les mesures de supervisió humana establertes en l'article 14, incloses les mesures tècniques posades en marxa per facilitar la interpretació de les sortides dels sistemes d'IA d'alt risc, i la durada prevista del sistema d'IA d'alt risc, inclosa la seva freqüència, per garantir el correcte funcionament d'aquest sistema d'IA d'alt risc, inclosa la descripció dels mecanismes inclosos en el sistema d'IA d'alt risc que permet als desplegadors recollir, emmagatzemar i interpretar adequadament els registres d'acord amb l'article 12.

Article 14

Els sistemes d'intel·ligència artificial d'alt risc han de ser dissenyats i desenvolupats de tal manera, fins i tot amb eines adequades d'interfície humà-màquina, que puguin ser supervisats de manera efectiva per les persones físiques durant el període en què estiguin en ús.

La supervisió humana tindrà com a objectiu prevenir o minimitzar els riscos per a la salut, la seguretat o els drets fonamentals que puguin sorgir quan s'utilitzi un sistema d'IA d'alt risc d'acord amb la seva finalitat prevista o en condicions de mal ús raonablement previsible, en particular quan aquests riscos persisteixin malgrat l'aplicació d'altres requisits establerts en aquest apartat.

Les mesures de supervisió estaran d'acord amb els riscos, el nivell d'autonomia i el context d'ús del sistema d'IA d'alt risc, i s'asseguraran a través d'un o ambdós dels següents tipus de mesures: (a) mesures identificades i incorporades, quan sigui tècnicament factible, en el sistema d'IA d'alt risc pel proveïdor abans de la seva comercialització o posada en servei; (b) mesures identificades pel proveïdor abans de comercialitzar el sistema d'IA d'alt risc o posar-lo en servei i que siguin adequades per a ser implementades pel desplegador.

A l'efecte d'implementar els paràgrafs 1, 2 i 3, el sistema d'intel·ligència artificial d'alt risc es proporcionarà al desplegador de manera que les persones físiques a qui s'assigna la supervisió humana siguin capaces de comprendre adequadament les capacitats i limitacions rellevants del sistema d'intel·ligència artificial d'alt risc, incloent-hi la possibilitat de detectar i abordar anomalies, disfuncions i rendiments inesperats;(b) de mantenir-se conscients de la possible tendència de comptar automàticament amb sistemes d'intel·ligència artificial d'alt risc (biaix d'automatització), en particular per interpretar correctament la sortida del sistema d'intel·ligència artificial d'alt risc, tenint en compte, per exemple, les eines i mètodes d'interpretació disponibles;(d) de decidir, en qualsevol situació particular, no utilitzar el sistema d'intel·ligència artificial d'alt risc o d'intervenir en el funcionament del sistema d'intel·ligència artificial d'alt risc o d'interrompre el sistema a través d'un botó d'aturada o un procediment similar que permeti al sistema aturar-se en un estat segur.

Per als sistemes d'intel·ligència artificial d'alt risc esmentats en l'apartat 1 a) de l'Annex III, les mesures a què fa referència l'apartat 3 d'aquest article han de ser tals que, a més, el desplegador no prengui cap acció o decisió sobre la base de la identificació resultant del sistema, tret que aquesta identificació hagi estat verificada i confirmada per almenys dues persones físiques amb la competència, la formació i l'autoritat necessàries.

El requisit d'una verificació separada per almenys dues persones físiques no s'aplicarà als sistemes d'intel·ligència artificial d'alt risc utilitzats a l'efecte de l'aplicació de la llei, la migració, el control fronterer o l'asil, quan la legislació de la Unió o nacional consideri que l'aplicació d'aquest requisit és desproporcionada.

Els sistemes d'intel·ligència artificial d'alt risc s'han de dissenyar i desenvolupar de tal manera, fins i tot amb les eines adequades d'interfície humà-màquina, que puguin ser supervisats de manera efectiva per les persones físiques durant el període en què estiguin en ús.

2. La supervisió humana tindrà com a objectiu prevenir o minimitzar els riscos per a la salut, la seguretat o els drets fonamentals que puguin sorgir quan s'utilitzi un sistema d'IA d'alt risc d'acord amb la seva finalitat prevista o en condicions de mal ús raonablement previsible, en particular quan aquests riscos persisteixin malgrat l'aplicació d'altres requisits establerts en aquest apartat.

3. Les mesures de supervisió estaran d'acord amb els riscos, el nivell d'autonomia i el context d'ús del sistema d'IA d'alt risc, i s'asseguraran a través d'un o dos dels següents tipus de mesures: (a) mesures identificades i incorporades, quan sigui tècnicament factible, en el sistema d'IA d'alt risc pel proveïdor abans de la seva comercialització o posada en servei; (b) mesures identificades pel proveïdor abans de comercialitzar el sistema d'IA d'alt risc o posar-lo en servei i que siguin adequades per a ser implementades pel desplegador.

4. A l'efecte d'implementar els paràgrafs 1, 2 i 3, el sistema d'intel·ligència artificial d'alt risc es proporcionarà al desplegador de manera que les persones físiques a les quals s'assigna la supervisió humana siguin capaces de comprendre adequadament les capacitats i limitacions rellevants del sistema d'intel·ligència artificial d'alt risc, incloent la possibilitat de detectar i abordar anomalies, disfuncions i rendiments inesperats; b) de seguir sent conscients de la possible tendència de comptar automàticament amb sistemes d'intel·ligència artificial d'alt risc (biaix d'automatització), en particular per a la interpretació correcta de la sortida del sistema d'intel·ligència artificial d'alt risc, tenint en compte, per exemple, les eines i mètodes d'interpretació disponibles; d) de decidir, en qualsevol situació particular, no utilitzar el sistema d'intel·ligència artificial d'alt risc o d'intervenir en el funcionament del sistema d'intel·ligència artificial d'alt risc o d'interrompre el sistema mitjançant un botó d'aturada o un procediment similar que permeti que el sistema s'aturi en un estat segur.

Per als sistemes d'intel·ligència artificial d'alt risc esmentats en l'apartat 1 a) de l'Annex III, les mesures a què fa referència l'apartat 3 d'aquest article han de ser tals que, a més, el desplegador no prengui cap acció o decisió sobre la base de la identificació resultant del sistema tret que aquesta identificació hagi estat verificada i confirmada per almenys dues persones físiques amb la competència, la formació i l'autoritat necessàries.

Article 15

Els sistemes d'intel·ligència artificial d'alt risc s'han de dissenyar i desenvolupar de manera que aconsegueixin un nivell adequat de precisió, robustesa i ciberseguretat, i que actuïn de manera coherent en aquests aspectes durant tot el seu cicle de vida.

Per a abordar els aspectes tècnics de com mesurar els nivells adequats d'exactitud i robustesa establerts en l'apartat 1 i qualsevol altra mètrica de rendiment rellevant, la Comissió, en cooperació amb les parts interessades i organitzacions rellevants, com les autoritats de metrologia i de benchmarking, fomentarà, si escau, el desenvolupament de benchmarks i metodologies de mesurament.

Els nivells de precisió i les mètriques de precisió rellevants dels sistemes d'IA d'alt risc es declararan en les instruccions d'ús que l'acompanyin.

Els sistemes d'intel·ligència artificial d'alt risc seran el més resistents possible en relació amb els errors, faltes o incoherències que es puguin produir en el sistema o en l'entorn en què el sistema opera, en particular per la seva interacció amb les persones físiques o altres sistemes.

La robustesa dels sistemes d'intel·ligència artificial d'alt risc es pot aconseguir a través de solucions tècniques d'acomiadament, que poden incloure plans de seguretat o de seguretat.

Els sistemes d'intel·ligència artificial d'alt risc que continuen aprenent després de ser posats al mercat o posats en servei s'han de desenvolupar de manera que eliminin o redueixin en la mesura del possible el risc de possibles sortides esbiaixades que influeixin en l'entrada per a futures operacions (feedback loops), i per assegurar que aquests bucles de retroalimentació s'abordin degudament amb mesures de mitigació adequades.

Els sistemes d'intel·ligència artificial d'alt risc seran resistents contra els intents de tercers no autoritzats d'alterar el seu ús, producció o rendiment explotant les vulnerabilitats del sistema.

Les solucions tècniques destinades a garantir la ciberseguretat dels sistemes d'intel·ligència artificial d'alt risc seran adequades a les circumstàncies pertinents i als riscos.

Les solucions tècniques per abordar les vulnerabilitats específiques de la IA inclouen, si escau, mesures per prevenir, detectar, respondre, resoldre i controlar els atacs que tracten de manipular el conjunt de dades d'entrenament (enverinament de dades), o components preentrenats utilitzats en l'entrenament (enverinament de models), entrades dissenyades per fer que el model d'IA cometi un error (exemples adversaris o evasió de models), atacs de confidencialitat o defectes de model.

1. Els sistemes d'IA d'alt risc es dissenyaran i desenvoluparan de manera que aconsegueixin un nivell adequat de precisió, robustesa i ciberseguretat, i que es duguin a terme de manera coherent en aquests aspectes durant tot el seu cicle de vida.

2. Per a abordar els aspectes tècnics de com mesurar els nivells adequats de precisió i robustesa establerts en l'apartat 1 i qualsevol altra mètrica de rendiment rellevant, la Comissió, en cooperació amb les parts interessades i organitzacions rellevants, com les autoritats de metrologia i de comparació de resultats, fomentarà, si escau, el desenvolupament de criteris de referència i metodologies de mesurament.

3. Els nivells de precisió i les mètriques de precisió rellevants dels sistemes d'IA d'alt risc es declararan en les instruccions d'ús que l'acompanyin.

4. Els sistemes d'intel·ligència artificial d'alt risc seran el més resistents possible en relació amb els errors, faltes o incoherències que es puguin produir en el sistema o en l'entorn en què el sistema opera, en particular per la seva interacció amb les persones físiques o altres sistemes.

5. Els sistemes d'intel·ligència artificial d'alt risc seran resistents contra els intents de tercers no autoritzats d'alterar el seu ús, producció o rendiment explotant les vulnerabilitats del sistema.

Article 16

Els proveïdors de sistemes d'IA d'alt risc han de:(a) assegurar que els seus sistemes d'IA d'alt risc compleixen els requisits establerts a l'apartat 2;(b) indicar el seu embalatge o la seva documentació d'acompanyament, segons correspongui, el seu nom, nom comercial registrat o marca registrada, l'adreça a la qual poden ser contactats;(d) mantenir els registres generats automàticament pels seus sistemes d'IA d'alt risc segons l'article 19;(h) establir la declaració de conformitat de la UE segons l'article 47;(h) establir la marca CE en el seu embalatge o la seva documentació d'acompanyament, indicar la conformitat amb el present Reglament, d'acord amb l'article 48;(j) dur a terme les accions correctives necessàries i proporcionar informació segons l'article 20;(l) assegurar que el sistema d'IA d'alt risc compleix amb els requisits d'accessibilitat d'acord amb les Directives (UE) 2016/2102 i (UE) 2019/882.

Article 17

Els proveïdors de sistemes d'IA d'alt risc han de posar en marxa un sistema de gestió de la qualitat que garanteixi el compliment d'aquest Reglament. Aquest sistema ha de documentar-se de manera sistemàtica i ordenada en forma de polítiques, procediments i procediments d'avaluació de la conformitat amb el sistema d'IA d'alt risc; tècniques, procediments i accions sistemàtiques que s'han d'utilitzar per al disseny, el control de la qualitat i la verificació del disseny del sistema d'IA d'alt risc; tècniques, procediments i accions sistemàtiques que s'han d'aplicar abans, durant i després del desenvolupament del sistema d'IA d'alt risc; sistemes i procediments per a la gestió de dades, incloent l'adquisició de dades, la recollida de dades, l'anàlisi de dades, l'etiquetatge de dades, la filtració de dades, l'extracció de dades, la retenció de dades i qualsevol altra operació relacionada amb el sistema de seguiment de dades d'alt risc, d'acord amb l'article 72; procediments relacionats amb la presentació d'informes d'un incident greu, d'acord amb l'article 73; procediments relacionats amb la gestió de la informació i la gestió de recursos, incloses les mesures de seguretat i de subministrament.

L'aplicació dels aspectes a què fa referència l'apartat 1 serà proporcional a la grandària de l'organització del prestador, respectant en tot cas el grau de rigor i el nivell de protecció exigits per garantir el compliment dels seus sistemes d'IA d'alt risc amb aquest Reglament.

Els proveïdors de sistemes d'intel·ligència artificial d'alt risc que estiguin subjectes a obligacions relatives a sistemes de gestió de la qualitat o a una funció equivalent en virtut del dret sectorial de la Unió pertinent poden incloure els aspectes enumerats en l'apartat 1 com a part dels sistemes de gestió de la qualitat d'acord amb aquesta llei.

Per als proveïdors que siguin entitats financeres subjectes a requisits en matèria de governança interna, arranjaments o processos en virtut de la legislació de serveis financers de la Unió, l'obligació d'establir un sistema de gestió de la qualitat, amb excepció dels punts 1 (g), (h) i (i) d'aquest article, es considerarà que es compleix complint amb les normes sobre acords o processos de governança interna de conformitat amb la legislació de serveis financers de la Unió, per la qual cosa es tindran en compte les normes harmonitzades a què fa referència l'article 40.

Els proveïdors de sistemes d'IA d'alt risc han de posar en marxa un sistema de gestió de la qualitat que garanteixi el compliment d'aquest Reglament. Aquest sistema s'ha de documentar de manera sistemàtica i ordenada en forma de polítiques, procediments i procediments d'avaluació de la conformitat amb el sistema d'IA d'alt risc; tècniques, procediments i accions sistemàtiques que s'han d'utilitzar per al disseny, el control de la qualitat i la verificació del disseny del sistema d'IA d'alt risc; tècniques, procediments i accions sistemàtiques que s'han d'aplicar abans, durant i després del desenvolupament del sistema d'IA d'alt risc; sistemes i procediments per a la gestió de dades, incloent l'adquisició de dades, la recollida de dades, l'anàlisi de dades, l'etiquetatge de dades, la filtració de dades, la mineria de dades, procediments per a la presentació d'informes d'un incident greu, d'acord amb l'article 72; procediments per a la presentació d'informes d'un incident greu, d'acord amb l'article 73; sistemes i procediments per al manteniment de l'accés a dades, organismes notificats, altres operadors, clients o altres parts interessades; sistemes de gestió de recursos, incloses les responsabilitats de la gestió i altres empleats pel que fa a tots els aspectes enumerats en aquest paràgraf.

4. Per als prestadors que siguin entitats financeres subjectes a requisits relatius a la seva governança interna, els acords o els processos en virtut de la legislació de serveis financers de la Unió, l'obligació d'establir un sistema de gestió de la qualitat, amb excepció dels punts 1 (g), (h) i (i) d'aquest article, es considerarà que es compleix complint amb les normes sobre acords o processos de governança interna de conformitat amb la legislació de serveis financers de la Unió, per la qual cosa es tindran en compte les normes harmonitzades a què fa referència l'article 40.

Article 18

El prestador, per un període que finalitzi 10 anys després de la comercialització o posada en servei del sistema d'IA d'alt risc, mantindrà a la disposició de les autoritats nacionals competents:(a) la documentació tècnica a què es refereix l'article 11;(b) la documentació relativa al sistema de gestió de la qualitat a què es refereix l'article 17;(c) la documentació relativa als canvis aprovats pels organismes notificats, si escau;(d) les decisions i altres documents emesos pels organismes notificats, si escau;(e) la declaració de conformitat de la UE a què fa referència l'article 47.

Cada Estat membre determinarà les condicions en què la documentació a què fa referència l'apartat 1 romangui a la disposició de les autoritats nacionals competents durant el període indicat en aquest paràgraf per als casos en què un proveïdor o el seu representant autoritzat establert en el seu territori faci fallida o cessi la seva activitat abans que finalitzi aquest termini.

Els proveïdors que siguin institucions financeres subjectes a requisits pel que fa a la seva governança interna, acords o processos sota la llei de serveis financers de la Unió han de mantenir la documentació tècnica com a part de la documentació que es manté sota la legislació de serveis financers de la Unió pertinent.

1. El prestador, per un període que finalitzi 10 anys després de la comercialització o posada en servei del sistema d'IA d'alt risc, mantindrà a la disposició de les autoritats nacionals competents:(a) la documentació tècnica a què es refereix l'article 11;(b) la documentació relativa al sistema de gestió de la qualitat a què es refereix l'article 17;(c) la documentació relativa als canvis aprovats pels organismes notificats, si escau;(d) les decisions i altres documents emesos pels organismes notificats, si escau;(e) la declaració de conformitat de la UE a què fa referència l'article 47.

2. Cada Estat membre determinarà les condicions en què la documentació a què fa referència l'apartat 1 romangui a la disposició de les autoritats nacionals competents durant el període indicat en aquest paràgraf per als casos en què un proveïdor o el seu representant autoritzat establert en el seu territori faci fallida o cessi la seva activitat abans que finalitzi aquest termini.

Els proveïdors que siguin institucions financeres subjectes a requisits pel que fa a la seva governança interna, els acords o els processos sota la llei de serveis financers de la Unió han de mantenir la documentació tècnica com a part de la documentació que es manté sota la legislació de serveis financers de la Unió pertinent.

Article 19

Els proveïdors de sistemes d'intel·ligència artificial d'alt risc conservaran els registres a què es refereix l'article 12, apartat 1, generats automàticament pels seus sistemes d'intel·ligència artificial d'alt risc, en la mesura en què aquests registres estiguin sota el seu control, sense perjudici de la legislació nacional o de la Unió aplicable, els registres es conservaran durant un període adequat a la finalitat prevista del sistema d'intel·ligència artificial d'alt risc, d'almenys sis mesos, tret que es disposi el contrari en la legislació nacional o de la Unió aplicable, en particular en la legislació de la Unió sobre protecció de dades personals.

Els proveïdors que siguin institucions financeres subjectes a requisits pel que fa a la seva governança interna, els acords o els processos sota la llei de serveis financers de la Unió han de mantenir els registres generats automàticament pels seus sistemes d'IA d'alt risc com a part de la documentació que es manté sota la llei de serveis financers pertinent.

Els proveïdors de sistemes d'IA d'alt risc conservaran els registres a què es refereix l'article 12, apartat 1, generats automàticament pels seus sistemes d'IA d'alt risc, en la mesura en què aquests registres estiguin sota el seu control. Sense perjudici de la legislació nacional o de la Unió aplicable, els registres es conservaran durant un període adequat a la finalitat prevista del sistema d'IA d'alt risc, d'almenys sis mesos, tret que es disposi el contrari en la legislació nacional o de la Unió aplicable, en particular en la legislació de la Unió sobre protecció de dades personals.

Els proveïdors que siguin institucions financeres subjectes a requisits pel que fa a la seva governança interna, els acords o els processos sota la llei de serveis financers de la Unió han de mantenir els registres generats automàticament pels seus sistemes d'IA d'alt risc com a part de la documentació que es manté sota la llei de serveis financers pertinent.

Article 20

Els proveïdors de sistemes d'intel·ligència artificial d'alt risc que considerin o tinguin motius per considerar que un sistema d'intel·ligència artificial d'alt risc que hagin comercialitzat o posat en servei no és conforme amb aquest Reglament han d'emprendre immediatament les accions correctives necessàries per portar aquest sistema a la conformitat, retirar-lo, inutilitzar-lo o recordar-lo, si escau, informar els distribuïdors del sistema d'intel·ligència artificial d'alt risc en qüestió i, si escau, als desplegadors, al representant autoritzat i als importadors en conseqüència.

Quan el sistema d'intel·ligència artificial d'alt risc present un risc en el sentit de l'apartat 1 de l'article 79 i el proveïdor tingui coneixement d'aquest risc, investigarà immediatament les causes, en col·laboració amb el promotor d'informes, si escau, i informarà les autoritats de vigilància del mercat competents per al sistema d'intel·ligència artificial d'alt risc en qüestió i, si escau, l'organisme notificat que va emetre un certificat per a aquest sistema d'intel·ligència artificial d'alt risc d'acord amb l'article 44, en particular, de la naturalesa de l'incompliment i de qualsevol acció correctiva pertinent adoptada.

2. Quan el sistema d'IA d'alt risc present un risc en el sentit de l'apartat 1 de l'article 79 i el proveïdor tingui coneixement d'aquest risc, investigarà immediatament les causes, en col·laboració amb el promotor d'informes, si escau, i informarà les autoritats de vigilància del mercat competents per al sistema d'IA d'alt risc en qüestió i, si escau, l'organisme notificat que va emetre un certificat per a aquest sistema d'IA d'alt risc d'acord amb l'article 44, en particular, de la naturalesa de l'incompliment i de qualsevol acció correctiva pertinent adoptada.

Article 21

Els proveïdors de sistemes d'intel·ligència artificial d'alt risc, a petició raonada d'una autoritat competent, han de proporcionar a aquesta autoritat tota la informació i documentació necessària per demostrar la conformitat del sistema d'intel·ligència artificial d'alt risc amb els requisits establerts en l'apartat 2, en una llengua que pot ser fàcilment compresa per l'autoritat en una de les llengües oficials de les institucions de la Unió, tal com indica l'Estat membre en qüestió.

A petició raonada d'una autoritat competent, els proveïdors també donaran a l'autoritat competent sol·licitant, si escau, accés als registres generats automàticament del sistema d'IA d'alt risc a què es refereix l'apartat 1 de l'article 12, en la mesura en què aquests registres estiguin sota el seu control.

Qualsevol informació obtinguda per una autoritat competent en virtut d'aquest article serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

2. Després d'una sol·licitud raonada per part d'una autoritat competent, els proveïdors també donaran a l'autoritat competent sol·licitant, si escau, accés als registres generats automàticament del sistema d'intel·ligència artificial d'alt risc a què es refereix l'apartat 1 de l'article 12, en la mesura en què aquests registres estiguin sota el seu control.

Qualsevol informació obtinguda per una autoritat competent en virtut d'aquest article serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

Article 22

Abans de posar a la disposició del mercat de la Unió els seus sistemes d'intel·ligència artificial d'alt risc, els proveïdors establerts en tercers països nomenaran, per mandat escrit, un representant autoritzat establert en la Unió.

El prestador ha de permetre al seu representant autoritzat realitzar les tasques especificades en el mandat rebut del prestador.

El representant autoritzat exercirà les tasques especificades en el mandat rebut del prestador, facilitarà una còpia del mandat a les autoritats de vigilància del mercat, a petició de l'autoritat competent, en una de les llengües oficials de les institucions de la Unió, tal com indica l'autoritat competent, i faràcultarà al representant competent per dur a terme les tasques següents:(a) verificarà que el representant de la UE i la documentació tècnica a què es refereix l'article 74(10), durant un període de 10 anys després de la posada en servei del sistema d'IA d'alt risc, durant una còpia de la declaració de conformitat de la UE nomenada pel representant autoritzat, amb tota la informació i documentació, inclosa la referida en el punt (b) d'aquest apartat, necessària per demostrar la conformitat d'un sistema d'IA d'alt risc, en la mesura en què aquests registres estiguin sota el control del prestador, en particular per reduir i mitigar els riscos del sistema d'IA d'alt risc, o, si escau, garantirà que la informació esmentada en el punt 3 de l'apartat A de l'Annex VIII, sigui correcta.El mandat faràcultarà al representant autoritzat per a totes les qüestions relacionades amb el compliment d'aquest Reglament.

El representant autoritzat rescindeix el mandat si considera o té motius per considerar que el prestador actua en contra de les seves obligacions d'acord amb aquest Reglament i, en aquest cas, informarà immediatament l'autoritat de vigilància del mercat pertinent, així com, si escau, a l'organisme notificat pertinent, sobre la finalització del mandat i els motius d'aquest.

1. Abans de posar a la disposició del mercat de la Unió els seus sistemes d'intel·ligència artificial d'alt risc, els proveïdors establerts en tercers països nomenaran, per mandat escrit, un representant autoritzat establert en la Unió.

2. El prestador ha de permetre al seu representant autoritzat realitzar les tasques especificades en el mandat rebut del prestador.

3. El representant autoritzat exercirà les tasques especificades en el mandat rebut del prestador, facilitarà una còpia del mandat a les autoritats de vigilància del mercat, a petició de l'autoritat competent, en una de les llengües oficials de les institucions de la Unió, tal com indica l'autoritat competent, i faràcultarà al representant competent per dur a terme les tasques següents:(a) verificarà que el representant de la UE i la documentació tècnica a la qual es refereix l'article 74(10), durant un període de 10 anys després de la comercialització o posada en servei del sistema d'IA d'alt risc, durant una còpia de la declaració de conformitat de la UE nomenada pel representant autoritzat, amb tota la informació i documentació, inclosa la referida en el punt (b) d'aquest apartat, necessària per demostrar la conformitat d'un sistema d'IA d'alt risc, en la mesura en què aquests registres estiguin sota el control del prestador, en particular per reduir i mitigar els riscos del sistema d'IA d'alt risc, o, si escau, garantirà que la informació esmentada en el punt 3 de l'apartat A de l'Annex VIII, sigui correcta.El mandat faràcultarà al representant autoritzat per a totes les qüestions relacionades amb el compliment del present Reglament.

4. El representant autoritzat rescindeix el mandat si considera o té motius per considerar que el prestador actua en contra de les seves obligacions d'acord amb aquest Reglament, i en aquest cas, informarà immediatament l'autoritat de vigilància del mercat pertinent, així com, si escau, a l'organisme notificat pertinent, sobre la finalització del mandat i els motius d'aquest.

Article 23

Abans de comercialitzar un sistema d'IA d'alt risc, els importadors han d'assegurar que el sistema sigui conforme amb aquest Reglament verificant que:(a) el procediment d'avaluació de la conformitat pertinent a què fa referència l'article 43 ha estat realitzat pel proveïdor del sistema d'IA d'alt risc;(b) el proveïdor ha elaborat la documentació tècnica de conformitat amb l'article 11 i l'Annex IV;(c) el sistema porta el marcat CE requerit i va acompanyat de la declaració de conformitat de la UE a què fa referència l'article 47 i les instruccions d'ús;(d) el proveïdor ha nomenat un representant autoritzat de conformitat amb l'article 22(1).

Quan un importador tingui motius suficients per considerar que un sistema d'intel·ligència artificial d'alt risc no és conforme amb aquest Reglament, o sigui falsificat, o acompanyat de documentació falsificada, no col·locarà el sistema en el mercat fins que no s'hagi posat en conformitat. Quan el sistema d'intel·ligència artificial d'alt risc present un risc en el sentit de l'apartat 1 de l'article 79, l'importador informarà el proveïdor del sistema, al representant autoritzat i a les autoritats de vigilància del mercat a aquest efecte.

Els importadors hauran d'indicar el seu nom, nom comercial registrat o marca registrada, i l'adreça a la qual poden posar-se en contacte en el sistema d'IA d'alt risc i en el seu embalatge o la seva documentació d'acompanyament, si escau.

Els importadors s'asseguraran que, mentre un sistema d'IA d'alt risc estigui sota la seva responsabilitat, les condicions d'emmagatzematge o transport, si escau, no posin en perill el seu compliment amb els requisits establerts a l'apartat 2.

Els importadors conservaran, durant un període de 10 anys després de la comercialització o posada en servei del sistema d'IA d'alt risc, una còpia del certificat emès per l'organisme notificat, si escau, de les instruccions d'ús, i de la declaració de conformitat de la UE a què fa referència l'article 47.

Els importadors facilitaran a les autoritats competents competents, prèvia sol·licitud raonada, tota la informació i documentació necessària, inclosa la referida en l'apartat 5, per a demostrar la conformitat d'un sistema d'IA d'alt risc amb els requisits establerts en l'apartat 2 en un idioma que els pugui entendre fàcilment, i per a això garantiran també que la documentació tècnica pugui posar-se a la disposició d'aquestes autoritats.

Els importadors col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb un sistema d'IA d'alt risc comercialitzat pels importadors, en particular per reduir i mitigar els riscos que comporta.

1. Abans de comercialitzar un sistema d'IA d'alt risc, els importadors han d'assegurar que el sistema sigui conforme amb aquest Reglament verificant que:(a) el corresponent procediment d'avaluació de la conformitat a què es refereix l'article 43 ha estat dut a terme pel proveïdor del sistema d'IA d'alt risc;(b) el proveïdor ha elaborat la documentació tècnica de conformitat amb l'article 11 i l'Annex IV;(c) el sistema porta el marcat CE requerit i va acompanyat de la declaració de conformitat de la UE a què es refereix l'article 47 i les instruccions d'ús;(d) el proveïdor ha nomenat un representant autoritzat de conformitat amb l'article 22(1).

Si un importador té motius suficients per considerar que un sistema d'intel·ligència artificial d'alt risc no és conforme amb aquest Reglament, o és falsificat, o acompanyat de documentació falsificada, no col·locarà el sistema en el mercat fins que no s'hagi posat en conformitat. Quan el sistema d'intel·ligència artificial d'alt risc presenti un risc en el sentit de l'apartat 1 de l'article 79, l'importador informarà el proveïdor del sistema, al representant autoritzat i a les autoritats de vigilància del mercat a aquest efecte.

3. Els importadors hauran d'indicar el seu nom, nom comercial registrat o marca registrada, i l'adreça a la qual poden ser contactats en el sistema d'IA d'alt risc i en el seu embalatge o la seva documentació d'acompanyament, si escau.

4. Els importadors s'asseguraran que, mentre un sistema d'IA d'alt risc estigui sota la seva responsabilitat, les condicions d'emmagatzematge o transport, si escau, no posin en perill el seu compliment amb els requisits establerts a l'apartat 2.

6. Els importadors facilitaran a les autoritats competents competents, prèvia sol·licitud raonada, tota la informació i documentació necessària, inclosa la referida en l'apartat 5, per demostrar la conformitat d'un sistema d'IA d'alt risc amb els requisits establerts en l'apartat 2 en un idioma que els pugui entendre fàcilment, i a aquest efecte, també garantiran que la documentació tècnica pugui posar-se a la disposició d'aquestes autoritats.

7. Els importadors col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb un sistema d'IA d'alt risc comercialitzat pels importadors, en particular per reduir i mitigar els riscos que comporta.

Article 24

Abans de posar al mercat un sistema d'intel·ligència artificial d'alt risc, els distribuïdors han de verificar que porta el marcat CE requerit, que va acompanyat d'una còpia de la declaració de conformitat de la UE a què es refereix l'article 47 i les instruccions d'ús, i que el proveïdor i l'importador d'aquest sistema, segons correspongui, han complert amb les seves obligacions respectives, tal com s'estableixen en l'article 16, punts b) i c) i en l'article 23(3).

Quan un distribuïdor consideri o tingui motius per considerar, sobre la base de la informació de què disposa, que un sistema d'intel·ligència artificial d'alt risc no és conforme amb els requisits establerts en l'apartat 2, no farà que el sistema d'intel·ligència artificial d'alt risc estigui disponible en el mercat fins que el sistema s'hagi ajustat a aquests requisits.A més, quan el sistema d'intel·ligència artificial d'alt risc presenti un risc en el sentit de l'apartat 1 de l'article 79, el distribuïdor informarà el proveïdor o l'importador del sistema, si escau, a aquest efecte.

Els distribuïdors s'asseguraran que, mentre un sistema d'IA d'alt risc estigui sota la seva responsabilitat, les condicions d'emmagatzematge o transport, si escau, no posin en perill el compliment del sistema amb els requisits establerts a l'apartat 2.

Un distribuïdor que consideri o tingui motius per considerar, sobre la base de la informació que posseeixi, un sistema d'IA d'alt risc que hagi posat a la seva disposició en el mercat per no estar d'acord amb els requisits establerts en l'apartat 2, ha d'emprendre les accions correctives necessàries per ajustar aquest sistema a aquests requisits, retirar-lo o recordar-lo, o garantir que el proveïdor, l'importador o qualsevol operador rellevant, si escau, prengui aquestes accions correctives. Quan el sistema d'IA d'alt risc presenti un risc en el sentit de l'apartat 1 de l'article 79, el distribuïdor informarà immediatament el proveïdor o l'importador del sistema i les autoritats competents per al sistema d'IA d'alt risc en qüestió, donant detalls, en particular, de l'incompliment i de les accions correctives adoptades.

A petició raonada d'una autoritat competent rellevant, els distribuïdors d'un sistema d'IA d'alt risc proporcionaran a aquesta autoritat tota la informació i documentació relativa a les seves accions d'acord amb els paràgrafs 1 a 4 necessaris per demostrar la conformitat d'aquest sistema amb els requisits establerts a l'apartat 2.

Els distribuïdors col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb un sistema d'IA d'alt risc posat a disposició al mercat pels distribuïdors, en particular per reduir o mitigar el risc que suposa.

1. Abans de posar a disposició del mercat un sistema d'IA d'alt risc, els distribuïdors hauran de verificar que porta el marcat CE requerit, que va acompanyat d'una còpia de la declaració de conformitat de la UE a què es refereix l'article 47 i les instruccions d'ús, i que el proveïdor i l'importador d'aquest sistema, segons correspongui, han complert amb les seves respectives obligacions segons el que estableix l'article 16, punts b) i c) i l'article 23(3).

Si un distribuïdor considera o té motius per considerar, sobre la base de la informació de què disposa, que un sistema d'intel·ligència artificial d'alt risc no és conforme amb els requisits establerts a l'apartat 2, no farà que el sistema d'intel·ligència artificial d'alt risc estigui disponible al mercat fins que el sistema d'intel·ligència artificial d'alt risc present un risc en el sentit de l'apartat 1 de l'article 79, el distribuïdor informarà el proveïdor o l'importador del sistema, si escau, a aquest efecte.

4. Un distribuïdor que consideri o tingui motius per considerar, sobre la base de la informació en el seu poder, que un sistema d'IA d'alt risc que hagi posat a la seva disposició en el mercat no és conforme amb els requisits establerts en l'apartat 2, ha d'emprendre les accions correctores necessàries per fer que aquest sistema sigui conforme amb aquests requisits, retirar-lo o recordar-lo, o ha d'assegurar que el proveïdor, l'importador o qualsevol operador rellevant, si escau, assumeixi aquestes accions correctores. Quan el sistema d'IA d'alt risc presenti un risc en el sentit de l'article 79, apartat 1, el distribuïdor informarà immediatament el proveïdor o l'importador del sistema i les autoritats competents per al sistema d'IA d'alt risc en qüestió, donant detalls, en particular, de l'incompliment i de les accions correctives adoptades.

5. Després d'una sol·licitud raonada d'una autoritat competent rellevant, els distribuïdors d'un sistema d'IA d'alt risc proporcionaran a aquesta autoritat tota la informació i documentació relativa a les seves accions d'acord amb els paràgrafs 1 a 4 necessaris per demostrar la conformitat d'aquest sistema amb els requisits establerts a l'apartat 2.

6. Els distribuïdors col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb un sistema d'IA d'alt risc posat a disposició al mercat pels distribuïdors, en particular per reduir o mitigar el risc que suposa.

Article 25

Qualsevol distribuïdor, importador, desplegador o un altre tercer serà considerat proveïdor d'un sistema d'IA d'alt risc a l'efecte d'aquest Reglament i estarà subjecte a les obligacions del prestador en virtut de l'article 16, en qualsevol de les següents circumstàncies: (a) posi el seu nom o marca en un sistema d'IA d'alt risc ja posat en el mercat o posat en servei, sense perjudici de les disposicions contractuals que estipulin que les obligacions s'assignen d'una altra manera; (b) realitzi una modificació substancial d'un sistema d'IA d'alt risc que ja s'hagi posat en el mercat o s'hagi posat en servei d'acord amb l'article 6; (c) modifiqui la finalitat prevista d'un sistema d'IA d'alt risc, inclòs un sistema d'IA d'ús general, que no hagi estat classificat com a d'alt risc i ja s'hagi posat en el mercat o s'hagi posat en servei de manera que el sistema d'IA en qüestió es converteixi en un sistema d'IA d'alt risc d'acord amb l'article 6.

Quan es donin les circumstàncies a què fa referència l'apartat 1, el proveïdor que inicialment va comercialitzar el sistema d'IA o el va posar en servei deixarà de ser considerat proveïdor d'aquest sistema d'IA específic a l'efecte d'aquest Reglament, i aquest proveïdor inicial cooperarà estretament amb els nous proveïdors i posarà a disposició la informació necessària i proporcionarà l'accés tècnic raonablement esperat i una altra assistència que sigui necessària per al compliment de l'avaluació de conformitat dels sistemes d'IA d'alt risc. Aquest paràgraf no s'aplicarà en els casos en què el proveïdor inicial hagi especificat clarament que el seu sistema d'IA no es canviarà a un sistema d'IA d'alt risc i, per tant, no entra dins de l'obligació de lliurar la documentació.

En el cas dels sistemes d'intel·ligència artificial d'alt risc que siguin components de seguretat dels productes inclosos en la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, el fabricant de productes serà considerat el proveïdor del sistema d'intel·ligència artificial d'alt risc, i estarà subjecte a les obligacions contemplades en l'article 16 en qualsevol de les següents circumstàncies: (a) el sistema d'intel·ligència artificial d'alt risc es comercialitza juntament amb el producte sota el nom o la marca del fabricant del producte; (b) el sistema d'intel·ligència artificial d'alt risc es posa en servei sota el nom o la marca del fabricant del producte després que el producte hagi estat posat en el mercat.

El prestador d'un sistema d'intel·ligència artificial d'alt risc i el tercer que subministri un sistema d'intel·ligència artificial, eines, serveis, components o processos que s'utilitzin o s'integrin en un sistema d'intel·ligència artificial d'alt risc, hauran d'especificar per escrit la informació necessària, les capacitats, l'accés tècnic i altra assistència basada en l'estat de la tècnica generalment reconegut, amb la finalitat de permetre al prestador del sistema d'intel·ligència artificial d'alt risc complir plenament amb les obligacions establertes en aquest Reglament. Aquest paràgraf no s'aplicarà a tercers que facin accessibles a les eines, serveis, processos o components públics, diferents dels models d'intel·ligència artificial d'ús general, sota una llicència lliure i de codi obert.

L'Oficina d'Intel·ligència Artificial pot desenvolupar i recomanar condicions de model voluntari per a contractes entre proveïdors de sistemes d'intel·ligència artificial d'alt risc i tercers que subministrin eines, serveis, components o processos que s'utilitzin o s'integrin en sistemes d'intel·ligència artificial d'alt risc. En el desenvolupament d'aquests termes de model voluntari, l'Oficina d'intel·ligència artificial tindrà en compte possibles requisits contractuals aplicables en sectors específics o casos empresarials. Els termes del model voluntari es publicaran i estaran disponibles gratuïtament en un format electrònic fàcilment utilitzable.

Els apartats 2 i 3 no perjudiquen la necessitat d'observar i protegir els drets de propietat intel·lectual, la informació comercial confidencial i els secrets comercials de conformitat amb la legislació comunitària i nacional.

Qualsevol distribuïdor, importador, desplegador o un altre tercer serà considerat proveïdor d'un sistema d'IA d'alt risc a l'efecte d'aquest Reglament i estarà subjecte a les obligacions del prestador en virtut de l'article 16, en qualsevol de les següents circumstàncies: (a) posi el seu nom o marca en un sistema d'IA d'alt risc ja comercialitzat o posat en servei, sense perjudici de les disposicions contractuals que estipulin que les obligacions s'assignen d'una altra manera; (b) realitzi una modificació substancial d'un sistema d'IA d'alt risc que ja s'hagi comercialitzat o s'hagi posat en servei d'acord amb l'article 6; (c) modifiqui la finalitat prevista d'un sistema d'IA d'alt risc, inclòs un sistema d'IA de propòsit general, que no hagi estat classificat com a d'alt risc i ja hagi estat comercialitzat o posat en servei de manera que el sistema d'IA en qüestió es converteixi en un sistema d'IA d'alt risc d'acord amb l'article 6.

2. Quan es donin les circumstàncies a què fa referència l'apartat 1, el proveïdor que inicialment va comercialitzar el sistema d'IA o el va posar en servei deixarà de considerar-se proveïdor d'aquest sistema d'IA específic a l'efecte d'aquest Reglament, i aquest proveïdor inicial cooperarà estretament amb els nous proveïdors i posarà a disposició la informació necessària i proporcionarà l'accés tècnic raonablement esperat i altra assistència que es requereixi per al compliment de l'avaluació de conformitat dels sistemes d'IA d'alt risc. Aquest paràgraf no s'aplicarà en els casos en què el proveïdor inicial hagi especificat clarament que el seu sistema d'IA no es canviarà a un sistema d'IA d'alt risc i, per tant, no entra dins de l'obligació de lliurar la documentació.

En el cas dels sistemes d'IA d'alt risc que siguin components de seguretat dels productes inclosos en la legislació d'harmonització de la Unió que figura en l'apartat A de l'Annex I, el fabricant de productes serà considerat el proveïdor del sistema d'IA d'alt risc, i estarà subjecte a les obligacions previstes en l'article 16 en qualsevol de les següents circumstàncies: (a) el sistema d'IA d'alt risc es comercialitza juntament amb el producte sota el nom o marca del fabricant del producte; (b) el sistema d'IA d'alt risc es posa en servei sota el nom o marca del fabricant del producte després que el producte hagi estat posat en el mercat.

4. El prestador d'un sistema d'IA d'alt risc i el tercer que subministri un sistema d'IA, eines, serveis, components o processos que s'utilitzin o s'integrin en un sistema d'IA d'alt risc ha d'especificar per escrit la informació necessària, les capacitats, l'accés tècnic i altra assistència basada en l'estat de la tècnica generalment reconegut, amb la finalitat de permetre al prestador del sistema d'IA d'alt risc complir plenament amb les obligacions disposades en aquest Reglament. Aquest paràgraf no s'aplica a tercers que facin accessible a les eines, serveis, processos o components públics, diferents dels models d'IA d'ús general, sota una llicència lliure i de codi obert.

Article 26

Els desplegadors de sistemes d'intel·ligència artificial d'alt risc prendran les mesures tècniques i organitzatives apropiades per garantir que utilitzen aquests sistemes d'acord amb les instruccions d'ús que acompanyen els sistemes, d'acord amb els apartats 3 i 6.

Els agents han d'assignar la supervisió humana a les persones físiques que tinguin la competència, la formació i l'autoritat necessàries, així com el suport necessari.

Les obligacions recollides en els apartats 1 i 2, sense perjudici d'altres obligacions de desplegament en virtut de la legislació nacional o de la Unió i de la llibertat de l'empresa per organitzar els seus propis recursos i activitats amb la finalitat d'aplicar les mesures de supervisió humana indicades pel prestador.

Sense perjudici dels paràgrafs 1 i 2, en la mesura en què el desplegador exerceixi el control sobre les dades d'entrada, aquest haurà de garantir que les dades d'entrada siguin rellevants i prou representatives a la vista de la finalitat prevista del sistema d'intel·ligència artificial d'alt risc.

El sistema d'intel·ligència artificial d'alt risc (IA) és un sistema d'intel·ligència artificial d'alt risc (IA), un sistema d'intel·ligència artificial d'alt risc (IA) d'acord amb el que estableix l'article 72. En el cas que l'usuari tingui motius per considerar que l'ús del sistema d'intel·ligència artificial d'alt risc (IA) d'acord amb les instruccions de l'article 79.1 pot donar lloc al fet que el sistema d'intel·ligència artificial presenti un risc en el sentit de l'article 79.1.

Per als desplegadors que siguin entitats financeres subjectes a requisits pel que fa a la seva governança interna, els acords o els processos en virtut de la llei de serveis financers de la Unió, l'obligació de seguiment establerta en el primer paràgraf es considerarà que es compleix complint amb les normes sobre els acords, processos i mecanismes de governança interna de conformitat amb la llei de serveis financers pertinent.

Els desplegadors de sistemes d'IA d'alt risc conservaran els registres generats automàticament per aquest sistema d'IA d'alt risc en la mesura en què aquests registres estiguin sota el seu control, durant un període adequat a la finalitat prevista del sistema d'IA d'alt risc, d'almenys sis mesos, tret que es disposi el contrari en la legislació aplicable de la Unió o en la legislació nacional, en particular en la legislació de la Unió sobre la protecció de dades personals.

Els agents que siguin institucions financeres subjectes a requisits pel que fa a la seva governança interna, acords o processos en virtut de la llei de serveis financers de la Unió han de mantenir els registres com a part de la documentació que es manté d'acord amb la llei de serveis financers de la Unió pertinent.

Abans de posar en servei o utilitzar un sistema d'intel·ligència artificial d'alt risc en el lloc de treball, els ocupadors han d'informar els representants dels treballadors i els treballadors afectats que estaran subjectes a l'ús del sistema d'intel·ligència artificial d'alt risc. Aquesta informació es proporcionarà, si escau, d'acord amb les normes i procediments establerts en la legislació i la pràctica de la Unió i nacionals sobre la informació dels treballadors i els seus representants.

Els agents de sistemes d'IA d'alt risc que siguin autoritats públiques o institucions, organismes, oficines o agències de la Unió compliran amb les obligacions de registre a què es refereix l'article 49. Quan aquests agents trobin que el sistema d'IA d'alt risc que preveuen utilitzar no s'ha registrat en la base de dades de la UE a la qual es refereix l'article 71, no utilitzaran aquest sistema i informaran el proveïdor o el distribuïdor.

Si escau, els desplegadors de sistemes d'IA d'alt risc utilitzaran la informació proporcionada en virtut de l'article 13 d'aquest Reglament per complir amb la seva obligació de dur a terme una avaluació d'impacte de protecció de dades en virtut de l'article 35 del Reglament (UE) 2016/679 o de l'article 27 de la Directiva (UE) 2016/680.

Sense perjudici de la Directiva (UE) 2016/680, en el marc d'una investigació per a la recerca dirigida d'una persona sospitosa o condemnada d'haver comès un delicte penal, el desplegament d'un sistema d'IA d'alt risc per a la identificació biomètrica post-remot sol·licitarà una autorització, ex-ante, o sense demora indeguda i com a màxim 48 hores, per part d'una autoritat judicial o una autoritat administrativa la decisió de la qual sigui vinculant i subjecta a revisió judicial, per a l'ús d'aquest sistema, excepte quan s'utilitzi per a la identificació inicial d'un potencial sospitós basat en fets objectius i verificables directament vinculats a la infracció. Cada ús es limitarà a l'estrictament necessari per a la investigació d'un delicte concret.

Si es rebutja l'autorització sol·licitada de conformitat amb el primer paràgraf, es detindrà immediatament l'ús del sistema d'identificació biomètrica post-remota vinculat a l'autorització sol·licitada i se suprimiran les dades personals vinculades a l'ús del sistema d'intel·ligència artificial d'alt risc per al qual es va sol·licitar l'autorització.

En cap cas aquest sistema d'IA d'alt risc per a la identificació biomètrica post-remot s'utilitzarà per a fins policials de manera no dirigida, sense cap vincle amb una infracció penal, un procediment penal, una amenaça genuïna i present o una amenaça genuïna i previsible d'un delicte, o la recerca d'una persona desapareguda concreta.Es garantirà que cap decisió que produeixi un efecte jurídic advers sobre una persona pugui ser presa per les autoritats policials basades únicament en la producció d'aquests sistemes d'identificació biomètrica post-remot.

Aquest paràgraf és sens perjudici de l'article 9 del Reglament (UE) 2016/679 i de l'article 10 de la Directiva (UE) 2016/680 per al tractament de dades biomètriques.

Independentment de la finalitat o del desplegament, cada ús d'aquests sistemes d'IA d'alt risc estarà documentat en el corresponent fitxer policial i es posarà a la disposició de l'autoritat de vigilància del mercat pertinent i de l'autoritat nacional de protecció de dades sota petició, excloent la divulgació de dades operatives sensibles relacionades amb l'aplicació de la llei, sense perjudici de les competències conferides per la Directiva (UE) 2016/680 sobre autoritats de supervisió.

Els agents han de presentar informes anuals a les autoritats nacionals competents en matèria de vigilància del mercat i protecció de dades sobre l'ús de sistemes d'identificació biomètrica post-remot, excloent la divulgació de dades operatives sensibles relacionades amb l'aplicació de la llei, els informes es poden agregar per cobrir més d'un desplegament.

Els Estats membres poden introduir, de conformitat amb el Dret de la Unió, lleis més restrictives sobre l'ús de sistemes d'identificació biomètrica post-remot.

Sense perjudici de l'article 50 d'aquest Reglament, els desplegadors de sistemes d'IA d'alt risc a què fa referència l'Annex III que prenen decisions o ajuden a la presa de decisions relacionades amb les persones físiques han d'informar les persones físiques que estan subjectes a l'ús del sistema d'IA d'alt risc. Per als sistemes d'IA d'alt risc utilitzats amb finalitats policials, s'aplicarà l'article 13 de la Directiva (UE) 2016/680.

Els agents col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb el sistema d'intel·ligència artificial d'alt risc per tal d'aplicar aquest Reglament.

Els agents de sistemes d'intel·ligència artificial d'alt risc han de prendre les mesures tècniques i organitzatives apropiades per garantir que utilitzen aquests sistemes d'acord amb les instruccions d'ús que acompanyen els sistemes, d'acord amb els apartats 3 i 6.

2. Els treballadors han d'assignar la supervisió humana a les persones físiques que tinguin la competència, la formació i l'autoritat necessàries, així com el suport necessari.

3. Les obligacions recollides en els apartats 1 i 2, sense perjudici d'altres obligacions de desplegament en virtut de la legislació de la Unió o nacional i de la llibertat del desplegador d'organitzar els seus propis recursos i activitats amb la finalitat d'aplicar les mesures de supervisió humana indicades pel proveïdor.

En cas que l'usuari consideri que existeix en el lloc web algun contingut que pogués ser susceptible d'aquesta classificació, es prega ho faci saber de forma immediata a l'administrador del lloc web. En cas que l'usuari consideri que existeix en el lloc web algun contingut que pogués ser susceptible d'aquesta classificació, es prega ho faci saber de forma immediata a l'administrador del lloc web. En cas que l'usuari consideri que existeix en el lloc web algun contingut que pogués ser susceptible d'aquesta classificació, es prega ho faci saber de forma immediata a l'administrador del lloc web.

6. El desplegament de sistemes d'IA d'alt risc mantindrà els registres generats automàticament per aquest sistema d'IA d'alt risc en la mesura en què aquests registres estiguin sota el seu control, durant un període adequat a la finalitat prevista del sistema d'IA d'alt risc, d'almenys sis mesos, tret que es disposi el contrari en la legislació aplicable de la Unió o en la legislació nacional, en particular en la legislació de la Unió sobre la protecció de dades personals.

7. Abans de posar en servei o utilitzar un sistema d'intel·ligència artificial d'alt risc en el lloc de treball, els ocupadors han d'informar els representants dels treballadors i els treballadors afectats que estaran subjectes a l'ús del sistema d'intel·ligència artificial d'alt risc. Aquesta informació es proporcionarà, si escau, d'acord amb les normes i procediments establerts en la legislació i la pràctica de la Unió i nacionals sobre la informació dels treballadors i els seus representants.

8. Els agents de sistemes d'IA d'alt risc que siguin autoritats públiques o institucions, organismes, oficines o agències de la Unió compliran amb les obligacions de registre a què es refereix l'article 49. Quan aquests agents trobin que el sistema d'IA d'alt risc que preveuen utilitzar no s'ha registrat en la base de dades de la UE a la qual es refereix l'article 71, no utilitzaran aquest sistema i informaran el proveïdor o el distribuïdor.

Si escau, els desplegadors de sistemes d'IA d'alt risc utilitzaran la informació proporcionada en virtut de l'article 13 del present Reglament per complir amb la seva obligació de dur a terme una avaluació d'impacte de protecció de dades en virtut de l'article 35 del Reglament (UE) 2016/679 o de l'article 27 de la Directiva (UE) 2016/680.

10. Sense perjudici de la Directiva (UE) 2016/680, en el marc d'una investigació per a la cerca dirigida d'una persona sospitosa o condemnada per haver comès un delicte penal, el desplegament d'un sistema d'IA d'alt risc per a la identificació biomètrica post-remot ha de sol·licitar una autorització, ex-ante, o sense demora indeguda i com a màxim 48 hores, per part d'una autoritat judicial o una autoritat administrativa la decisió de la qual sigui vinculant i subjecta a revisió judicial, per a l'ús d'aquest sistema, excepte quan s'utilitzi per a la identificació inicial d'un potencial sospitós basat en fets objectius i verificables directament relacionats amb el delicte. Cada ús es limitarà a l'estrictament necessari per a la investigació d'un delicte concret.

En cas que l'usuari consideri que existeix en el lloc web algun contingut que pogués ser susceptible d'aquesta classificació, es prega ho faci saber de forma immediata a l'administrador del lloc web de conformitat amb el que disposa l'article 13 de la Directiva (UE) 2016/680, així com a qualsevol altra disposició legal que fora d'aplicació.

12. Els treballadors col·laboraran amb les autoritats competents pertinents en qualsevol acció que aquestes autoritats prenguin en relació amb el sistema d'intel·ligència artificial d'alt risc per tal d'aplicar aquest Reglament.

Article 27

En el cas d'un sistema d'intel·ligència artificial d'alt risc previst en l'apartat 2 de l'article 6, amb excepció dels sistemes d'intel·ligència artificial d'alt risc previstos en el punt 2 de l'Annex III, els desplegadors que siguin entitats privades de serveis públics, i els desplegadors de sistemes d'intel·ligència artificial d'alt risc referits en els punts 5 (b) i c) de l'Annex III, realitzaran una avaluació de l'impacte sobre els drets fonamentals que pugui produir l'ús d'aquest sistema;(b) una descripció del període de temps i la freqüència amb què es pretén utilitzar cada sistema d'intel·ligència artificial d'alt risc, tenint en compte la informació proporcionada pel proveïdor d'acord amb l'article 13;(f) les mesures a prendre en el cas de la materialització d'aquests riscos, inclosos els mecanismes de governança interna i de denúncia.

L'obligació establerta en l'apartat 1 s'aplica al primer ús del sistema d'IA d'alt risc. El desplegador pot, en casos similars, confiar en les avaluacions d'impacte de drets fonamentals realitzades prèviament o en les avaluacions d'impacte existents realitzades pel proveïdor. Si, durant l'ús del sistema d'IA d'alt risc, el desplegador considera que qualsevol dels elements enumerats en l'apartat 1 ha canviat o ja no està actualitzat, el desplegador ha de prendre les mesures necessàries per actualitzar la informació.

Un cop realitzada l'avaluació a què fa referència l'apartat 1 d'aquest article, el promotor notificarà els resultats a l'autoritat de vigilància del mercat, presentant la plantilla d'emplenament a què fa referència l'apartat 5 d'aquest article com a part de la notificació. En el cas a què fa referència l'apartat 1 de l'article 46, els agents poden quedar exempts d'aquesta obligació de notificar.

Si alguna de les obligacions previstes en aquest article ja es compleix a través de l'avaluació d'impacte de protecció de dades duta a terme de conformitat amb l'article 35 del Reglament (UE) 2016/679 o l'article 27 de la Directiva (UE) 2016/680, l'avaluació d'impacte de drets fonamentals a què fa referència l'apartat 1 d'aquest article complementarà aquesta avaluació d'impacte de protecció de dades.

L'Oficina d'Intel·ligència Artificial ha de desenvolupar una plantilla per a un qüestionari, fins i tot a través d'una eina automatitzada, per facilitar als desplegadors el compliment de les seves obligacions en virtut d'aquest article de manera simplificada.

1. Abans de desplegar un sistema d'IA d'alt risc contemplat en l'apartat 2 de l'article 6, amb excepció dels sistemes d'IA d'alt risc previstos en el punt 2 de l'Annex III, els desplegadors que siguin entitats privades que presten serveis públics, i els desplegadors de sistemes d'IA d'alt risc contemplats en els punts 5 (b) i c) de l'Annex III, realitzaran una avaluació de l'impacte sobre els drets fonamentals que pugui produir l'ús d'aquest sistema;(b) una descripció del període de temps i la freqüència amb què es pretén utilitzar cada sistema d'IA d'alt risc;(d) els riscos específics de dany susceptibles d'incidir en les categories de persones físiques o grups de persones identificades d'acord amb l'article 13;(e) una descripció de la implementació de mesures de supervisió humana, d'acord amb les instruccions d'ús;(f) les mesures a prendre en el cas de la materialització d'aquests riscos, incloses les disposicions de governança interna i els mecanismes de reclamació.

2. L'obligació establerta en l'apartat 1 s'aplica al primer ús del sistema d'intel·ligència artificial d'alt risc. El desplegador pot, en casos similars, confiar en les avaluacions d'impacte de drets fonamentals realitzades prèviament o en les avaluacions d'impacte existents realitzades pel proveïdor. Si, durant l'ús del sistema d'intel·ligència artificial d'alt risc, el desplegador considera que qualsevol dels elements enumerats en l'apartat 1 ha canviat o ja no està actualitzat, el desplegador ha de prendre les mesures necessàries per actualitzar la informació.

3. Un cop realitzada l'avaluació a què fa referència l'apartat 1 d'aquest article, el promotor notificarà els resultats a l'autoritat de vigilància del mercat, presentant la plantilla d'emplenament a què fa referència l'apartat 5 d'aquest article com a part de la notificació. En el cas a què fa referència l'apartat 1 de l'article 46, els agents poden quedar exempts d'aquesta obligació de notificar.

5. L'Oficina d'Intel·ligència Artificial ha de desenvolupar una plantilla per a un qüestionari, fins i tot a través d'una eina automatitzada, per facilitar als desplegadors el compliment de les seves obligacions en virtut d'aquest article de manera simplificada.

Article 28

Cada Estat membre designarà o establirà almenys una autoritat de notificació responsable d'establir i dur a terme els procediments necessaris per a l'avaluació, designació i notificació dels organismes d'avaluació de la conformitat i per al seu seguiment, procediments que es desenvoluparan en cooperació entre les autoritats de notificació de tots els Estats membres.

Els Estats membres poden decidir que l'avaluació i el seguiment a què es refereix l'apartat 1 ha de ser dut a terme per un organisme nacional d'acreditació en el sentit i de conformitat amb el Reglament (CE) núm. 765/2008.

Les autoritats de notificació s'establiran, organitzaran i operaran de manera que no sorgeixi cap conflicte d'interessos amb els organismes d'avaluació de la conformitat, i que es garanteixi l'objectivitat i imparcialitat de les seves activitats.

Les autoritats de notificació s'organitzaran de manera que les decisions relatives a la notificació dels òrgans d'avaluació de la conformitat siguin preses per persones competents diferents de les que van dur a terme l'avaluació d'aquests òrgans.

Les autoritats notificadores no oferiran ni prestaran cap activitat que realitzin els organismes d'avaluació de la conformitat, ni cap servei d'assessorament comercial o competitiu.

Les autoritats notificadores salvaguardaran la confidencialitat de la informació que obtinguin, d'acord amb l'article 78.

Les autoritats notificadores disposaran d'un nombre adequat de personal competent per a l'acompliment adequat de les seves tasques. El personal competent disposarà de l'experiència necessària, si escau, per a la seva funció, en àmbits com les tecnologies de la informació, la intel·ligència artificial i el dret, inclosa la supervisió dels drets fonamentals.

1. Cada Estat membre designarà o establirà almenys una autoritat notificadora responsable d'establir i dur a terme els procediments necessaris per a l'avaluació, designació i notificació dels organismes d'avaluació de la conformitat i per al seu control, procediments que es desenvoluparan en cooperació entre les autoritats notificadores de tots els Estats membres.

2. Els Estats membres poden decidir que l'avaluació i el seguiment a què es refereix l'apartat 1 l'ha de dur a terme un organisme nacional d'acreditació en el sentit i de conformitat amb el Reglament (CE) núm. 765/2008.

3. Les autoritats de notificació s'establiran, organitzaran i operaran de manera que no sorgeixi cap conflicte d'interessos amb els organismes d'avaluació de la conformitat, i que es garanteixi l'objectivitat i imparcialitat de les seves activitats.

4. Les autoritats de notificació s'organitzaran de manera que les decisions relatives a la notificació dels òrgans d'avaluació de la conformitat siguin preses per persones competents diferents de les que van dur a terme la valoració d'aquests òrgans.

Les autoritats notificadores no oferiran ni prestaran cap activitat que realitzin els organismes d'avaluació de la conformitat, ni cap servei d'assessorament comercial o competitiu.

6. La notificació a les autoritats ha de salvaguardar la confidencialitat de la informació que obtinguin, de conformitat amb l'article 78.

Article 29

Els òrgans d'avaluació de conformitat presentaran una sol·licitud de notificació a l'autoritat de notificació de l'Estat membre en el qual s'estableixin.

La sol·licitud de notificació s'acompanyarà d'una descripció de les activitats d'avaluació de conformitat, del mòdul o mòduls d'avaluació de conformitat i dels tipus de sistemes d'IA per als quals l'òrgan d'avaluació de conformitat reclama ser competent, així com d'un certificat d'acreditació, si n'hi ha, emès per un organisme nacional d'acreditació que acrediti que l'òrgan d'avaluació de conformitat compleix els requisits establerts a l'article 31.

S'afegirà qualsevol document vàlid relacionat amb les designacions existents de l'òrgan notificat del sol·licitant en virtut de qualsevol altra legislació d'harmonització de la Unió.

Quan l'òrgan d'avaluació de la conformitat en qüestió no pugui aportar un certificat d'acreditació, ha de proporcionar a l'autoritat notificadora totes les proves documentals necessàries per a la verificació, el reconeixement i el seguiment regular del seu compliment amb els requisits establerts en l'article 31.

En el cas d'organismes notificats designats d'acord amb qualsevol altra legislació d'harmonització de la Unió, tots els documents i certificats vinculats a aquestes denominacions podran ser utilitzats per a donar suport al seu procediment de designació d'acord amb aquest Reglament, si escau, l'òrgan notificat actualitzarà la documentació a què es fa referència en els apartats 2 i 3 d'aquest article sempre que es produeixin canvis pertinents, amb la finalitat de permetre a l'autoritat responsable dels organismes notificats controlar i verificar el compliment continu de tots els requisits establerts en l'article 31.

1. Els òrgans d'avaluació de conformitat presentaran una sol·licitud de notificació a l'autoritat de notificació de l'Estat membre en el qual s'estableixin.

En el cas que l'òrgan d'avaluació de la conformitat en qüestió no pugui aportar un certificat d'acreditació, ha de proporcionar a l'autoritat notificadora totes les proves documentals necessàries per a la verificació, el reconeixement i el seguiment regular del seu compliment amb els requisits establerts en l'article 31.

En el cas d'organismes notificats que siguin designats d'acord amb qualsevol altra legislació d'harmonització de la Unió, tots els documents i certificats vinculats a aquestes denominacions podran utilitzar-se per a donar suport al seu procediment de designació d'acord amb aquest Reglament, si escau, l'òrgan notificat actualitzarà la documentació a què es fa referència en els apartats 2 i 3 d'aquest article sempre que es produeixin canvis pertinents, amb la finalitat de permetre a l'autoritat responsable dels organismes notificats controlar i verificar el compliment continu de tots els requisits establerts en l'article 31.

Article 30

Les autoritats notificadores només poden notificar els organismes d'avaluació de conformitat que hagin satisfet els requisits establerts en l'article 31.

Les autoritats de notificació notificaran a la Comissió i als altres Estats membres, utilitzant l'eina de notificació electrònica desenvolupada i gestionada per la Comissió, de cada òrgan d'avaluació de la conformitat a què es refereix l'apartat 1.

La notificació a què fa referència l'apartat 2 d'aquest article inclourà tots els detalls de les activitats d'avaluació de conformitat, el mòdul o mòduls d'avaluació de conformitat, els tipus de sistemes de IA afectats i la corresponent certificació de competència. Quan una notificació no es basi en un certificat d'acreditació com es refereix l'apartat 2 de l'article 29, l'autoritat de notificació proporcionarà a la Comissió i als altres Estats membres proves documentals que acreditin la competència de l'òrgan d'avaluació de conformitat i les disposicions vigents per a garantir que aquest òrgan serà supervisat regularment i continuarà complint els requisits establerts en l'article 31.

L'organisme d'avaluació de la conformitat interessat només podrà exercir les activitats d'un organisme notificat quan la Comissió o els altres Estats membres no plantegin cap objecció en el termini de dues setmanes a partir d'una notificació per part d'una autoritat notificadora quan inclogui un certificat d'acreditació a què es refereix l'apartat 2 de l'article 29 o en el termini de dos mesos a partir d'una notificació per part de l'autoritat notificadora quan inclogui proves documentals a què es refereix l'apartat 3 de l'article 29.

En cas que es plantegin objeccions, la Comissió ha d'iniciar sense demora consultes amb els Estats membres pertinents i amb l'òrgan d'avaluació de la conformitat, a la vista de la qual cosa la Comissió decidirà si l'autorització està justificada; la Comissió ha de dirigir la seva decisió a l'Estat membre en qüestió i a l'òrgan d'avaluació de la conformitat corresponent.

Les autoritats de notificació només podran notificar als organismes d'avaluació de conformitat que hagin satisfet els requisits establerts en l'article 31.

2. Les autoritats de notificació notificaran a la Comissió i als altres Estats membres, utilitzant l'eina de notificació electrònica desenvolupada i gestionada per la Comissió, de cada òrgan d'avaluació de la conformitat a què es refereix l'apartat 1.

3. La notificació a què fa referència l'apartat 2 d'aquest article inclourà tots els detalls de les activitats d'avaluació de conformitat, el mòdul o mòduls d'avaluació de conformitat, els tipus de sistemes de IA afectats i la corresponent certificació de competència. Quan una notificació no es basi en un certificat d'acreditació com es refereix l'apartat 2 de l'article 29, l'autoritat de notificació proporcionarà a la Comissió i als altres Estats membres proves documentals que acreditin la competència de l'òrgan d'avaluació de conformitat i les disposicions vigents per a garantir que aquest òrgan serà supervisat regularment i continuarà complint els requisits establerts en l'article 31.

4. L'òrgan d'avaluació de la conformitat en qüestió podrà exercir les activitats d'un organisme notificat només quan la Comissió o els altres Estats membres no plantegin cap objecció en el termini de dues setmanes a partir d'una notificació per part d'una autoritat notificadora quan inclogui un certificat d'acreditació a què es refereix l'apartat 2 de l'article 29 o en el termini de dos mesos a partir d'una notificació per part de l'autoritat notificadora quan inclogui proves documentals a què es refereix l'apartat 3 de l'article 29.

En cas que es plantegin objeccions, la Comissió ha d'iniciar sense demora consultes amb els Estats membres pertinents i amb l'òrgan d'avaluació de la conformitat, a la vista de la qual cosa la Comissió ha de decidir si l'autorització està justificada i ha de dirigir la seva decisió a l'Estat membre en qüestió i a l'òrgan d'avaluació de la conformitat corresponent.

Article 31

Un òrgan notificat s'establirà d'acord amb la legislació nacional d'un Estat membre i tindrà personalitat jurídica.

Els organismes notificats han de satisfer els requisits organitzatius, de gestió de la qualitat, dels recursos i dels processos necessaris per complir amb les seves tasques, així com els requisits adequats de ciberseguretat.

L'estructura organitzativa, l'assignació de responsabilitats, les línies d'informació i el funcionament dels organismes notificats han de garantir la confiança en el seu rendiment i en els resultats de les activitats d'avaluació de la conformitat que duen a terme els organismes notificats.

Els organismes notificats seran independents del proveïdor d'un sistema d'IA d'alt risc en relació amb el qual realitzen activitats d'avaluació de la conformitat. Els organismes notificats també seran independents de qualsevol altre operador que tingui un interès econòmic en els sistemes d'IA d'alt risc avaluats, així com de qualsevol competidor del proveïdor. Això no exclou l'ús de sistemes d'IA d'alt risc avaluats que siguin necessaris per a les operacions de l'organisme d'avaluació de la conformitat, o l'ús d'aquests sistemes d'IA d'alt risc per a fins personals.

Ni un òrgan d'avaluació de la conformitat, ni la seva gestió d'alt nivell ni el personal responsable de dur a terme les seves tasques d'avaluació de la conformitat estaran directament involucrats en el disseny, el desenvolupament, la comercialització o l'ús de sistemes d'IA d'alt risc, ni representaran a les parts involucrades en aquestes activitats, ni participaran en cap activitat que pugui entrar en conflicte amb la seva independència de judici o integritat en relació amb les activitats d'avaluació de la conformitat per a les quals se'ls notifiqui, en particular, als serveis d'assessoria.

Els òrgans notificats s'organitzaran i operaran per tal de salvaguardar la independència, objectivitat i imparcialitat de les seves activitats. Els òrgans notificats documentaran i implementaran una estructura i procediments per salvaguardar la imparcialitat i promoure i aplicar els principis d'imparcialitat en tota la seva organització, personal i activitats d'avaluació.

Els òrgans notificats han de tenir procediments documentats que assegurin que el seu personal, les comissions, les filials, els subcontractistes i qualsevol òrgan associat o personal d'organismes externs mantingui, de conformitat amb l'article 78, la confidencialitat de la informació que entri en el seu poder durant l'execució d'activitats d'avaluació de la conformitat, excepte quan la seva divulgació sigui exigida per la llei. El personal d'organismes notificats haurà d'observar el secret professional respecte a tota la informació obtinguda en l'acompliment de les seves tasques d'acord amb aquest Reglament, excepte en relació amb les autoritats notificadores de l'Estat membre en el qual s'exerceixin les seves activitats.

Els organismes notificats tindran procediments per a la realització d'activitats que tinguin en compte la grandària d'un proveïdor, el sector en el qual opera, la seva estructura i el grau de complexitat del sistema d'IA en qüestió.

Els organismes notificats han de contractar una assegurança de responsabilitat civil apropiada per a les seves activitats d'avaluació de conformitat, tret que la responsabilitat l'assumeixi l'Estat membre en el qual s'estableixi d'acord amb la legislació nacional o que el propi Estat membre sigui directament responsable de l'avaluació de conformitat.

Els organismes notificats seran capaços de dur a terme totes les seves tasques d'acord amb aquest Reglament amb el major grau d'integritat professional i la competència necessària en l'àmbit específic, tant si aquestes tasques les duen a terme els propis organismes notificats com en el seu nom i sota la seva responsabilitat.

Els òrgans notificats han de tenir les competències internes suficients per poder avaluar de manera efectiva les tasques que duen a terme les parts externes en el seu nom. L'òrgan notificat ha de tenir la disponibilitat permanent de suficient personal administratiu, tècnic, jurídic i científic que posseeixi experiència i coneixements relacionats amb els tipus pertinents de sistemes d'IA, dades i computació de dades, i relacionats amb els requisits establerts a l'apartat 2.

Els organismes notificats participaran en les activitats de coordinació previstes en l'article 38, participaran directament, o estaran representats en les organitzacions europees de normalització, o s'asseguraran que siguin conscients i estiguin al corrent de les normes pertinents.

1. Un òrgan notificat s'establirà d'acord amb la legislació nacional d'un Estat membre i tindrà personalitat jurídica.

2. Els organismes notificats satisfaran els requisits organitzatius, de gestió de qualitat, de recursos i de procés necessaris per complir amb les seves tasques, així com els requisits adequats de ciberseguretat.

4. Els organismes notificats seran independents del proveïdor d'un sistema d'IA d'alt risc en relació amb el qual realitzen activitats d'avaluació de conformitat. Els organismes notificats també seran independents de qualsevol altre operador que tingui un interès econòmic en els sistemes d'IA d'alt risc avaluats, així com de qualsevol competidor del proveïdor. Això no exclou l'ús de sistemes d'IA d'alt risc avaluats que siguin necessaris per a les operacions de l'organisme d'avaluació de conformitat, o l'ús d'aquests sistemes d'IA d'alt risc per a fins personals.

5. Ni un òrgan d'avaluació de la conformitat, ni la seva gestió d'alt nivell ni el personal responsable de dur a terme les seves tasques d'avaluació de la conformitat estaran directament involucrats en el disseny, el desenvolupament, la comercialització o l'ús de sistemes d'IA d'alt risc, ni representaran a les parts involucrades en aquestes activitats, ni participaran en cap activitat que pugui entrar en conflicte amb la seva independència de judici o integritat en relació amb les activitats d'avaluació de la conformitat per a les quals se'ls notifiqui, en particular, als serveis d'assessoria.

Els òrgans notificats han de tenir procediments documentats que assegurin que el seu personal, les comissions, les filials, els subcontractistes i qualsevol òrgan associat o personal d'organismes externs mantingui, de conformitat amb l'article 78, la confidencialitat de la informació que entri en el seu poder durant la realització d'activitats d'avaluació de la conformitat, excepte quan la seva divulgació sigui exigida per la llei. El personal d'organismes notificats haurà d'observar el secret professional respecte a tota la informació obtinguda en l'acompliment de les seves tasques d'acord amb aquest Reglament, excepte en relació amb les autoritats notificadores de l'Estat membre en el qual s'exerceixin les seves activitats.

8. Els organismes notificats tindran procediments per a la realització d'activitats que tinguin en compte la grandària d'un proveïdor, el sector en el qual opera, la seva estructura i el grau de complexitat del sistema d'IA en qüestió.

Els organismes notificats han de contractar una assegurança de responsabilitat civil apropiada per a les seves activitats d'avaluació de conformitat, tret que la responsabilitat sigui assumida per l'Estat membre en el qual s'estableixi d'acord amb la legislació nacional o que l'Estat membre sigui directament responsable de l'avaluació de conformitat.

10. Els organismes notificats seran capaços de dur a terme totes les seves tasques d'acord amb aquest Reglament amb el major grau d'integritat professional i la competència necessària en l'àmbit específic, tant si aquestes tasques les duen a terme els propis organismes notificats com en el seu nom i sota la seva responsabilitat.

Els òrgans notificats tindran les competències internes suficients per poder avaluar de manera efectiva les tasques que duen a terme les parts externes en el seu nom. L'òrgan notificat tindrà la disponibilitat permanent de suficient personal administratiu, tècnic, jurídic i científic que posseeixi experiència i coneixements relacionats amb els tipus pertinents de sistemes d'IA, dades i computació de dades, i relacionats amb els requisits establerts a l'apartat 2.

Els organismes notificats participaran en les activitats de coordinació previstes en l'article 38 i participaran directament, o estaran representats en les organitzacions europees de normalització, o s'asseguraran que siguin conscients i estiguin al corrent de les normes pertinents.

Article 32

Quan un òrgan d'avaluació de la conformitat demostri la seva conformitat amb els criteris establerts en les normes o parts harmonitzades pertinents, les referències de les quals s'han publicat en el Diari Oficial de la Unió Europea, es presumeix que compleix els requisits establerts en l'article 31 en la mesura en què les normes harmonitzades aplicables cobreixin aquests requisits.

Article 33

Si un òrgan notificat subcontracta tasques específiques relacionades amb l'avaluació de la conformitat o recorre a una filial, s'assegurarà que el subcontractista o la subsidiària compleixi els requisits establerts en l'article 31, i informarà l'autoritat notificant en conseqüència.

Els organismes notificats assumiran la plena responsabilitat de les tasques realitzades per qualsevol subcontractista o filial.

Les activitats poden ser subcontractades o dutes a terme per una filial només amb l'acord del prestador. Els organismes notificats posaran a disposició pública una llista de les seves filials.

Els documents pertinents relatius a l'avaluació de les qualificacions del subcontractista o de la filial i el treball realitzat per ells en virtut d'aquest Reglament es mantindran a la disposició de l'autoritat notificadora durant un període de cinc anys a partir de la data de finalització de la subcontractació.

Si un òrgan notificat subcontracta tasques específiques relacionades amb l'avaluació de la conformitat o recorre a una filial, s'assegurarà que el subcontractista o la subsidiària compleixin els requisits establerts en l'article 31, i informarà l'autoritat notificant en conseqüència.

2. Els organismes notificats assumiran la plena responsabilitat de les tasques realitzades per qualsevol subcontractista o filial.

3. Les activitats poden ser subcontractades o dutes a terme per una filial només amb l'acord del prestador. Els organismes notificats posaran a disposició pública una llista de les seves filials.

4. Els documents pertinents relatius a l'avaluació de les qualificacions del subcontractista o de la filial i el treball realitzat per ells en virtut d'aquest Reglament es mantindran a la disposició de l'autoritat de notificació durant un període de cinc anys a partir de la data de finalització de la subcontractació.

Article 34

Els organismes notificats han de verificar la conformitat dels sistemes d'IA d'alt risc d'acord amb els procediments d'avaluació de la conformitat establerts a l'article 43.

Els organismes notificats evitaran càrregues innecessàries per als proveïdors a l'hora d'exercir les seves activitats, i tindran en compte la grandària del proveïdor, el sector en el qual opera, la seva estructura i el grau de complexitat del sistema d'IA d'alt risc en qüestió, en particular a la vista de minimitzar les càrregues administratives i els costos de compliment per a les microempreses i petites empreses en el sentit de la Recomanació 2003/361/CE, però l'organisme notificat respectarà el grau de rigor i el nivell de protecció requerit per al compliment del sistema d'IA d'alt risc amb els requisits d'aquest Reglament.

Els organismes notificats posaran a la seva disposició i presentaran, prèvia sol·licitud, tota la documentació pertinent, inclosa la documentació dels prestadors, a l'autoritat notificadora a què fa referència l'article 28 perquè aquesta autoritat pugui dur a terme les seves activitats d'avaluació, designació, notificació i seguiment, i facilitar l'avaluació esbossada en aquest apartat.

Els organismes notificats han de verificar la conformitat dels sistemes d'IA d'alt risc d'acord amb els procediments d'avaluació de la conformitat establerts a l'article 43.

2. Els organismes notificats evitaran càrregues innecessàries per als proveïdors a l'hora d'exercir les seves activitats, i tindran en compte la grandària del proveïdor, el sector en el qual opera, la seva estructura i el grau de complexitat del sistema d'IA d'alt risc en qüestió, en particular a la vista de minimitzar les càrregues administratives i els costos de compliment per a les microempreses i petites empreses en el sentit de la Recomanació 2003/361/CE. L'organisme notificat, no obstant això, respectarà el grau de rigor i el nivell de protecció requerit per al compliment del sistema d'IA d'alt risc amb els requisits d'aquest Reglament.

3. Els organismes notificats posaran a la seva disposició i presentaran a petició de l'autoritat de notificació a què es refereix l'article 28 tota la documentació pertinent, inclosa la documentació dels prestadors, perquè aquesta autoritat pugui dur a terme les seves activitats d'avaluació, designació, notificació i seguiment, i per facilitar l'avaluació esbossada en aquest apartat.

Article 35

La Comissió assignarà un únic número d'identificació a cada organisme notificat, fins i tot quan es notifiqui a un organisme en virtut de més d'un acte de la Unió.

La Comissió farà pública la llista dels organismes notificats en virtut d'aquest Reglament, inclosos els seus números d'identificació i les activitats per a les quals han estat notificats, i vetllarà perquè la llista es mantingui actualitzada.

1. La Comissió assignarà un únic número d'identificació a cada organisme notificat, fins i tot quan es notifiqui a un organisme en virtut de més d'un acte de la Unió.

2. La Comissió farà pública la llista dels organismes notificats en virtut d'aquest Reglament, inclosos els seus números d'identificació i les activitats per a les quals han estat notificats, i vetllarà perquè la llista es mantingui actualitzada.

Article 36

L'autoritat de notificació notificarà a la Comissió i als altres Estats membres qualsevol canvi rellevant en la notificació d'un organisme notificat a través de l'eina de notificació electrònica a la qual fa referència l'apartat 2 de l'article 30.

Els procediments establerts en els articles 29 i 30 s'aplicaran a les ampliacions de l'àmbit d'aplicació de la notificació.

Per als canvis en la notificació diferents de les ampliacions del seu àmbit d'aplicació, s'aplicaran els procediments establerts en els paràgrafs (3) a (9).

Quan un organisme notificat decideixi cessar les seves activitats d'avaluació de la conformitat, informarà l'autoritat notificadora i als prestadors interessats al més aviat possible i, en el cas d'un cessament previst, almenys un any abans del cessament de les seves activitats. Els certificats de l'organisme notificat poden romandre vàlids durant un període de nou mesos després del cessament de les activitats de l'organisme notificat, amb la condició que un altre organisme notificat hagi confirmat per escrit que assumirà les responsabilitats dels sistemes d'IA d'alt risc coberts per aquests certificats. Aquest últim òrgan notificat completarà una avaluació completa dels sistemes d'IA d'alt risc afectats per la finalització d'aquest període de nou mesos abans de l'emissió de nous certificats per a aquests sistemes. Quan l'organisme notificat hagi cessat la seva activitat, l'autoritat notificadora retirarà la designació.

Quan una autoritat de notificació tingui motius suficients per a considerar que un organisme notificat ja no compleix els requisits establerts en l'article 31, o que no compleix les seves obligacions, l'autoritat de notificació investigarà sense demora l'assumpte amb la màxima diligència, i en aquest context informarà l'organisme notificat interessat sobre les objeccions plantejades i li donarà la possibilitat de donar a conèixer les seves opinions. Si l'organisme notificat arriba a la conclusió que l'organisme notificat ja no compleix els requisits establerts en l'article 31 o que no compleix les seves obligacions, restringirà, suspendrà o retirarà la designació segons correspongui, depenent de la gravetat de l'incompliment d'aquests requisits o complirà aquestes obligacions, informarà immediatament la Comissió i als altres Estats membres en conseqüència.

Quan la seva designació hagi estat suspesa, restringida o retirada total o parcial, l'organisme notificat informarà els proveïdors afectats en un termini de 10 dies.

En cas de restricció, suspensió o retirada d'una designació, l'autoritat notificadora adoptarà les mesures adequades per a garantir que es conserven els fitxers de l'organisme notificat en qüestió, i per a posar-los a la disposició de les autoritats notificadores d'altres Estats membres i de les autoritats de vigilància del mercat a petició seva.

En cas de restricció, suspensió o retirada d'una designació, l'autoritat notificadora ha de:(a) avaluar l'impacte sobre els certificats emesos per l'organisme notificat;(b) presentar un informe sobre els seus resultats a la Comissió i als altres Estats membres en el termini de tres mesos a partir d'haver notificat els canvis en la designació;(c) exigir a l'organisme notificat que suspengui o retiri, dins d'un termini raonable determinat per l'autoritat, els certificats que s'hagin emès indegudament, amb la finalitat d'assegurar la conformitat contínua dels sistemes d'intel·ligència artificial d'alt risc en el mercat;(d) informar la Comissió i als Estats membres sobre els certificats que hagi requerit la suspensió o retirada;(e) proporcionar a les autoritats nacionals competents de l'Estat membre en el qual el proveïdor tingui el seu lloc registrat d'empresa amb tota la informació rellevant sobre els certificats dels quals hagi requerit la suspensió o retirada; aquesta autoritat ha de prendre les mesures adequades, quan sigui necessari, per evitar un risc potencial per a la salut, la seguretat o els drets fonamentals.

A excepció dels certificats emesos indegudament, i quan una designació hagi estat suspesa o restringida, els certificats continuaran sent vàlids en alguna de les circumstàncies següents: (a) l'autoritat notificadora ha confirmat, en el termini d'un mes des de la suspensió o restricció, que no hi ha cap risc per a la salut, la seguretat o els drets fonamentals en relació amb els certificats afectats per la suspensió o restricció; o (b) l'autoritat notificadora ha confirmat que durant el curs de la suspensió o restricció no s'emetran, modificaran o reexpediran certificats pertinents per a la suspensió o restricció; i en el cas que l'organisme notificador determini que l'organisme notificat no té la capacitat de donar suport als certificats existents emesos per al període de la suspensió o restricció; en el cas que l'organisme notificador determini que l'organisme notificat no té la capacitat de donar suport als certificats existents emesos, el proveïdor del sistema cobert pel certificat confirmarà per escrit a les autoritats nacionals competents de l'Estat membre en el qual tingui el seu lloc de treball registrat, que un altre organisme notificat assumeixi temporalment les funcions de l'organisme notificat per supervisar i continuar sent responsable dels certificats durant el període de suspensió o restricció.

A excepció dels certificats emesos indegudament, i quan s'hagi retirat una designació, els certificats continuaran sent vàlids durant un període de nou mesos en les següents circumstàncies: (a) l'autoritat nacional competent de l'Estat membre en què el proveïdor del sistema d'IA d'alt risc cobert pel certificat tingui el seu lloc d'empresa registrat, ha confirmat que no hi ha cap risc per a la salut, la seguretat o els drets fonamentals associats als sistemes d'IA d'alt risc en qüestió; i (b) un altre organisme notificat ha confirmat per escrit que assumirà la responsabilitat immediata d'aquests sistemes d'IA i completarà la seva avaluació en el termini de 12 mesos a partir de la retirada de la designació.

En les circumstàncies a què fa referència el primer paràgraf, l'autoritat nacional competent de l'Estat membre en el qual el proveïdor del sistema cobert pel certificat tingui el seu lloc de treball podrà prorrogar la validesa provisional dels certificats per períodes addicionals de tres mesos, que no superaran en total els 12 mesos.

L'autoritat nacional competent o l'organisme notificat que assumeixi les funcions de l'organisme notificat afectat pel canvi de designació informaran immediatament la Comissió, als altres Estats membres i als altres organismes notificats d'aquest.

Els procediments establerts en els articles 29 i 30 s'aplicaran a les ampliacions de l'àmbit d'aplicació de la notificació.

En el cas que un organisme notificat decideixi cessar les seves activitats d'avaluació de la conformitat, informarà l'autoritat notificadora i als prestadors interessats al més aviat possible i, en el cas d'un cessament previst, almenys un any abans del cessament de les seves activitats. Els certificats de l'organisme notificat poden romandre vàlids durant un període de nou mesos després del cessament de les activitats de l'organisme notificat, amb la condició que un altre òrgan notificat hagi confirmat per escrit que assumirà les responsabilitats dels sistemes d'IA d'alt risc coberts per aquests certificats. Aquest últim òrgan notificat completarà una avaluació completa dels sistemes d'IA d'alt risc afectats per la finalització d'aquest període de nou mesos abans d'emetre nous certificats per a aquests sistemes. Quan l'organisme notificat hagi cessat la seva activitat, l'autoritat notificadora retirarà la designació.

4. Quan una autoritat notificadora tingui motius suficients per a considerar que un organisme notificat ja no compleix els requisits establerts en l'article 31, o que no compleix les seves obligacions, l'autoritat notificadora investigarà sense demora l'assumpte amb la màxima diligència, i en aquest context informarà l'organisme notificat interessat sobre les objeccions plantejades i li donarà la possibilitat de donar a conèixer les seves opinions. Si l'organisme notificador arriba a la conclusió que l'organisme notificat ja no compleix els requisits establerts en l'article 31 o que no compleix les seves obligacions, restringirà, suspendrà o retirarà la designació segons correspongui, en funció de la gravetat de l'incompliment d'aquests requisits o d'aquestes obligacions, informarà immediatament la Comissió i als altres Estats membres en conseqüència.

Quan la seva designació hagi estat suspesa, restringida o retirada total o parcial, l'organisme notificat informarà els proveïdors afectats en un termini de 10 dies.

6. En cas de restricció, suspensió o retirada d'una designació, l'autoritat notificadora adoptarà les mesures adequades per garantir que es conserven els fitxers de l'organisme notificat en qüestió, i per posar-los a la disposició de les autoritats notificadores d'altres Estats membres i de les autoritats de vigilància del mercat a petició seva.

7. En cas de restricció, suspensió o retirada d'una designació, l'autoritat notificadora ha de:(a) avaluar l'impacte sobre els certificats emesos per l'organisme notificat;(b) presentar un informe sobre els seus resultats a la Comissió i als altres Estats membres en el termini de tres mesos a partir d'haver notificat els canvis en la designació;(c) exigir a l'organisme notificat que suspengui o retiri, dins d'un termini raonable determinat per l'autoritat, els certificats que s'hagin emès indegudament, amb la finalitat d'assegurar la conformitat contínua dels sistemes d'intel·ligència artificial d'alt risc en el mercat;(d) informar la Comissió i als Estats membres sobre els certificats que hagi requerit la suspensió o retirada;(e) proporcionar a les autoritats nacionals competents de l'Estat membre en el qual el proveïdor tingui el seu lloc registrat d'empresa amb tota la informació rellevant sobre els certificats dels quals hagi requerit la suspensió o retirada; aquesta autoritat ha de prendre les mesures adequades, quan sigui necessari, per evitar un risc potencial per a la salut, la seguretat o els drets fonamentals.

8. Amb excepció dels certificats emesos indegudament, i quan una designació hagi estat suspesa o restringida, els certificats continuaran sent vàlids en alguna de les circumstàncies següents: (a) l'autoritat notificadora ha confirmat, en el termini d'un mes des de la suspensió o restricció, que no hi ha cap risc per a la salut, la seguretat o els drets fonamentals en relació amb els certificats afectats per la suspensió o restricció; o (b) l'autoritat notificadora ha confirmat que durant el curs de la suspensió o restricció no s'emetran, modificaran o reexpediran certificats pertinents per a la suspensió o restricció; i en el cas que l'autoritat notificadora determini que l'organisme notificat no té la capacitat de donar suport als certificats existents emesos per al període de la suspensió o restricció; en el cas que l'organisme notificat determini que l'organisme notificat no té la capacitat de donar suport als certificats existents emesos, el proveïdor del sistema cobert pel certificat confirmarà per escrit a les autoritats nacionals competents de l'Estat membre en el qual tingui el seu lloc de treball registrat, que un altre òrgan notificat assumeixi temporalment les funcions de l'organisme notificat per supervisar i continuar sent responsable dels certificats durant el període de suspensió o restricció.

9. Amb excepció dels certificats emesos indegudament, i quan s'hagi retirat una designació, els certificats continuaran sent vàlids durant un període de nou mesos en les següents circumstàncies: (a) l'autoritat nacional competent de l'Estat membre en què el proveïdor del sistema d'IA d'alt risc cobert pel certificat tingui el seu lloc d'empresa registrat, ha confirmat que no hi ha cap risc per a la salut, la seguretat o els drets fonamentals associats als sistemes d'IA d'alt risc en qüestió; i (b) un altre organisme notificat ha confirmat per escrit que assumirà la responsabilitat immediata d'aquests sistemes d'IA i completarà la seva avaluació en el termini de 12 mesos a partir de la retirada de la designació.

Article 37

La Comissió investigarà, quan sigui necessari, tots els casos en què hi hagi motius per a dubtar de la competència d'un organisme notificat o del compliment continuat per un òrgan notificat dels requisits establerts en l'article 31 i de les seves responsabilitats aplicables.

L'autoritat de notificació facilitarà a la Comissió, prèvia sol·licitud, tota la informació rellevant relativa a la notificació o al manteniment de la competència de l'organisme notificat en qüestió.

La Comissió garantirà que tota la informació sensible obtinguda en el curs de les seves recerques de conformitat amb aquest article sigui tractada de manera confidencial de conformitat amb l'article 78.

En cas que la Comissió determini que un organisme notificat no compleix o ja no compleix els requisits per a la seva notificació, informarà l'Estat membre notificador en conseqüència i li sol·licitarà que prengui les mesures correctives necessàries, inclosa la suspensió o retirada de la notificació, en cas que l'Estat membre no prengui les mesures correctives necessàries, la Comissió podrà, mitjançant un acte d'execució, suspendre, restringir o retirar la designació, que s'adoptarà de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

2. L'autoritat notificadora facilitarà a la Comissió, prèvia sol·licitud, tota la informació rellevant relativa a la notificació o al manteniment de la competència de l'organisme notificat en qüestió.

3. La Comissió garantirà que tota la informació sensible obtinguda en el curs de les seves recerques de conformitat amb aquest article sigui tractada de manera confidencial de conformitat amb l'article 78.

Si la Comissió determina que un organisme notificat no compleix o deixa de complir els requisits per a la seva notificació, informarà l'Estat membre notificador en conseqüència i li sol·licitarà que prengui les mesures correctives necessàries, inclosa la suspensió o retirada de la notificació si fos necessari. En cas que l'Estat membre no prengui les mesures correctives necessàries, la Comissió podrà, mitjançant un acte d'execució, suspendre, restringir o retirar la designació, que s'adoptarà de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

Article 38

La Comissió ha d'assegurar que, pel que fa als sistemes d'intel·ligència artificial d'alt risc, s'estableixi una coordinació i cooperació adequades entre els organismes notificats actius en els procediments d'avaluació de la conformitat conformement a aquest Reglament i s'operin adequadament en forma d'un grup sectorial d'organismes notificats.

Cada autoritat de notificació s'assegurarà que els organismes notificats per ella participin en el treball d'un grup al qual es fa referència en l'apartat 1, directament o a través de representants designats.

La Comissió facilitarà l'intercanvi de coneixements i bones pràctiques entre les autoritats notificadores.

1. La Comissió garantirà que, pel que fa als sistemes d'intel·ligència artificial d'alt risc, s'estableixi una coordinació i una cooperació adequades entre els organismes notificats actius en els procediments d'avaluació de la conformitat conformement a aquest Reglament i que siguin degudament operats en forma d'un grup sectorial d'organismes notificats.

2. Cada autoritat notificant s'assegurarà que els organismes notificats per ella participin en el treball d'un grup al qual es refereix l'apartat 1, directament o a través de representants designats.

3. La Comissió facilitarà l'intercanvi de coneixements i bones pràctiques entre les autoritats notificadores.

Article 39

Els òrgans d'avaluació de la conformitat establerts en virtut de la llei d'un tercer país amb el qual la Unió hagi conclòs un acord poden estar autoritzats a dur a terme les activitats d'organismes notificats en virtut d'aquest Reglament, sempre que compleixin els requisits establerts en l'article 31 o garanteixin un nivell equivalent de compliment.

Article 40

Els sistemes d'IA d'alt risc o els models d'IA d'ús general que siguin conformes amb normes o parts harmonitzades de les referències de les quals s'hagin publicat en el Diari Oficial de la Unió Europea d'acord amb el Reglament (UE) núm. 1025/2012 es presumiran conformes amb els requisits establerts en l'apartat 2 d'aquest capítol o, si escau, amb les obligacions establertes en els apartats V, 2 i 3, d'aquest Reglament, en la mesura que aquestes normes cobreixin aquests requisits o obligacions.

D'acord amb l'article 10 del Reglament (UE) núm. 1025/2012, la Comissió emetrà, sense demora indeguda, sol·licituds d'estandardització que cobreixin tots els requisits establerts en l'apartat 2 d'aquest capítol i, si escau, sol·licituds d'estandardització que cobreixin les obligacions establertes en els capítols V, apartats 2 i 3, d'aquest Reglament. La sol·licitud d'estandardització també demanarà lliuraments sobre els processos d'informació i documentació per millorar el rendiment dels recursos dels sistemes d'IA, com ara la reducció del consum d'energia i d'altres recursos del sistema d'IA d'alt risc durant el seu cicle de vida, i sobre el desenvolupament eficient energèticament dels models d'IA d'ús general.

A l'hora d'emetre una sol·licitud de normalització a les organitzacions europees de normalització, la Comissió ha d'especificar que les normes han de ser clares i coherents, fins i tot amb les normes desenvolupades en els diferents sectors per als productes inclosos en la legislació vigent d'harmonització de la Unió que figura en l'Annex I, i amb l'objectiu de garantir que els sistemes d'IA d'alt risc o els models d'IA de propòsit general comercialitzats o posats en servei en la Unió compleixin els requisits o obligacions pertinents establerts en aquest Reglament.

La Comissió sol·licitarà a les organitzacions europees de normalització que aportin proves dels seus millors esforços per a complir els objectius esmentats en el primer i el segon paràgraf d'aquest paràgraf de conformitat amb l'article 24 del Reglament (UE) núm. 1025/2012.

Els participants en el procés de normalització tractaran de promoure la inversió i la innovació en IA, fins i tot a través de l'augment de la seguretat jurídica, així com la competitivitat i el creixement del mercat de la Unió, per a contribuir a enfortir la cooperació mundial en matèria de normalització i tenint en compte les normes internacionals existents en l'àmbit de la IA que siguin coherents amb els valors de la Unió, els drets i els interessos fonamentals, i per a millorar la governança de les múltiples parts interessades que garanteixi una representació equilibrada dels interessos i la participació efectiva de totes les parts interessades d'acord amb els articles 5, 6 i 7 del Reglament (UE) núm. 1025/2012.

Els sistemes d'IA d'alt risc o models d'IA d'ús general que siguin conformes amb normes o parts harmonitzades de les referències de les quals s'hagin publicat en el Diari Oficial de la Unió Europea d'acord amb el Reglament (UE) núm. 1025/2012 es presumiran conformes amb els requisits establerts en l'apartat 2 d'aquest capítol o, si escau, amb les obligacions establertes en els apartats V, 2 i 3, d'aquest Reglament, en la mesura que aquestes normes cobreixin aquests requisits o obligacions.

D'acord amb l'article 10 del Reglament (UE) núm. 1025/2012, la Comissió emetrà, sense demora indeguda, sol·licituds d'estandardització que cobreixin tots els requisits establerts en l'apartat 2 d'aquest capítol i, si escau, sol·licituds d'estandardització que cobreixin les obligacions establertes en els capítols V, apartats 2 i 3 d'aquest Reglament. La sol·licitud d'estandardització també demanarà lliuraments sobre els processos d'informació i documentació per millorar el rendiment dels recursos dels sistemes d'IA, com ara la reducció del consum d'energia i d'altres recursos del sistema d'IA d'alt risc durant el seu cicle de vida, i sobre el desenvolupament eficient energèticament dels models d'IA d'ús general.

Els participants en el procés de normalització tractaran de promoure la inversió i la innovació en IA, fins i tot a través de l'augment de la seguretat jurídica, així com la competitivitat i el creixement del mercat de la Unió, per a contribuir a reforçar la cooperació mundial en matèria de normalització i tenint en compte les normes internacionals existents en l'àmbit de la IA que siguin coherents amb els valors de la Unió, els drets i els interessos fonamentals, i per a millorar la governança de les múltiples parts interessades que garanteixi una representació equilibrada dels interessos i la participació efectiva de totes les parts interessades d'acord amb els articles 5, 6 i 7 del Reglament (UE) núm. 1025/2012.

Article 41

La Comissió pot adoptar actes d'aplicació que estableixin especificacions comunes per als requisits establerts en la secció 2 d'aquest capítol o, si escau, per a les obligacions establertes en les seccions 2 i 3 del capítol V quan s'hagin complert les següents condicions:(a) la Comissió ha sol·licitat, de conformitat amb l'apartat 1 de l'article 10 del Reglament (UE) núm. 1025/2012, que una o més organitzacions europees de normalització elaborin una norma harmonitzada per als requisits establerts en la secció 2 i 3 del capítol V, i:(b) que no es faci referència a normes harmonitzades que cobreixin els requisits esmentats en la secció 2 d'aquest capítol o, si escau, que les obligacions contemplades en les seccions 2 i 3 del capítol V s'hagin publicat en el Diari Oficial de la Unió Europea de conformitat amb el Reglament (UE) núm. 1025/2012, i que aquesta referència no es publiqui dins d'un termini raonable.

En redactar les especificacions comunes, la Comissió consultarà el fòrum consultiu al qual fa referència l'article 67.

Els actes d'execució esmentats en el primer paràgraf d'aquest paràgraf s'adoptaran de conformitat amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

Abans d'elaborar un projecte d'acte d'execució, la Comissió informarà la comissió a la qual es refereix l'article 22 del Reglament (UE) núm. 1025/2012 que considera que es compleixen les condicions previstes en l'apartat 1 d'aquest article.

Els sistemes d'IA d'alt risc o els models d'IA d'ús general que s'ajustin a les especificacions comunes a què es refereix l'apartat 1, o parts d'aquestes especificacions, es presumiran conformes amb els requisits establerts a l'apartat 2 d'aquest capítol o, si escau, per complir amb les obligacions a què es refereix l'apartat 2 i 3 del capítol V, en la mesura que aquestes especificacions comunes cobreixin aquests requisits o aquestes obligacions.

Quan una norma harmonitzada sigui aprovada per una organització europea de normalització i proposada a la Comissió per a la publicació de la seva referència en el Diari Oficial de la Unió Europea, la Comissió avaluarà la norma harmonitzada d'acord amb el Reglament (UE) núm. 1025/2012. Quan es publiqui una norma harmonitzada en el Diari Oficial de la Unió Europea, la Comissió revocarà els actes d'execució a què es refereix l'apartat 1, o parts d'aquests que cobreixin els mateixos requisits establerts en la secció 2 d'aquest capítol o, si escau, les mateixes obligacions establertes en les seccions 2 i 3 del capítol V.

Quan els proveïdors de sistemes d'intel·ligència artificial d'alt risc o models d'intel·ligència artificial de propòsit general no compleixin amb les especificacions comunes a què es refereix l'apartat 1, justificaran degudament que hagin adoptat solucions tècniques que compleixin els requisits a què es refereix l'apartat 2 d'aquest capítol o, si escau, compleixin amb les obligacions establertes en els apartats 2 i 3 del capítol V a un nivell almenys equivalent a aquest.

Quan un Estat membre consideri que una especificació comuna no compleix per complet els requisits establerts en l'apartat 2 o, si escau, compleix amb les obligacions establertes en els apartats 2 i 3 del capítol V, informarà la Comissió d'aquesta informació amb una explicació detallada i, si escau, modificarà l'acte d'execució que estableixi l'especificació comuna en qüestió.

La Comissió pot adoptar, mitjançant actes d'aplicació que estableixin especificacions comunes per als requisits establerts en la secció 2 d'aquest capítol o, si escau, per a les obligacions establertes en les seccions 2 i 3 del capítol V quan s'hagin complert les següents condicions:(a) la Comissió ha sol·licitat, de conformitat amb l'apartat 1 de l'article 10 del Reglament (UE) núm. 1025/2012, que una o més organitzacions europees de normalització elaborin una norma harmonitzada per als requisits establerts en la secció 2 i 3 del capítol V, i:(b) no s'ha publicat cap referència a les normes harmonitzades que cobreixin els requisits esmentats en la secció 2 d'aquest capítol o, si escau, les obligacions contemplades en les seccions 2 i 3 del capítol V de conformitat amb el Reglament (UE) núm. 1025/2012, i no s'espera que aquesta referència es publiqui en un termini raonable.

2. Abans d'elaborar un projecte d'acte d'execució, la Comissió informarà la comissió a la qual es refereix l'article 22 del Reglament (UE) núm. 1025/2012 que considera que es compleixen les condicions previstes en l'apartat 1 d'aquest article.

3. Els sistemes d'IA d'alt risc o els models d'IA d'ús general que siguin conformes amb les especificacions comunes a què es refereix l'apartat 1, o parts d'aquestes especificacions, es presumirà que són conformes amb els requisits establerts a l'apartat 2 d'aquest capítol o, si escau, per complir amb les obligacions a què es refereix l'apartat 2 i 3 del capítol V, en la mesura que aquestes especificacions comunes cobreixin aquests requisits o aquestes obligacions.

4. Quan una norma harmonitzada sigui aprovada per una organització europea de normalització i proposada a la Comissió per a la publicació de la seva referència en el Diari Oficial de la Unió Europea, la Comissió avaluarà la norma harmonitzada d'acord amb el Reglament (UE) núm. 1025/2012. Quan es publiqui una norma harmonitzada en el Diari Oficial de la Unió Europea, la Comissió revocarà els actes d'execució a què es refereix l'apartat 1, o parts d'aquests que cobreixin els mateixos requisits establerts en la secció 2 d'aquest capítol o, si escau, les mateixes obligacions establertes en les seccions 2 i 3 del capítol V.

Si un Estat membre considera que una especificació comuna no compleix per complet els requisits establerts en l'apartat 2 o, si escau, compleix amb les obligacions establertes en els apartats 2 i 3 del capítol V, informarà la Comissió d'aquesta informació amb una explicació detallada i, si escau, modificarà l'acte d'execució que estableixi l'especificació comuna en qüestió.

Article 42

Els sistemes d'intel·ligència artificial d'alt risc que hagin estat entrenats i provats sobre dades que reflecteixin l'entorn geogràfic, conductual, contextual o funcional específic en el qual estan destinats a ser utilitzats, es presumiran que compleixen amb els requisits pertinents establerts en l'apartat 4 de l'article 10.

Els sistemes d'IA d'alt risc que hagin estat certificats o per als quals s'hagi emès una declaració de conformitat en virtut d'un esquema de ciberseguretat d'acord amb el Reglament (UE) 2019/881 i les referències dels quals hagin estat publicades en el Diari Oficial de la Unió Europea es presumiran que compleixen amb els requisits de ciberseguretat establerts en l'article 15 d'aquest Reglament en la mesura que el certificat de ciberseguretat o declaració de conformitat o parts d'aquest cobreixin aquests requisits.

1. Els sistemes d'intel·ligència artificial d'alt risc que hagin estat entrenats i provats sobre dades que reflecteixin l'entorn geogràfic, conductual, contextual o funcional específic en el qual estan destinats a ser utilitzats es presumiran que compleixen amb els requisits pertinents establerts en l'apartat 4 de l'article 10.

2. Els sistemes d'IA d'alt risc que hagin estat certificats o per als quals s'hagi emès una declaració de conformitat en virtut d'un esquema de ciberseguretat d'acord amb el Reglament (UE) 2019/881 i les referències dels quals hagin estat publicades en el Diari Oficial de la Unió Europea es presumiran que compleixen amb els requisits de ciberseguretat establerts en l'article 15 d'aquest Reglament en la mesura que el certificat de ciberseguretat o declaració de conformitat o parts d'aquest cobreixin aquests requisits.

Article 43

Per als sistemes d'IA d'alt risc enumerats en el punt 1 de l'Annex III, on, en demostrar el compliment d'un sistema d'IA d'alt risc amb els requisits establerts en l'apartat 2, el proveïdor ha aplicat normes harmonitzades a què fa referència l'article 40, o, si escau, especificacions comunes a què fa referència l'article 41, el proveïdor ha d'optar per un dels següents procediments d'avaluació de conformitat basats en:(a) el control intern a què fa referència l'Annex VI; o(b) l'avaluació del sistema de gestió de la qualitat i l'avaluació de la documentació tècnica, amb la participació d'un organisme notificat, a què fa referència l'Annex VII.

En demostrar el compliment d'un sistema d'intel·ligència artificial d'alt risc amb els requisits establerts en l'apartat 2, el proveïdor ha de seguir el procediment d'avaluació de la conformitat establert en l'Annex VII en el qual:(a) no existeixen normes harmonitzades a les quals es refereix l'article 40, i les especificacions comunes a les quals es refereix l'article 41 no estan disponibles;(b) el proveïdor no ha aplicat o només ha aplicat una part de la norma harmonitzada;(c) les especificacions comunes a les quals es refereix el punt (a), però el proveïdor no les ha aplicat;(d) una o més de les normes harmonitzades a les quals es refereix el punt (a) s'han publicat amb una restricció, i només per part de la norma restringida.

A l'efecte del procediment d'avaluació de la conformitat a què es refereix l'Annex VII, el prestador podrà triar qualsevol dels organismes notificats, però, quan es pretengui posar en servei el sistema d'IA d'alt risc per part de les autoritats policials, d'immigració o d'asil o per part d'institucions, òrgans, oficines o agències de la Unió, l'autoritat de vigilància del mercat a la qual es refereix l'article 74, apartat 8, o (9), segons correspongui, actuarà com a òrgan notificat.

Per als sistemes d'intel·ligència artificial d'alt risc als quals es fa referència en els punts 2 a 8 de l'Annex III, els proveïdors hauran de seguir el procediment d'avaluació de la conformitat basat en el control intern al qual fa referència l'Annex VI, que no preveu la participació d'un organisme notificat.

Per als sistemes d'IA d'alt risc inclosos en la legislació d'harmonització de la Unió que figura en l'apartat A de l'Annex I, el prestador ha de seguir el procediment d'avaluació de la conformitat corresponent segons els actes legals. Els requisits establerts en l'apartat 2 d'aquest capítol s'aplicaran als sistemes d'IA d'alt risc i formaran part d'aquesta avaluació. Els punts 4.3., 4.4., 4.5. i el paràgraf cinquè del punt 4.6 de l'Annex VII també seran aplicables.

A l'efecte d'aquesta avaluació, els organismes notificats que hagin estat notificats en virtut d'aquests actes jurídics tindran dret a controlar la conformitat dels sistemes d'IA d'alt risc amb els requisits establerts a l'apartat 2, sempre que s'hagi avaluat el compliment d'aquests organismes notificats amb els requisits establerts a l'article 31, apartat 4, (5), (10) i (11) en el context del procediment de notificació en virtut d'aquests actes legals.

Quan un acte jurídic enumerat en la secció A de l'Annex I permet al fabricant de productes excloure's d'una avaluació de conformitat de tercers, sempre que aquest fabricant hagi aplicat totes les normes harmonitzades que cobreixin tots els requisits pertinents, aquest fabricant només podrà utilitzar aquesta opció si també ha aplicat normes harmonitzades o, si escau, especificacions comunes esmentades en l'article 41, que abasten tots els requisits establerts en la secció 2 d'aquest capítol.

Els sistemes d'IA d'alt risc que ja hagin estat objecte d'un procediment d'avaluació de la conformitat se sotmetran a un nou procediment d'avaluació de la conformitat en cas d'una modificació substancial, independentment de si el sistema modificat està destinat a ser distribuït posteriorment o segueix sent utilitzat pel desplegador actual.

Per als sistemes d'IA d'alt risc que segueixin aprenent després de la seva comercialització o posada en servei, els canvis en el sistema d'IA d'alt risc i el seu rendiment que hagin estat predeterminats pel proveïdor en el moment de l'avaluació de conformitat inicial i que formin part de la informació continguda en la documentació tècnica a què fa referència el punt 2(f) de l'Annex IV, no constituiran una modificació substancial.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar els annexos VI i VII actualitzant-los a la llum del progrés tècnic.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar els apartats 1 i 2 d'aquest article per a sotmetre els sistemes d'IA d'alt risc als quals es fa referència en els punts 2 a 8 de l'Annex III al procediment d'avaluació de la conformitat a què es refereix l'Annex VII o parts d'aquest, tenint en compte l'eficàcia del procediment d'avaluació de la conformitat basat en el control intern al qual fa referència l'Annex VI per a prevenir o minimitzar els riscos per a la salut i la seguretat i la protecció dels drets fonamentals plantejats per aquests sistemes, així com la disponibilitat de capacitats i recursos adequats entre els organismes notificats.

En el cas dels sistemes d'IA d'alt risc enumerats en el punt 1 de l'Annex III, on, en demostrar el compliment d'un sistema d'IA d'alt risc amb els requisits establerts en l'apartat 2, el proveïdor ha aplicat normes harmonitzades a què fa referència l'article 40, o, si escau, especificacions comunes a què fa referència l'article 41, el proveïdor ha d'optar per un dels següents procediments d'avaluació de conformitat basats en:(a) el control intern a què fa referència l'Annex VI; o(b) l'avaluació del sistema de gestió de la qualitat i l'avaluació de la documentació tècnica, amb la participació d'un organisme notificat, a què fa referència l'Annex VII.

2. Per als sistemes d'intel·ligència artificial d'alt risc als quals es fa referència en els punts 2 a 8 de l'Annex III, els proveïdors hauran de seguir el procediment d'avaluació de la conformitat basat en el control intern al qual fa referència l'Annex VI, que no preveu la participació d'un organisme notificat.

3. Per als sistemes d'IA d'alt risc inclosos en la legislació d'harmonització de la Unió que figura en l'apartat A de l'Annex I, el prestador ha de seguir el procediment d'avaluació de la conformitat corresponent segons els actes legals. Els requisits establerts en l'apartat 2 d'aquest capítol s'aplicaran als sistemes d'IA d'alt risc i formaran part d'aquesta avaluació. Els punts 4.3., 4.4., 4.5. i el paràgraf cinquè del punt 4.6 de l'Annex VII també s'aplicaran.

4. Els sistemes d'IA d'alt risc que ja hagin estat objecte d'un procediment d'avaluació de la conformitat se sotmetran a un nou procediment d'avaluació de la conformitat en cas d'una modificació substancial, independentment de si el sistema modificat està destinat a ser distribuït posteriorment o segueix sent utilitzat per l'actual desplegador.

5. La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar els annexos VI i VII actualitzant-los a la llum del progrés tècnic.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar els apartats 1 i 2 d'aquest article per a sotmetre els sistemes d'IA d'alt risc als quals es fa referència en els punts 2 a 8 de l'Annex III al procediment d'avaluació de la conformitat a què es refereix l'Annex VII o parts d'aquest, tenint en compte l'eficàcia del procediment d'avaluació de la conformitat basat en el control intern a què es refereix l'Annex VI per a prevenir o minimitzar els riscos per a la salut i la seguretat i la protecció dels drets fonamentals plantejats per aquests sistemes, així com la disponibilitat de capacitats i recursos adequats entre els organismes notificats.

Article 44

Els certificats expedits per organismes notificats d'acord amb l'Annex VII s'han d'elaborar en un idioma que pugui ser entès fàcilment per les autoritats competents de l'Estat membre en què s'estableixi l'organisme notificat.

Els certificats seran vàlids durant el període que indiquin, que no excedirà de cinc anys per als sistemes d'IA coberts per l'Annex I, i quatre anys per als sistemes d'IA coberts per l'Annex III. A petició del proveïdor, la validesa d'un certificat es podrà prorrogar per períodes addicionals, cadascun dels quals no superi els cinc anys per als sistemes d'IA coberts per l'Annex I, i quatre anys per als sistemes d'IA coberts per l'Annex III, sobre la base d'una reavaluació d'acord amb els procediments d'avaluació de conformitat aplicables.

Quan un organisme notificat trobi que un sistema d'IA ja no compleix els requisits establerts en l'apartat 2, haurà de, tenint en compte el principi de proporcionalitat, suspendre o retirar el certificat emès o imposar restriccions a aquest, tret que el compliment d'aquests requisits es garanteixi mitjançant l'acció correctiva apropiada empresa pel proveïdor del sistema dins d'un termini adequat establert per l'organisme notificat. L'organisme notificat donarà motius per a la seva decisió.

Es disposarà d'un procediment d'apel·lació contra les decisions dels organismes notificats, fins i tot sobre els certificats de conformitat emesos.

1. Els certificats expedits per organismes notificats d'acord amb l'Annex VII s'han d'elaborar en un idioma que pugui ser entès fàcilment per les autoritats competents de l'Estat membre en què s'estableixi l'organisme notificat.

2. Els certificats seran vàlids durant el període que indiquin, que no excedirà de cinc anys per als sistemes d'IA coberts per l'Annex I, i quatre anys per als sistemes d'IA coberts per l'Annex III. A petició del proveïdor, la validesa d'un certificat es podrà prorrogar per períodes addicionals, cadascun dels quals no superi els cinc anys per als sistemes d'IA coberts per l'Annex I, i quatre anys per als sistemes d'IA coberts per l'Annex III, sobre la base d'una reavaluació d'acord amb els procediments d'avaluació de conformitat aplicables.

3. Quan un organisme notificat consideri que un sistema d'IA ja no compleix els requisits establerts en l'apartat 2, haurà de, tenint en compte el principi de proporcionalitat, suspendre o retirar el certificat emès o imposar restriccions sobre aquest, tret que el compliment d'aquests requisits es garanteixi mitjançant l'acció correctiva apropiada empresa pel proveïdor del sistema dins d'un termini adequat establert per l'organisme notificat. L'organisme notificat donarà motius per a la seva decisió.

Article 45

Els organismes notificats informaran l'autoritat notificant del següent:(a) els certificats d'avaluació de la documentació tècnica de la Unió, els suplements a aquests certificats, i les homologacions del sistema de gestió de la qualitat emeses d'acord amb els requisits de l'Annex VII;(b) qualsevol denegació, restricció, suspensió o retirada d'un certificat d'avaluació de la documentació tècnica de la Unió o d'un sistema de gestió de la qualitat emès d'acord amb els requisits de l'Annex VII;(c) qualsevol circumstància que afecti l'abast o les condicions de la notificació;(e) qualsevol sol·licitud d'informació que hagin rebut de les autoritats de vigilància del mercat sobre les activitats d'avaluació de la conformitat;(e) sota petició, les activitats d'avaluació de la conformitat realitzades en l'àmbit de la seva notificació i qualsevol altra activitat realitzada, incloses les activitats transfrontereres i la subcontractació.

Cada òrgan notificat informarà la resta d'organismes notificats de:(a) homologacions del sistema de gestió de la qualitat que ha rebutjat, suspeses o retirades, i, prèvia sol·licitud, de les homologacions del sistema de qualitat que ha emès;(b) Certificats d'avaluació de la documentació tècnica de la Unió o dels seus suplements que ha rebutjat, retirats, suspesos o restringits d'una altra manera, i, prèvia sol·licitud, dels certificats i/o suplements que ha emès.

Cada òrgan notificat facilitarà a la resta d'organismes notificats la realització d'activitats d'avaluació de conformitat similars que cobreixin els mateixos tipus de sistemes d'IA amb informació rellevant sobre qüestions relacionades amb resultats negatius i, prèvia sol·licitud, d'avaluació de conformitat positiva.

Els organismes notificats salvaguardaran la confidencialitat de la informació que obtinguin, d'acord amb l'article 78.

2. Cada òrgan notificat informarà la resta d'organismes notificats de:(a) homologacions del sistema de gestió de la qualitat que ha rebutjat, suspeses o retirades, i, a petició d'aquestes, de les homologacions del sistema de qualitat que ha emès;(b) Certificats d'avaluació de la documentació tècnica de la Unió o dels seus suplements que ha rebutjat, retirats, suspesos o restringits d'una altra manera, i, a petició d'aquests certificats i/o suplements que ha emès.

3. Cada òrgan notificat facilitarà a la resta d'organismes notificats que realitzin activitats d'avaluació de conformitat similars que cobreixin els mateixos tipus de sistemes d'IA amb informació rellevant sobre qüestions relacionades amb resultats negatius i, sota petició, d'avaluació de conformitat positiva.

Els organismes notificats salvaguardaran la confidencialitat de la informació que obtinguin, d'acord amb l'article 78.

Article 46

En virtut de la derogació de l'article 43 i a petició degudament justificada, qualsevol autoritat de vigilància del mercat pot autoritzar la comercialització o la posada en servei de sistemes específics de IA d'alt risc en el territori de l'Estat membre en qüestió, per raons excepcionals de seguretat pública o de protecció de la vida i la salut de les persones, de protecció del medi ambient o de la protecció dels actius industrials i infraestructurals clau. Aquesta autorització serà per un període limitat mentre es duguin a terme els procediments d'avaluació de la conformitat necessaris, tenint en compte les raons excepcionals que justifiquen la derogació.

En una situació d'urgència degudament justificada per raons excepcionals de seguretat pública o en cas d'amenaça específica, substancial i imminent per a la vida o la seguretat física de les persones físiques, les autoritats policials o de protecció civil poden posar en servei un sistema específic d'IA d'alt risc sense l'autorització a què es refereix l'apartat 1, sempre que aquesta autorització es demani durant o després de l'ús sense demora indeguda. Si es rebutja l'autorització a què es refereix l'apartat 1, l'ús del sistema d'IA d'alt risc s'interromprà immediatament i es descartaran tots els resultats i resultats d'aquest ús.

L'autorització a què fa referència l'apartat 1 només s'emetrà si l'autoritat de vigilància del mercat conclou que el sistema d'intel·ligència artificial d'alt risc compleix amb els requisits de l'apartat 2. L'autoritat de vigilància del mercat informarà la Comissió i als altres Estats membres de qualsevol autorització emesa de conformitat amb els apartats 1 i 2. Aquesta obligació no cobrirà les dades operatives sensibles en relació amb les activitats de les autoritats policials.

Quan, dins dels 15 dies naturals següents a la recepció de la informació a què fa referència l'apartat 3, no s'hagi plantejat cap objecció per part d'un Estat membre o de la Comissió respecte a una autorització emesa per una autoritat de vigilància del mercat d'un Estat membre de conformitat amb l'apartat 1, aquesta autorització es considerarà justificada.

Quan, dins dels 15 dies naturals següents a la recepció de la notificació a què fa referència l'apartat 3, un Estat membre plantegi objeccions contra una autorització emesa per una autoritat de vigilància del mercat d'un altre Estat membre, o quan la Comissió consideri que l'autorització és contrària al dret de la Unió, o la conclusió dels Estats membres sobre el compliment del sistema al qual fa referència l'apartat 3 sigui infundat, la Comissió celebrarà sense demora consultes amb l'Estat membre en qüestió i tindrà la possibilitat de presentar les seves opinions.

Quan la Comissió consideri l'autorització injustificada, serà retirada per l'autoritat de vigilància del mercat de l'Estat membre en qüestió.

Per als sistemes d'IA d'alt risc relacionats amb productes coberts per la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, només s'aplicaran les derogacions de l'avaluació de conformitat establerta en la legislació d'harmonització de la Unió.

En virtut de la derogació de l'article 43 i a petició degudament justificada, qualsevol autoritat de vigilància del mercat pot autoritzar la comercialització o la posada en servei de sistemes específics d'intel·ligència artificial d'alt risc en el territori de l'Estat membre en qüestió, per raons excepcionals de seguretat pública o de protecció de la vida i la salut de les persones, de protecció del medi ambient o de la protecció de béns industrials i d'infraestructures clau. Aquesta autorització serà per un període limitat mentre es duguin a terme els procediments d'avaluació de la conformitat necessaris, tenint en compte les raons excepcionals que justifiquen la derogació.

2. En una situació d'urgència degudament justificada per raons excepcionals de seguretat pública o en cas d'amenaça específica, substancial i imminent per a la vida o la seguretat física de les persones físiques, les autoritats policials o de protecció civil poden posar en servei un sistema específic d'IA d'alt risc sense l'autorització a què es refereix l'apartat 1, sempre que aquesta autorització es demani durant o després de l'ús sense demora indeguda. Si es rebutja l'autorització a què es refereix l'apartat 1, l'ús del sistema d'IA d'alt risc s'interromprà immediatament i es descartaran tots els resultats i sortides d'aquest ús.

5. Quan, dins dels 15 dies naturals següents a la recepció de la notificació a què es refereix l'apartat 3, un Estat membre plantegi objeccions contra una autorització emesa per una autoritat de vigilància del mercat d'un altre Estat membre, o quan la Comissió consideri que l'autorització és contrària al Dret de la Unió, o la conclusió dels Estats membres sobre el compliment del sistema al qual es refereix l'apartat 3 sigui infundat, la Comissió celebrarà sense demora consultes amb l'Estat membre en qüestió i tindrà la possibilitat de presentar les seves opinions.

6. Quan la Comissió consideri l'autorització injustificada, aquesta serà retirada per l'autoritat de vigilància del mercat de l'Estat membre en qüestió.

7. Per als sistemes d'intel·ligència artificial d'alt risc relacionats amb els productes inclosos en la legislació d'harmonització de la Unió que figura en l'apartat A de l'Annex I, només s'aplicaran les excepcions a l'avaluació de conformitat establerta en la legislació d'harmonització de la Unió.

Article 47

La declaració de conformitat de la UE per a cada sistema d'intel·ligència artificial d'alt risc, signada físicament o electrònicament, es mantindrà a la disposició de les autoritats nacionals competents durant 10 anys després de la comercialització o posada en servei del sistema d'intel·ligència artificial d'alt risc. La declaració de conformitat de la UE identificarà el sistema d'intel·ligència artificial d'alt risc per al qual s'ha elaborat.

La declaració de conformitat de la UE estableix que el sistema d'intel·ligència artificial d'alt risc en qüestió compleix els requisits establerts en l'apartat 2. La declaració de conformitat de la UE ha de contenir la informació recollida en l'Annex V, i ha de traduir-se a un idioma que pugui ser fàcilment entès per les autoritats nacionals competents dels Estats membres en els quals el sistema d'intel·ligència artificial d'alt risc es posi en el mercat o estigui disponible.

Quan els sistemes d'intel·ligència artificial d'alt risc estiguin subjectes a una altra legislació d'harmonització de la Unió que també requereixi una declaració de conformitat de la UE, s'elaborarà una única declaració de conformitat de la UE respecte a tota la legislació de la Unió aplicable al sistema d'intel·ligència artificial d'alt risc. La declaració contindrà tota la informació necessària per identificar la legislació d'harmonització de la Unió a la qual es refereix la declaració.

En redactar la declaració de conformitat de la UE, el prestador assumirà la responsabilitat del compliment dels requisits establerts a l'apartat 2. El prestador mantindrà actualitzada la declaració de conformitat de la UE segons correspongui.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 a fi de modificar l'Annex V actualitzant el contingut de la declaració de conformitat de la UE establerta en aquest Annex, a fi d'introduir elements que siguin necessaris a la llum del progrés tècnic.

El prestador ha d'elaborar una màquina de lectura escrita, física o electrònicament signada, declaració de conformitat de la UE per a cada sistema d'IA d'alt risc, i mantenir-la a la disposició de les autoritats nacionals competents durant 10 anys després de la comercialització o posada en servei del sistema d'IA d'alt risc. La declaració de conformitat de la UE ha d'identificar el sistema d'IA d'alt risc per al qual s'ha redactat.

La declaració de conformitat de la UE estableix que el sistema d'intel·ligència artificial d'alt risc en qüestió compleix els requisits establerts en l'apartat 2. La declaració de conformitat de la UE ha de contenir la informació recollida en l'Annex V, i ha de traduir-se a un idioma que pugui ser entès fàcilment per les autoritats nacionals competents dels Estats membres en els quals el sistema d'intel·ligència artificial d'alt risc es comercialitza o es posa a disposició.

3. Quan els sistemes d'IA d'alt risc estiguin subjectes a una altra legislació d'harmonització de la Unió que també requereixi una declaració de conformitat de la UE, s'elaborarà una única declaració de conformitat de la UE respecte a tota la legislació de la Unió aplicable al sistema d'IA d'alt risc. La declaració contindrà tota la informació necessària per identificar la legislació d'harmonització de la Unió a la qual es refereix la declaració.

4. Mitjançant l'elaboració de la declaració de conformitat de la UE, el prestador assumirà la responsabilitat del compliment dels requisits establerts a l'apartat 2. El prestador mantindrà actualitzada la declaració de conformitat de la UE segons correspongui.

Article 48

El marcatge CE estarà subjecte als principis generals recollits en l'article 30 del Reglament (CE) núm. 765/2008.

Per a sistemes d'IA d'alt risc proveïts digitalment, s'utilitzarà un marcatge CE digital, només si es pot accedir fàcilment a través de la interfície des de la qual s'accedeix a aquest sistema o a través d'un codi llegible per màquina fàcilment accessible o altres mitjans electrònics.

El marcatge CE s'afixarà de manera visible, llegible i indeleble per a sistemes d'IA d'alt risc.Si això no és possible o no es justifica per la naturalesa del sistema d'IA d'alt risc, s'afixarà al packaging o a la documentació que l'acompanyi, segons correspongui.

Si escau, el marcatge CE anirà seguit del número d'identificació de l'organisme notificat responsable dels procediments d'avaluació de la conformitat establerts a l'article 43. El número d'identificació de l'organisme notificat serà fixat pel propi organisme o, sota les seves instruccions, pel prestador o pel representant autoritzat del prestador. El número d'identificació també s'indicarà en qualsevol material promocional que esmenti que el sistema d'intel·ligència artificial d'alt risc compleix els requisits per al marcatge CE.

Quan els sistemes d'intel·ligència artificial d'alt risc estiguin subjectes a un altre dret de la Unió que també prevegi la fixació del marcatge CE, el marcatge CE indicarà que el sistema d'intel·ligència artificial d'alt risc també compleix els requisits d'aquesta altra llei.

La qualificació CE estarà subjecta als principis generals recollits en l'article 30 del Reglament (CE) núm. 765/2008.

2. Per a sistemes d'IA d'alt risc proporcionats digitalment, s'utilitzarà un marcatge CE digital, només si es pot accedir fàcilment a través de la interfície des de la qual s'accedeix a aquest sistema o a través d'un codi llegible per màquina fàcilment accessible o altres mitjans electrònics.

3. El marcatge CE s'afixarà de manera visible, llegible i indeleble per a sistemes d'IA d'alt risc. Quan això no sigui possible o no estigui justificat per la naturalesa del sistema d'IA d'alt risc, s'afixarà a l'embalatge o a la documentació que l'acompanyi, segons correspongui.

El número d'identificació de l'organisme notificat responsable dels procediments d'avaluació de la conformitat establerts a l'article 43. El número d'identificació de l'organisme notificat serà fixat pel propi organisme o, sota les seves instruccions, pel prestador o pel representant autoritzat del prestador, així com en qualsevol material promocional que esmenti que el sistema d'intel·ligència artificial d'alt risc compleix els requisits de marcatge CE.

Si els sistemes d'intel·ligència artificial d'alt risc estan subjectes a un altre dret de la Unió que també preveu la fixació del marcatge CE, el marcatge CE indicarà que el sistema d'intel·ligència artificial d'alt risc també compleix els requisits d'aquesta altra llei.

Article 49

Abans de comercialitzar o posar en servei un sistema d'intel·ligència artificial d'alt risc que figura en l'Annex III, amb excepció dels sistemes d'intel·ligència artificial d'alt risc esmentats en el punt 2 de l'Annex III, el proveïdor o, si escau, el representant autoritzat es registraran a si mateixos i el seu sistema en la base de dades de la UE a la qual es refereix l'article 71.

Abans de comercialitzar o posar en servei un sistema d'IA per al qual el proveïdor ha conclòs que no és d'alt risc d'acord amb l'apartat 3 de l'article 6, aquest proveïdor o, si escau, el representant autoritzat es registraran a si mateixos i aquest sistema en la base de dades de la UE a la qual fa referència l'article 71.

Abans de posar en servei o utilitzar un sistema d'IA d'alt risc enumerat en l'Annex III, amb excepció dels sistemes d'IA d'alt risc enumerats en el punt 2 de l'Annex III, els desplegadors que siguin autoritats públiques, institucions de la Unió, organismes, oficines o agències o persones que actuïn en el seu nom es registraran, seleccionaran el sistema i registraran el seu ús en la base de dades de la UE a la qual es refereix l'article 71.

Per als sistemes d'IA d'alt risc esmentats en els punts 1, 6 i 7 de l'Annex III, en les àrees d'aplicació de la llei, migració, asil i gestió de control de fronteres, el registre esmentat en els apartats 1, 2 i 3 d'aquest article estarà en una secció segura no pública de la base de dades de la UE a la qual es refereix l'article 71 i inclourà només la següent informació, segons correspongui, a la secció A, els punts 1 a 10, de l'Annex VIII, amb excepció dels punts 6, 8 i 9; la secció B, els punts 1 a 5, i els punts 8 i 9 de l'Annex VIII; la secció C, els punts 1 a 3, de l'Annex VIII; la lletra d) els punts 1, 2, 3 i 5, de l'Annex IX.

Només la Comissió i les autoritats nacionals a les quals es fa referència en l'apartat 8 de l'article 74 tindran accés a les respectives seccions restringides de la base de dades de la UE que figuren en el primer paràgraf d'aquest apartat.

Els sistemes d'intel·ligència artificial d'alt risc a què fa referència el punt 2 de l'Annex III es registraran a nivell nacional.

1. Abans de comercialitzar o posar en servei un sistema d'intel·ligència artificial d'alt risc enumerat en l'Annex III, amb excepció dels sistemes d'intel·ligència artificial d'alt risc esmentats en el punt 2 de l'Annex III, el proveïdor o, si escau, el representant autoritzat es registraran a si mateixos i el seu sistema en la base de dades de la UE a la qual es refereix l'article 71.

2. Abans de comercialitzar o posar en servei un sistema d'IA per al qual el proveïdor hagi conclòs que no és d'alt risc d'acord amb l'apartat 3 de l'article 6, aquest proveïdor o, si escau, el representant autoritzat es registraran a si mateixos i aquest sistema en la base de dades de la UE a la qual fa referència l'article 71.

3. Abans de posar en servei o utilitzar un sistema d'intel·ligència artificial d'alt risc enumerat en l'Annex III, amb excepció dels sistemes d'intel·ligència artificial d'alt risc enumerats en el punt 2 de l'Annex III, els desplegadors que siguin autoritats públiques, institucions de la Unió, organismes, oficines o agències o persones que actuïn en el seu nom es registraran, seleccionaran el sistema i registraran el seu ús en la base de dades de la UE a la qual es refereix l'article 71.

4. Per als sistemes d'IA d'alt risc esmentats en els punts 1, 6 i 7 de l'Annex III, en els àmbits de l'aplicació de la llei, la migració, l'asil i la gestió de les fronteres, el registre esmentat en els apartats 1, 2 i 3 d'aquest article estarà en una secció segura no pública de la base de dades de la UE a la qual es refereix l'article 71 i inclourà només la següent informació, segons correspongui, a la secció A, els punts 1 a 10, de l'Annex VIII, amb excepció dels punts 6, 8 i 9; la secció B, els punts 1 a 5, i els punts 8 i 9 de l'Annex VIII; la secció C, els punts 1 a 3, de l'Annex VIII; la lletra d) els punts 1, 2, 3 i 5, de l'Annex IX.

5. Els sistemes d'intel·ligència artificial d'alt risc a què fa referència el punt 2 de l'Annex III s'han de registrar a nivell nacional.

Article 50

Els prestadors han de garantir que els sistemes d'IA destinats a interactuar directament amb les persones físiques es dissenyin i desenvolupin de manera que s'informi les persones físiques afectades que estan interactuant amb un sistema d'IA, tret que això sigui evident des del punt de vista d'una persona física que estigui raonablement ben informada, observadora i circumspectiva, tenint en compte les circumstàncies i el context d'ús, i aquesta obligació no s'aplicarà als sistemes d'IA autoritzats per la llei per detectar, prevenir, investigar o perseguir delictes penals, subjectes a les salvaguardes adequades per als drets i llibertats de tercers, tret que aquests sistemes estiguin disponibles perquè el públic pugui denunciar un delicte.

Els proveïdors de sistemes d'IA, inclosos els sistemes d'IA de propòsit general, que generin contingut sintètic d'àudio, imatge, vídeo o text, garantiran que les sortides del sistema d'IA estiguin marcades en un format llegible per màquina i siguin detectables com a generats o manipulats artificialment. Els proveïdors garantiran que les seves solucions tècniques siguin efectives, interoperables, robustes i fiables en la mesura en què això sigui tècnicament factible, tenint en compte les especificitats i limitacions de diversos tipus de contingut, els costos d'execució i l'estat general de la tècnica, tal com es pot reflectir en les normes tècniques pertinents. Aquesta obligació no s'aplicarà en la mesura en què els sistemes d'IA realitzin una funció d'assistència per a l'edició estàndard o no alterin substancialment les dades d'entrada proporcionades pel desplegador o la semàntica dels mateixos, o quan la llei autoritzi a detectar, prevenir, investigar o processar delictes penals.

Els titulars d'un sistema de reconeixement d'emocions o un sistema de categorització biomètrica han d'informar les persones físiques exposades al mateix del funcionament del sistema, i tractaran les dades personals d'acord amb el Reglament (UE) 2016/679 i (UE) 2018/1725 i la Directiva (UE) 2016/680, segons correspongui, sense aplicar aquesta obligació als sistemes d'IA utilitzats per a la categorització biomètrica i el reconeixement d'emocions, que la llei permet detectar, prevenir o investigar delictes penals, subjectes a les salvaguardes adequades per als drets i llibertats de tercers, i de conformitat amb el dret de la Unió.

Els usuaris d'un sistema d'intel·ligència artificial que generi o manipuli continguts d'imatge, àudio o vídeo que constitueixin una falsificació profunda, hauran de revelar que el contingut ha estat generat o manipulat artificialment, sense que aquesta obligació s'apliqui quan l'ús estigui autoritzat per la llei per detectar, prevenir, investigar o perseguir delictes penals. Quan el contingut formi part d'una obra o programa evidentment artístic, creatiu, satíric, fictici o anàleg, les obligacions de transparència establertes en aquest paràgraf es limiten a revelar l'existència d'aquests continguts generats o manipulats de manera adequada que no obstaculitzi la visualització o el gaudi de l'obra.

La presentació d'un sistema d'IA que generi o manipuli un text que es publiqui amb la finalitat d'informar el públic sobre qüestions d'interès públic ha de revelar que el text ha estat generat o manipulat artificialment, sense que aquesta obligació s'apliqui quan l'ús estigui autoritzat per la llei per detectar, prevenir, investigar o perseguir delictes penals o quan els continguts generats per la IA hagin estat objecte d'un procés de revisió humana o control editorial i quan una persona física o jurídica sigui responsable editorial de la publicació dels continguts.

La informació a què es refereix l'apartat 1 a 4 es facilitarà a les persones físiques afectades d'una manera clara i distingible com a més tard en el moment de la primera interacció o exposició. La informació s'ajustarà als requisits d'accessibilitat aplicables.

Els paràgrafs 1 a 4 no afectaran els requisits i obligacions establerts en el capítol III, i no perjudicaran altres obligacions de transparència establertes en la legislació comunitària o nacional per als desplegadors de sistemes d'IA.

L'Oficina d'Intel·ligència Artificial ha de fomentar i facilitar l'elaboració de codis de pràctiques a nivell de la Unió per a facilitar l'aplicació efectiva de les obligacions relatives a la detecció i l'etiquetatge de continguts artificialment generats o manipulats.La Comissió pot adoptar actes d'execució per a aprovar aquests codis de pràctiques d'acord amb el procediment establert en l'article 56 (6) Si considera que el codi no és adequat, la Comissió pot adoptar un acte d'execució que especifiqui normes comunes per a l'aplicació d'aquestes obligacions d'acord amb el procediment d'examen establert en l'article 98(2).

Els prestadors garantiran que els sistemes d'IA destinats a interactuar directament amb les persones físiques estiguin dissenyats i desenvolupats de manera que les persones físiques afectades estiguin informades que estan interactuant amb un sistema d'IA, tret que això sigui evident des del punt de vista d'una persona física que estigui raonablement ben informada, observadora i circumspectiva, tenint en compte les circumstàncies i el context d'ús. Aquesta obligació no s'aplicarà als sistemes d'IA autoritzats per la llei per detectar, prevenir, investigar o perseguir delictes penals, subjectes a les salvaguardes adequades per als drets i llibertats de tercers, llevat que aquests sistemes estiguin disponibles perquè el públic pugui denunciar un delicte.

2. els proveïdors de sistemes d'IA, inclosos els sistemes d'IA de propòsit general, que generin contingut sintètic d'àudio, imatge, vídeo o text, garantiran que les sortides del sistema d'IA estiguin marcades en un format llegible per màquina i siguin detectables com a generats o manipulats artificialment. 2. Els proveïdors garantiran que les seves solucions tècniques siguin efectives, interoperables, robustes i fiables en la mesura en què això sigui tècnicament factible, tenint en compte les especificitats i limitacions de diversos tipus de contingut, els costos d'execució i l'estat general de la tècnica, tal com es pot reflectir en les normes tècniques pertinents. Aquesta obligació no s'aplicarà en la mesura en què els sistemes d'IA realitzin una funció d'assistència per a l'edició estàndard o no alterin substancialment les dades d'entrada proporcionades pel desplegador o la semàntica dels mateixos, o quan la llei autoritzi a detectar, prevenir, investigar o processar delictes penals.

Els titulars d'un sistema de reconeixement d'emocions o un sistema de categorització biomètrica han d'informar les persones físiques exposades al mateix del funcionament del sistema, i tractaran les dades personals d'acord amb el Reglament (UE) 2016/679 i (UE) 2018/1725 i la Directiva (UE) 2016/680, si escau, sense aplicar aquesta obligació als sistemes d'IA utilitzats per a la categorització biomètrica i el reconeixement d'emocions, que estan autoritzats per la llei per detectar, prevenir o investigar delictes penals, subjectes a les salvaguardes adequades per als drets i llibertats de tercers, i de conformitat amb el dret de la Unió.

4.- El desplegament d'un sistema d'IA que generi o manipuli continguts d'imatge, àudio o vídeo que constitueixin una falsificació profunda, revelarà que el contingut ha estat generat o manipulat artificialment, sense que aquesta obligació s'apliqui quan l'ús estigui autoritzat per la llei per detectar, prevenir, investigar o perseguir delictes penals, i quan el contingut formi part d'una obra o programa evidentment artístic, creatiu, satíric, fictici o anàleg, les obligacions de transparència establertes en aquest paràgraf es limiten a revelar l'existència d'aquests continguts generats o manipulats de manera adequada que no obstaculitzi la visualització o el gaudi de l'obra.

La informació a què es fa referència en els paràgrafs 1 a 4 es facilitarà a les persones físiques afectades de manera clara i distingible com a més tard en el moment de la primera interacció o exposició. La informació s'ajustarà als requisits d'accessibilitat aplicables.

Els paràgrafs 1 a 4 no afectaran els requisits i obligacions establerts en el capítol III, i no perjudicaran altres obligacions de transparència establertes en la legislació de la Unió o nacional per als desplegadors de sistemes d'IA.

L'Oficina d'Intel·ligència Artificial (IA) ha d'encoratjar i facilitar l'elaboració de codis de pràctiques a nivell de la Unió per facilitar l'aplicació efectiva de les obligacions relatives a la detecció i l'etiquetatge de continguts artificialment generats o manipulats. La Comissió pot adoptar actes d'execució per aprovar aquests codis de pràctiques d'acord amb el procediment establert en l'article 56 (6) Si considera que el codi no és adequat, la Comissió pot adoptar un acte d'execució que especifiqui normes comunes per a l'aplicació d'aquestes obligacions d'acord amb el procediment d'examen establert en l'article 98(2).

Article 51

Un model d'IA de propòsit general es classificarà com a model d'IA de propòsit general amb risc sistèmic si compleix alguna de les condicions següents:(a) té altes capacitats d'impacte avaluades sobre la base d'eines i metodologies tècniques adequades, inclosos indicadors i punts de referència;(b) sobre la base d'una decisió de la Comissió, d'ofici o seguint una alerta qualificada del panell científic, té capacitats o un impacte equivalent als establerts en el punt (a) tenint en compte els criteris establerts en l'Annex XIII.

Es presumeix que un model d'IA de propòsit general té altes capacitats d'impacte d'acord amb l'apartat 1, punt (a), quan la quantitat acumulada de càlcul utilitzat per a la seva formació mesurada en operacions de coma flotant és superior a 1025.

La Comissió adoptarà actes delegats de conformitat amb l'article 97 per a modificar els llindars enumerats en els apartats 1 i 2 d'aquest article, així com per a complementar els criteris i indicadors a la llum de l'evolució de l'evolució tecnològica, com les millores algorítmiques o l'augment de l'eficiència del maquinari, quan sigui necessari, perquè aquests llindars reflecteixin l'estat de la tècnica.

Un model d'IA d'ús general es classificarà com a model d'IA d'ús general amb risc sistèmic si compleix alguna de les condicions següents:(a) té altes capacitats d'impacte avaluades sobre la base d'eines i metodologies tècniques adequades, inclosos indicadors i punts de referència;(b) sobre la base d'una decisió de la Comissió, d'ofici o seguint una alerta qualificada del panell científic, té capacitats o un impacte equivalent als establerts en el punt (a) tenint en compte els criteris establerts en l'Annex XIII.

2. Es presumeix que un model d'IA de propòsit general té altes capacitats d'impacte d'acord amb l'apartat 1, punt (a), quan la quantitat acumulada de càlcul utilitzat per a la seva formació mesurada en operacions de coma flotant és superior a 1025.

3. La Comissió adoptarà actes delegats de conformitat amb l'article 97 per a modificar els llindars enumerats en els apartats 1 i 2 d'aquest article, així com per a complementar els punts de referència i els indicadors a la llum de l'evolució de l'evolució tecnològica, com les millores algorítmiques o l'augment de l'eficiència del maquinari, quan sigui necessari, perquè aquests llindars reflecteixin l'estat de la tècnica.

Article 52

Si un model d'IA d'ús general compleix la condició a la qual es refereix l'article 51, apartat 1, punt (a), el proveïdor corresponent notificarà a la Comissió sense demora i en tot cas dins de les dues setmanes següents al compliment d'aquest requisit o se sap que es complirà. Aquesta notificació inclourà la informació necessària per demostrar que s'ha complert aquest requisit. Si la Comissió té coneixement d'un model d'IA d'ús general que presenti riscos sistèmics dels quals no s'hagi notificat, pot decidir designar-lo com a model amb risc sistèmic.

El proveïdor d'un model d'IA d'ús general que compleixi amb la condició a què es refereix l'article 51(1), punt (a), pot presentar, amb la seva notificació, arguments prou fonamentats per demostrar que, excepcionalment, encara que compleixi aquest requisit, el model d'IA d'ús general no presenta, per les seves característiques específiques, riscos sistèmics i per tant no s'ha de classificar com a model d'IA d'ús general amb risc sistèmic.

Quan la Comissió conclogui que els arguments presentats de conformitat amb l'apartat 2 no estan prou fonamentats i el proveïdor pertinent no ha pogut demostrar que el model d'IA de propòsit general no present, a causa de les seves característiques específiques, els riscos sistèmics, rebutjarà aquests arguments, i el model d'IA de propòsit general es considerarà un model d'IA de propòsit general amb risc sistèmic.

La Comissió pot designar un model de IA de propòsit general com a presentar riscos sistèmics, d'ofici o seguint una alerta qualificada del panell científic de conformitat amb el punt (a) de l'apartat 1 de l'article 90, sobre la base dels criteris establerts en l'Annex XIII.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 amb la finalitat de modificar l'Annex XIII especificant i actualitzant els criteris establerts en aquest Annex.

La Comissió tindrà en compte la sol·licitud motivada d'un proveïdor el model del qual hagi estat designat com a model d'IA de propòsit general amb risc sistèmic de conformitat amb l'apartat 4, i podrà decidir tornar a avaluar si el model d'IA de propòsit general encara es pot considerar que presenta riscos sistèmics sobre la base dels criteris establerts en l'Annex XIII. Aquesta sol·licitud contindrà motius objectius, detallats i nous que han sorgit des de la decisió de designació. Quan la Comissió, després de la seva reavaluació, decideixi mantenir la designació com a model d'IA de propòsit general amb risc sistèmic, els proveïdors podran sol·licitar la reavaluació com a més aviat sis mesos després d'aquesta decisió.

La Comissió garantirà que es publiqui una llista de models d'IA de propòsit general amb risc sistèmic i mantindrà actualitzada aquesta llista, sense perjudici de la necessitat d'observar i protegir els drets de propietat intel·lectual i la informació comercial confidencial o els secrets comercials de conformitat amb la legislació de la Unió i nacional.

Si un model d'IA d'ús general compleix la condició a la qual es refereix l'article 51, apartat 1, punt (a), el proveïdor corresponent notificarà a la Comissió sense demora i en tot cas dins de les dues setmanes següents al compliment d'aquest requisit o se sàpiga que es complirà. Aquesta notificació inclourà la informació necessària per demostrar que s'ha complert aquest requisit. Si la Comissió té coneixement d'un model d'IA d'ús general que presenti riscos sistèmics dels quals no s'hagi notificat, pot decidir designar-lo com a model amb risc sistèmic.

2. El proveïdor d'un model d'IA d'ús general que compleixi la condició a què es refereix l'article 51(1), punt (a), pot presentar, amb la seva notificació, arguments prou fonamentats per demostrar que, excepcionalment, tot i que compleix aquest requisit, el model d'IA d'ús general no presenta, per les seves característiques específiques, riscos sistèmics i per tant no s'ha de classificar com a model d'IA d'ús general amb risc sistèmic.

3. Quan la Comissió conclogui que els arguments presentats de conformitat amb l'apartat 2 no estan prou fonamentats i el proveïdor pertinent no ha pogut demostrar que el model d'IA de propòsit general no present, a causa de les seves característiques específiques, els riscos sistèmics, rebutjarà aquests arguments, i el model d'IA de propòsit general es considerarà un model d'IA de propòsit general amb risc sistèmic.

4. La Comissió pot designar un model de IA de propòsit general com a presentar riscos sistèmics, d'ofici o seguint una alerta qualificada del panell científic de conformitat amb el punt (a) de l'apartat 1 de l'article 90, sobre la base dels criteris establerts en l'Annex XIII.

5. A petició raonada d'un proveïdor el model del qual hagi estat designat com a model d'IA de propòsit general amb risc sistèmic de conformitat amb l'apartat 4, la Comissió tindrà en compte la sol·licitud i podrà decidir tornar a avaluar si el model d'IA de propòsit general encara es pot considerar que presenta riscos sistèmics sobre la base dels criteris establerts en l'Annex XIII. Aquesta sol·licitud contindrà motius objectius, detallats i nous que han sorgit des de la decisió de designació. Quan la Comissió, després de la seva reavaluació, decideixi mantenir la designació com a model d'IA de propòsit general amb risc sistèmic, els proveïdors podran sol·licitar la reavaluació com a més aviat sis mesos després d'aquesta decisió.

6. La Comissió garantirà que es publiqui una llista de models d'IA de propòsit general amb risc sistèmic i mantindrà actualitzada aquesta llista, sense perjudici de la necessitat d'observar i protegir els drets de propietat intel·lectual i la informació comercial confidencial o els secrets comercials de conformitat amb la legislació comunitària i nacional.

Article 53

Els proveïdors de models d'IA d'ús general han de:(a) elaborar i mantenir al dia la documentació tècnica del model, incloent el seu procés de formació i proves i els resultats de la seva avaluació, que contindran, com a mínim, la informació establerta a l'Annex XI amb la finalitat de proporcionar-la, prèvia sol·licitud, a l'Oficina d'Intel·ligència Artificial i a les autoritats nacionals competents;(b) elaborar, actualitzar i posar a disposició dels proveïdors de sistemes d'intel·ligència artificial i informació comercial confidencial o secrets comercials d'acord amb la legislació de la Unió i els drets afins, i en particular identificar i complir, fins i tot a través de les tecnologies d'última generació, una reserva de drets expressada en virtut de l'article 4(3) de la Directiva (UE) 2019/790;(d) elaborar i fer públic un resum prou detallat sobre el contingut utilitzat per a la formació del model d'IA d'ús general, d'acord amb una plantilla proporcionada per l'Oficina d'Intel·ligència Artificial.

Les obligacions establertes en l'apartat 1, punts (a) i (b), no s'aplicaran als proveïdors de models d'IA alliberats sota una llicència lliure i de codi obert que permeti l'accés, l'ús, la modificació i la distribució del model, i els paràmetres del qual, inclosos els pesos, la informació sobre l'arquitectura del model i la informació sobre l'ús del model, es faran públics. Aquesta excepció no s'aplicarà als models d'IA de propòsit general amb riscos sistèmics.

Els proveïdors de models d'IA de propòsit general cooperaran segons sigui necessari amb la Comissió i les autoritats nacionals competents en l'exercici de les seves competències i poders de conformitat amb aquest Reglament.

Els proveïdors de models d'IA de propòsit general poden basar-se en codis de pràctica en el sentit de l'article 56 per demostrar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, fins que es publiqui una norma harmonitzada. El compliment de les normes harmonitzades europees atorga als proveïdors la presumpció de conformitat en la mesura en què aquestes normes cobreixen aquestes obligacions. Els proveïdors de models d'IA de propòsit general que no s'adhereixin a un codi de pràctica aprovat o no compleixin amb una norma harmonitzada europea hauran de demostrar mitjans alternatius adequats de compliment per a l'avaluació per part de la Comissió.

A fi de facilitar el compliment de l'Annex XI, en particular dels punts 2 (d) i e) d'aquest, la Comissió està facultada per a adoptar actes delegats de conformitat amb l'article 97 per a detallar les metodologies de mesurament i càlcul amb la finalitat de permetre una documentació comparable i verificable.

La Comissió està facultada per a adoptar actes delegats de conformitat amb l'apartat 2 de l'article 97 per a modificar els annexos XI i XII a la llum de l'evolució dels avanços tecnològics.

Qualsevol informació o documentació obtinguda d'acord amb aquest article, inclosos els secrets comercials, serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

Els proveïdors de models d'IA d'ús general han de:(a) elaborar i mantenir actualitzada la documentació tècnica del model, incloent el seu procés de formació i proves i els resultats de la seva avaluació, que ha de contenir, com a mínim, la informació i la documentació establerta a l'Annex XI amb la finalitat de proporcionar-la, prèvia sol·licitud, a l'Oficina d'Intel·ligència Artificial i a les autoritats nacionals competents;(b) elaborar, mantenir actualitzada i posar a disposició dels proveïdors de sistemes d'IA que tinguin la intenció d'integrar el model d'IA d'ús general en els seus sistemes d'IA, sense perjudici de la necessitat d'observar i protegir els drets de propietat intel·lectual i la informació comercial confidencial o els secrets comercials d'acord amb la legislació de la Unió i els drets afins, i en particular identificar i complir, fins i tot a través de les tecnologies d'última generació, una reserva de drets expressada en virtut de l'article 4 (3) de la Directiva (UE) 2019/790;(d) elaborar i posar a disposició pública un resum prou detallat sobre el contingut utilitzat per a la formació del model d'IA d'ús general, d'acord amb una plantilla proporcionada per l'Oficina d'Intel·ligència Artificial.

2. Les obligacions establertes en l'apartat 1, punts (a) i (b), no s'aplicaran als proveïdors de models d'IA alliberats sota una llicència lliure i de codi obert que permeti l'accés, l'ús, la modificació i la distribució del model, i els paràmetres, inclosos els pesos, la informació sobre l'arquitectura del model i la informació sobre l'ús del model, es posaran a disposició pública. Aquesta excepció no s'aplicarà als models d'IA de propòsit general amb riscos sistèmics.

Els proveïdors de models d'IA d'ús general cooperaran, segons sigui necessari, amb la Comissió i les autoritats nacionals competents en l'exercici de les seves competències i competències d'acord amb aquest Reglament.

Els proveïdors de models d'IA de propòsit general poden basar-se en codis de pràctica en el sentit de l'article 56 per demostrar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, fins que es publiqui una norma harmonitzada. El compliment de les normes harmonitzades europees concedeix als proveïdors la presumpció de conformitat en la mesura en què aquestes normes cobreixin aquestes obligacions. Els proveïdors de models d'IA de propòsit general que no s'adhereixin a un codi de pràctica aprovat o no compleixin amb una norma harmonitzada europea hauran de demostrar mitjans alternatius adequats de compliment per a l'avaluació per part de la Comissió.

6. La Comissió està facultada per a adoptar actes delegats de conformitat amb l'apartat 2 de l'article 97 per a modificar els annexos XI i XII a la llum de l'evolució dels avanços tecnològics.

Qualsevol informació o documentació obtinguda d'acord amb aquest article, inclosos els secrets comercials, serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

Article 54

Abans de posar en el mercat de la Unió un model d'IA de propòsit general, els proveïdors establerts en tercers països nomenaran, per mandat escrit, un representant autoritzat establert en la Unió.

El prestador ha de permetre al seu representant autoritzat realitzar les tasques especificades en el mandat rebut del prestador.

El representant autoritzat exercirà les tasques especificades en el mandat rebut del prestador, aportarà una còpia del mandat a l'Oficina d'Intel·ligència Artificial prèvia sol·licitud, en una de les llengües oficials de les institucions de la Unió, i a l'efecte d'aquest Reglament es facultarà al representant autoritzat per a dur a terme les tasques següents:(a) verificar que la documentació tècnica especificada en l'Annex XI i, si escau, que l'article 55 hagi estat complerta pel prestador;(b) conservar una còpia de la documentació tècnica especificada en l'Annex XI i les dades de contacte del proveïdor nomenat representant autoritzat;(c) proporcionar l'Oficina d'Intel·ligència Artificial, a petició raonada, amb tota la informació i documentació, inclosa la referida en el punt (b), necessària per a demostrar el compliment de les obligacions d'aquest capítol;(d) cooperar amb l'Oficina d'Intel·ligència Artificial i les autoritats competents, a petició raonada, en qualsevol acció que es dugui a terme en relació amb el model d'intel·ligència artificial col·locat en el mercat o posat en servei en la Unió.

El mandat facultarà al representant autoritzat a ser dirigit, a més o en lloc del prestador, per l'Oficina d'Intel·ligència Artificial o les autoritats competents, sobre totes les qüestions relacionades amb el compliment d'aquest Reglament.

El representant autoritzat rescindeix el mandat si considera o té motius per considerar que el prestador actua en contra de les seves obligacions d'acord amb aquest Reglament i, en aquest cas, també ha d'informar immediatament l'Oficina d'Intel·ligència Artificial sobre la finalització del mandat i els motius d'aquest.

L'obligació establerta en aquest article no s'aplicarà als proveïdors de models d'IA de propòsit general que s'alliberin sota una llicència lliure i de codi obert que permeti l'accés, ús, modificació i distribució del model, i els paràmetres del qual, inclosos els pesos, la informació sobre l'arquitectura del model i la informació sobre l'ús del model, es posin a disposició pública, llevat que els models d'IA de propòsit general presentin riscos sistèmics.

1. Abans de posar en el mercat de la Unió un model d'IA de propòsit general, els proveïdors establerts en tercers països nomenaran, per mandat escrit, un representant autoritzat que s'estableixi en la Unió.

2. El prestador ha de permetre al seu representant autoritzat realitzar les tasques especificades en el mandat rebut del prestador.

3. El representant autoritzat exercirà les tasques especificades en el mandat rebut del prestador, facilitarà una còpia del mandat a l'Oficina d'Intel·ligència Artificial prèvia sol·licitud, en una de les llengües oficials de les institucions de la Unió. A l'efecte d'aquest Reglament, el mandat facultarà al representant autoritzat per dur a terme les tasques següents:(a) verificar que la documentació tècnica especificada en l'Annex XI i, si escau, que l'article 55 hagi estat complerta pel prestador;(b) conservar una còpia de la documentació tècnica especificada en l'Annex XI i les dades de contacte del proveïdor nomenat representant autoritzat;(c) proporcionar l'Oficina d'Intel·ligència Artificial, a petició raonada, amb tota la informació i documentació, inclosa la referida en el punt (b), necessària per demostrar el compliment de les obligacions d'aquest Capítol;(d) cooperar amb l'Oficina d'Intel·ligència Artificial i les autoritats competents, a petició raonada, en qualsevol acció que realitzi en relació amb el model d'intel·ligència artificial col·locat en el mercat o posat en servei en la Unió.

4. El mandat facultarà al representant autoritzat a ser dirigit, a més o en lloc del prestador, per l'Oficina d'Intel·ligència Artificial o les autoritats competents, sobre totes les qüestions relacionades amb el compliment d'aquest Reglament.

5. El representant autoritzat rescindeix el mandat si considera o té motius per considerar que el prestador actua en contra de les seves obligacions d'acord amb aquest Reglament i, en aquest cas, també ha d'informar immediatament l'Oficina d'Intel·ligència Artificial sobre la finalització del mandat i els motius d'aquest.

L'obligació establerta en aquest article no s'aplicarà als proveïdors de models d'IA de propòsit general que s'alliberin sota una llicència lliure i de codi obert que permeti l'accés, l'ús, la modificació i la distribució del model, i els paràmetres del qual, inclosos els pesos, la informació sobre l'arquitectura del model i la informació sobre l'ús del model, es posin a disposició pública, llevat que els models d'IA de propòsit general presentin riscos sistèmics.

Article 55

A més de les obligacions enumerades en els articles 53 i 54, els proveïdors de models d'IA de propòsit general amb risc sistèmic han de: (a) dur a terme l'avaluació de models d'acord amb els protocols i eines estandarditzats que reflecteixin l'estat de la tècnica, incloent la realització i documentació de proves adversàries del model amb vista a identificar i mitigar els possibles riscos sistèmics a nivell de la Unió, incloses les seves fonts, que poden derivar del desenvolupament, la comercialització o l'ús de models d'IA de propòsit general amb risc sistèmic; (c) fer un seguiment, documentar i informar, sense demora indeguda, a l'Oficina d'IA i, si escau, a les autoritats nacionals competents, informació rellevant sobre incidents greus i possibles mesures correctives per abordar-los; (d) garantir un nivell adequat de protecció de la ciberseguretat per al model d'IA de propòsit general amb risc sistèmic i la infraestructura física del model.

Els proveïdors de models d'IA de propòsit general amb risc sistèmic poden basar-se en codis de pràctica en el sentit de l'article 56 per demostrar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, fins que es publiqui una norma harmonitzada. El compliment de les normes harmonitzades europees atorga als proveïdors la presumpció de conformitat en la mesura que aquestes normes cobreixen aquestes obligacions. Els proveïdors de models d'IA de propòsit general amb riscos sistèmics que no s'adhereixin a un codi de pràctica aprovat o que no compleixin amb una norma harmonitzada europea hauran de demostrar mitjans alternatius adequats de compliment per a l'avaluació per part de la Comissió.

Qualsevol informació o documentació obtinguda d'acord amb aquest article, inclosos els secrets comercials, serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

A més de les obligacions enumerades en els articles 53 i 54, els proveïdors de models d'IA de propòsit general amb risc sistèmic han de: (a) dur a terme l'avaluació de models d'acord amb protocols i eines estandarditzades que reflecteixin l'estat de la tècnica, incloent la realització i documentació de proves adversàries del model amb vista a identificar i mitigar els possibles riscos sistèmics a nivell de la Unió, incloses les seves fonts, que poden derivar del desenvolupament, la comercialització o l'ús de models d'IA de propòsit general amb risc sistèmic; (c) fer un seguiment, documentar i informar, sense demora indeguda, a l'Oficina d'IA i, si escau, a les autoritats nacionals competents, informació rellevant sobre incidents greus i possibles mesures correctives per abordar-los; (d) garantir un nivell adequat de protecció de la ciberseguretat per al model d'IA de propòsit general amb risc sistèmic i la infraestructura física del model.

Els proveïdors de models d'IA de propòsit general amb risc sistèmic poden basar-se en codis de pràctica en el sentit de l'article 56 per demostrar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, fins que es publiqui una norma harmonitzada. El compliment de les normes harmonitzades europees concedeix als proveïdors la presumpció de conformitat en la mesura que aquestes normes cobreixin aquestes obligacions. Els proveïdors de models d'IA de propòsit general amb riscos sistèmics que no s'adhereixin a un codi de pràctica aprovat o que no compleixin amb una norma harmonitzada europea hauran de demostrar mitjans alternatius adequats de compliment per a l'avaluació per part de la Comissió.

Qualsevol informació o documentació obtinguda d'acord amb aquest article, inclosos els secrets comercials, serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

Article 56

L'Oficina d'Intel·ligència Artificial ha d'encoratjar i facilitar l'elaboració de codis de pràctica a nivell de la Unió per a contribuir a la correcta aplicació d'aquest Reglament, tenint en compte els enfocaments internacionals.

L'Oficina d'Intel·ligència Artificial i la Junta Directiva han d'assegurar que els codis de pràctiques cobreixin almenys les obligacions previstes en els articles 53 i 55, inclosos els següents aspectes:(a) els mitjans per assegurar que la informació a què fa referència l'article 53, apartat 1, punts (a) i (b), es mantingui actualitzada a la llum de l'evolució del mercat i de la tecnologia;(b) la identificació del tipus i la naturalesa dels riscos sistèmics a nivell de la Unió, incloses les seves fonts, si escau;(d) les mesures, procediments i modalitats per a l'avaluació i gestió dels riscos sistèmics a nivell de la Unió, inclosa la documentació d'aquests, que serà proporcionada als riscos, tinguin en compte la seva gravetat i probabilitat i tinguin en compte els reptes específics d'abordar aquests riscos a la llum de les possibles formes en què aquests riscos poden sorgir i materialitzar-se al llarg de la cadena de valor de la IA.

L'Oficina d'Intel·ligència Artificial pot convidar a tots els proveïdors de models d'intel·ligència artificial d'ús general, així com a les autoritats nacionals competents pertinents, a participar en l'elaboració de codis de pràctica. Les organitzacions de la societat civil, la indústria, el món acadèmic i altres parts interessades rellevants, com ara els proveïdors i experts independents, poden donar suport al procés.

L'Oficina d'Intel·ligència Artificial i la Junta Directiva han d'assegurar que els codis de pràctica estableixin clarament els seus objectius específics i continguin compromisos o mesures, inclosos els indicadors clau de rendiment segons correspongui, per garantir la consecució d'aquests objectius, i que tinguin degudament en compte les necessitats i interessos de totes les parts interessades, incloses les persones afectades, a nivell de la Unió.

L'Oficina d'Intel·ligència Artificial té com a objectiu garantir que els participants en els codis de pràctica informen regularment a l'Oficina d'Intel·ligència Artificial sobre l'aplicació dels compromisos i les mesures adoptades i els seus resultats, inclosos els mesurats en funció dels indicadors clau de rendiment segons correspongui. Els indicadors clau de rendiment i els compromisos d'informe reflectiran les diferències de mida i capacitat entre els diferents participants.

L'Oficina d'Intel·ligència Artificial i la Junta Directiva han de supervisar i avaluar regularment l'assoliment dels objectius dels codis de pràctiques per part dels participants i la seva contribució a la correcta aplicació d'aquest Reglament. L'Oficina d'Intel·ligència Artificial i la Junta Directiva han de valorar si els codis de pràctiques cobreixen les obligacions previstes en els articles 53 i 55, i han de supervisar i avaluar regularment l'assoliment dels seus objectius.

La Comissió, a través d'un acte d'execució, pot aprovar un codi de pràctica i donar-li una validesa general en el si de la Unió; aquest acte d'execució s'aprovarà d'acord amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

L'Oficina d'IA pot convidar a tots els proveïdors de models d'IA de propòsit general a adherir-se als codis de pràctica. Per als proveïdors de models d'IA de propòsit general que no presentin riscos sistèmics aquesta adhesió es pot limitar a les obligacions previstes a l'article 53, llevat que declarin explícitament el seu interès per unir-se al codi complet.

L'Oficina d'Intel·ligència Artificial, segons correspongui, també fomentarà i facilitarà la revisió i adaptació dels codis de pràctica, en particular a la llum de les normes emergents, i ajudarà a l'avaluació de les normes disponibles.

Els codis de pràctiques estaran llestos a tot tardar el 2 de maig de 2025, i l'Oficina d'Intel·ligència Artificial adoptarà les mesures necessàries, inclosa la invitació als proveïdors de conformitat amb l'apartat 7.

Si abans del 2 d'agost de 2025 no es pot concloure un codi de pràctiques, o si l'Oficina d'Intel·ligència Artificial ho considera insuficient després de la seva avaluació en virtut de l'apartat 6 d'aquest article, la Comissió pot establir, mitjançant actes d'execució, normes comunes per a l'aplicació de les obligacions previstes en els articles 53 i 55, incloses les qüestions previstes en l'apartat 2 d'aquest article, que s'adoptaran de conformitat amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

1. L'Oficina d'Intel·ligència Artificial fomentarà i facilitarà l'elaboració de codis de pràctica a nivell de la Unió per a contribuir a la correcta aplicació d'aquest Reglament, tenint en compte els enfocaments internacionals.

2. L'Oficina d'Intel·ligència Artificial i la Junta Directiva han d'assegurar que els codis de pràctiques cobreixin almenys les obligacions previstes en els articles 53 i 55, inclosos els següents temes: (a) els mitjans per assegurar que la informació a què fa referència l'article 53, apartat 1, punts (a) i (b), es mantingui actualitzada a la llum de l'evolució del mercat i de la tecnologia; (b) la identificació del tipus i la naturalesa dels riscos sistèmics a nivell de la Unió, incloses les seves fonts, si escau; (d) les mesures, procediments i modalitats per a l'avaluació i gestió dels riscos sistèmics a nivell de la Unió, inclosa la documentació d'aquests, que serà proporcionada als riscos, tinguin en compte la seva gravetat i probabilitat i tinguin en compte els reptes específics d'abordar aquests riscos a la llum de les possibles formes en què aquests riscos poden sorgir i materialitzar-se al llarg de la cadena de valor de la IA.

3. L'Oficina d'Intel·ligència Artificial pot convidar a tots els proveïdors de models d'intel·ligència artificial de propòsit general, així com a les autoritats competents nacionals pertinents, a participar en l'elaboració de codis de pràctica. Les organitzacions de la societat civil, la indústria, el món acadèmic i altres parts interessades rellevants, com els proveïdors de baix i els experts independents, poden donar suport al procés.

L'Oficina d'Intel·ligència Artificial tindrà com a objectiu garantir que els participants en els codis de pràctica informen regularment a l'Oficina d'Intel·ligència Artificial sobre l'aplicació dels compromisos i les mesures adoptades i els seus resultats, inclosos els mesurats en funció dels indicadors clau de rendiment segons correspongui. Els indicadors clau de rendiment i els compromisos d'informació reflectiran les diferències de mida i capacitat entre els diferents participants.

L'Oficina d'Intel·ligència Artificial i la Junta Directiva han de supervisar i avaluar regularment l'assoliment dels objectius dels codis de pràctica per part dels participants i la seva contribució a l'aplicació adequada d'aquest Reglament. L'Oficina d'Intel·ligència Artificial i la Junta Directiva han de valorar si els codis de pràctica cobreixen les obligacions previstes en els articles 53 i 55, i han de supervisar i avaluar regularment l'assoliment dels seus objectius i publicar la seva avaluació de l'adequació dels codis de pràctica.

7. L'Oficina d'Intel·ligència Artificial pot convidar a tots els proveïdors de models d'intel·ligència artificial d'ús general a adherir-se als codis de pràctica. Per als proveïdors de models d'intel·ligència artificial d'ús general que no presentin riscos sistèmics aquesta adhesió pot limitar-se a les obligacions previstes a l'article 53, llevat que declarin explícitament el seu interès per unir-se al codi complet.

8. L'Oficina d'Intel·ligència Artificial també fomentarà i facilitarà la revisió i adaptació dels codis de pràctica, en particular a la llum de les normes emergents.

9. Els codis de pràctiques estaran llestos com a molt tard abans del 2 de maig de 2025. L'Oficina d'Intel·ligència Artificial farà els passos necessaris, inclosa la invitació als proveïdors de conformitat amb l'apartat 7.

Article 57

Els Estats membres garantiran que les seves autoritats competents estableixin almenys una caixa de sorra reguladora de la IA a nivell nacional, que estarà operativa abans del 2 d'agost de 2026. Aquesta caixa de sorra també es pot establir juntament amb les autoritats competents d'altres Estats membres. La Comissió pot proporcionar suport tècnic, assessorament i eines per a l'establiment i el funcionament de les caixes de sorra reguladores de la IA.

L'obligació en virtut del primer paràgraf també pot complir-se participant en un entorn de proves existent en la mesura en què la participació proporcioni un nivell equivalent de cobertura nacional per als Estats membres participants.

També poden establir-se caixes de sorra reguladores d'IA addicionals a nivell regional o local, o establir-se conjuntament amb les autoritats competents d'altres Estats membres.

El Supervisor Europeu de Protecció de Dades també pot establir una caixa de proves reguladora de la IA per a les institucions, òrgans, oficines i agències de la Unió, i pot exercir les funcions i les tasques de les autoritats nacionals competents d'acord amb aquest capítol.

Els Estats membres han de garantir que les autoritats competents esmentades en els apartats 1 i 2 assignin els recursos suficients per a complir aquest article de manera eficaç i oportuna. Si escau, les autoritats nacionals competents han de cooperar amb altres autoritats pertinents i poden permetre la participació d'altres actors dins de l'ecosistema de la IA. Aquest article no afectarà altres caixes de sorra reguladores establertes en la legislació de la Unió o nacional. Els Estats membres han de garantir un nivell adequat de cooperació entre les autoritats que supervisen aquestes altres caixes de sorra i les autoritats nacionals competents.

Les caixes de sorra reguladores de la IA establertes en l'apartat 1 han de proporcionar un entorn controlat que fomenti la innovació i faciliti el desenvolupament, la formació, les proves i la validació de sistemes innovadors d'IA durant un temps limitat abans de la seva comercialització o posada en servei d'acord amb un pla específic de caixes de sorra acordat entre els proveïdors o proveïdors potencials i l'autoritat competent. Aquestes caixes de sorra poden incloure proves en condicions del món real supervisades en elles.

Les autoritats competents proporcionaran, segons correspongui, orientació, supervisió i suport dins de la caixa de proves reguladora de la IA amb la finalitat d'identificar els riscos, en particular els drets fonamentals, la salut i la seguretat, les proves, les mesures de mitigació i la seva eficàcia en relació amb les obligacions i requisits d'aquest Reglament i, si escau, altres lleis de la Unió i nacionals supervisades dins de la caixa de proves.

Les autoritats competents proporcionaran als proveïdors i futurs proveïdors que participin en la caixa de proves reguladora de la IA una guia sobre les expectatives reguladores i com complir els requisits i obligacions establerts en aquest Reglament.

A petició del prestador o del possible proveïdor del sistema d'intel·ligència artificial, l'autoritat competent ha d'aportar una prova escrita de les activitats realitzades amb èxit a la caixa de proves. L'autoritat competent també ha d'aportar un informe de sortida que detalli les activitats realitzades a la caixa de proves i els resultats d'aprenentatge relacionats. Els proveïdors poden utilitzar aquesta documentació per demostrar el seu compliment a través del procés d'avaluació de la conformitat o les activitats de vigilància del mercat pertinents. En aquest sentit, les autoritats de vigilància del mercat i els organismes notificats tindran en compte positivament els informes de sortida i la prova escrita proporcionada per l'autoritat nacional competent, amb la finalitat d'accelerar els procediments d'avaluació de la conformitat en una mesura raonable.

La Comissió i el Consell estaran autoritzats a accedir als informes de sortida i, si escau, els tindran en compte en l'exercici de les seves funcions d'acord amb l'article 78, i si tant el prestador com l'autoritat competent nacional hi estan d'acord de manera explícita, l'informe de sortida podrà estar disponible públicament a través de la plataforma única d'informació a la qual es fa referència en aquest article.

L'establiment de caixes de sorra reguladores de la IA tindrà com a objectiu contribuir als següents objectius: (a) millorar la seguretat jurídica per aconseguir el compliment normatiu d'aquest Reglament o, si escau, d'altres lleis nacionals i de la Unió aplicables; (b) donar suport a l'intercanvi de bones pràctiques a través de la cooperació amb les autoritats implicades en la caixa de proves reguladora de la IA; (c) fomentar la innovació i la competitivitat i facilitar el desenvolupament d'un ecosistema de la IA; (d) contribuir a l'aprenentatge regulador basat en l'evidència; (e) facilitar i accelerar l'accés al mercat de la Unió per als sistemes d'IA, en particular quan ho proporcionin les pimes, incloses les empreses emergents.

Les autoritats nacionals competents garantiran que, en la mesura en què els sistemes innovadors d'IA impliquin el tractament de dades personals o que d'una altra manera siguin competència d'altres autoritats nacionals o autoritats competents que facilitin o donin suport a l'accés a les dades, les autoritats nacionals de protecció de dades i les altres autoritats nacionals o competents s'associïn al funcionament de la caixa de proves reguladora de la IA i participin en la supervisió d'aquests aspectes en la mesura de les seves respectives tasques i competències.

Les caixes de sorra reguladores de la IA no afectaran les competències de supervisió o correcció de les autoritats competents que supervisen les caixes de sorra, fins i tot a nivell regional o local. Qualsevol risc significatiu per a la salut i la seguretat i els drets fonamentals identificats durant el desenvolupament i proves d'aquests sistemes d'IA donarà lloc a una mitigació adequada. Les autoritats nacionals competents tindran la facultat de suspendre temporalment o permanentment el procés de prova, o la participació en la caixa de proves si no és possible una mitigació efectiva. Les autoritats nacionals competents exerciran les seves competències de supervisió dins dels límits de la llei pertinent, utilitzant les seves competències discrecionals quan s'apliquin disposicions legals respecte a un projecte específic de caixa de sorra de la IA, amb l'objectiu de donar suport a la innovació en la IA a la Unió.

Els proveïdors i els possibles proveïdors que participin en la IA reguladora de la caixa de proves continuaran sent responsables, en virtut de la legislació aplicable de la Unió i de la responsabilitat nacional, de qualsevol dany infligit a tercers com a resultat de l'experimentació que tingui lloc en la caixa de proves, però sempre que els possibles proveïdors compleixin amb el pla específic i els termes i condicions per a la seva participació i segueixin de bona fe les directrius donades per l'autoritat nacional competent, no s'imposaran sancions administratives per les autoritats per infraccions d'aquest Reglament.

Les caixes de sorra reguladores de la IA s'han de dissenyar i implementar de manera que, si escau, facilitin la cooperació transfronterera entre les autoritats nacionals competents.

Les autoritats nacionals competents coordinaran les seves activitats i cooperaran en el marc de la Junta.

Les autoritats nacionals competents han d'informar l'Oficina d'Intel·ligència Artificial i a la Junta de l'establiment d'una caixa de sorra, i poden demanar-los suport i orientació. L'Oficina d'Intel·ligència Artificial ha de posar a disposició pública una llista de caixes de sorra planificades i existents i mantenir-les actualitzades per tal de fomentar una major interacció en les caixes de sorra reguladores de la intel·ligència artificial i la cooperació transfronterera.

Les autoritats nacionals competents presentaran informes anuals a l'Oficina d'Intel·ligència Artificial i a la Junta, des d'un any després de l'establiment de la caixa de proves reguladora de la intel·ligència artificial i tots els anys després de la seva finalització, i un informe final. Aquests informes proporcionaran informació sobre el progrés i els resultats de la implementació d'aquestes caixes de sorra, incloses les bones pràctiques, incidents, lliçons apreses i recomanacions sobre la seva configuració i, si escau, sobre l'aplicació i possible revisió d'aquest Reglament, inclosos els actes delegats i d'execució, i sobre l'aplicació d'altres lleis de la Unió supervisades per les autoritats competents dins de la caixa de proves. Les autoritats nacionals competents posaran a disposició del públic aquests informes anuals o resums en l'exercici de les seves tasques d'acord amb aquest Reglament.

La Comissió desenvoluparà una interfície única i dedicada que contingui tota la informació rellevant relacionada amb les caixes de sorra reguladores de la IA per permetre a les parts interessades interactuar amb les caixes de sorra reguladores de la IA i plantejar consultes a les autoritats competents, i buscar una orientació no vinculant sobre la conformitat dels productes innovadors, serveis, models de negoci que incorporin tecnologies d'IA, de conformitat amb el punt (c) de l'apartat 1 de l'article 62).

Els Estats membres han d'assegurar que les seves autoritats competents estableixin almenys una caixa de sorra reguladora de la IA a nivell nacional, que estarà operativa abans del 2 d'agost de 2026. Aquesta caixa de sorra també es pot establir juntament amb les autoritats competents d'altres Estats membres. La Comissió pot proporcionar suport tècnic, assessorament i eines per a l'establiment i el funcionament de les caixes de sorra reguladores de la IA.

2. També poden establir-se caixes de sorra reguladores d'IA addicionals a nivell regional o local, o establir-se conjuntament amb les autoritats competents d'altres Estats membres.

Els Estats membres han d'assegurar que les autoritats competents a què es fa referència en els apartats 1 i 2 assignin els recursos suficients per complir amb aquest article de manera efectiva i oportuna. Si escau, les autoritats nacionals competents han de cooperar amb altres autoritats pertinents i poden permetre la participació d'altres actors dins de l'ecosistema de la IA. Aquest article no afectarà altres caixes de sorra reguladores establertes en la legislació de la Unió o nacional. Els Estats membres han de garantir un nivell adequat de cooperació entre les autoritats que supervisen aquestes altres caixes de sorra i les autoritats nacionals competents.

6. Les autoritats competents proporcionaran, segons correspongui, orientació, supervisió i suport dins de la caixa de proves reguladora de la IA amb la finalitat d'identificar els riscos, en particular els drets fonamentals, la salut i la seguretat, les proves, les mesures de mitigació i la seva eficàcia en relació amb les obligacions i requisits d'aquest Reglament i, si escau, altres lleis de la Unió i nacionals supervisades dins de la caixa de proves.

7. Les autoritats competents proporcionaran als proveïdors i futurs proveïdors que participin en la caixa de proves reguladora de la IA una guia sobre les expectatives reguladores i com complir els requisits i obligacions establerts en aquest Reglament.

8. Subjecte a les disposicions de confidencialitat de l'article 78, i amb l'acord del proveïdor o del prospectiu, la Comissió i el Consell estaran autoritzats a accedir als informes de sortida i els tindran en compte, si escau, en l'exercici de les seves funcions d'acord amb aquest Reglament. Si tant el proveïdor o el prospectiu com l'autoritat nacional competent hi estan d'acord explícitament, l'informe de sortida podrà estar disponible públicament a través de la plataforma única d'informació a què es refereix aquest article.

Les autoritats nacionals competents garantiran que, en la mesura en què els sistemes innovadors d'intel·ligència artificial impliquin el tractament de dades personals o siguin objecte de control d'altres autoritats nacionals o autoritats competents que facilitin o donin suport a l'accés a les dades, les autoritats nacionals de protecció de dades i les altres autoritats nacionals o competents s'associïn al funcionament de la caixa de proves reguladora de la IA i participin en la supervisió d'aquests aspectes en la mesura de les seves respectives tasques i competències.

Les autoritats nacionals competents tindran la facultat de suspendre temporalment o permanentment el procés de proves, o la participació en la caixa de proves si no és possible una mitigació efectiva. Les autoritats nacionals competents exerciran les seves competències de supervisió dins dels límits de la llei pertinent, utilitzant les seves facultats discrecionals quan s'apliquin disposicions legals respecte a un projecte específic de la IA reguladora de la caixa de proves, amb l'objectiu de donar suport a la innovació en la IA a la Unió.

No obstant això, sempre que els possibles proveïdors que participin en la IA reguladora de la caixa de sorra segueixin sent responsables, en virtut de la legislació aplicable de la Unió i de la responsabilitat nacional, de qualsevol dany infligit a tercers com a resultat de l'experimentació que es produeix en la caixa de sorra, però sempre que els possibles proveïdors compleixin amb el pla específic i els termes i condicions de la seva participació i segueixin de bona fe les directrius donades per l'autoritat nacional competent per a les infraccions d'aquest Reglament, no s'imposaran sancions administratives per part de les autoritats competents per a la supervisió del sistema d'IA en la caixa de sorra i proporcionar orientació per al seu compliment, no s'imposaran sancions administratives respecte a aquesta llei.

Les caixes de sorra reguladores de la IA s'han de dissenyar i implementar de manera que, si escau, facilitin la cooperació transfronterera entre les autoritats nacionals competents.

Les autoritats nacionals competents coordinaran les seves activitats i cooperaran en el marc de la Junta.

Les autoritats nacionals competents han d'informar l'Oficina d'Intel·ligència Artificial i a la Junta de l'establiment d'una caixa de sorra, i poden demanar-los suport i orientació. L'Oficina d'Intel·ligència Artificial ha de posar a disposició pública una llista de caixes de sorra planificades i existents i mantenir-les actualitzades per tal d'afavorir una major interacció en les caixes de sorra reguladores de la intel·ligència artificial i la cooperació transfronterera.

Les autoritats nacionals competents presentaran informes anuals a l'Oficina d'Intel·ligència Artificial i a la Junta, des d'un any després de l'establiment de la caixa de proves reguladora de la intel·ligència artificial i tots els anys després de la seva finalització, i un informe final. Aquests informes proporcionaran informació sobre el progrés i els resultats de la implementació d'aquestes caixes de sorra, incloses les millors pràctiques, incidents, lliçons apreses i recomanacions sobre la seva configuració i, si escau, sobre l'aplicació i possible revisió d'aquest Reglament, inclosos els actes delegats i d'execució, i sobre l'aplicació d'altres lleis de la Unió supervisades per les autoritats competents dins de la caixa de proves. Les autoritats nacionals competents posaran a disposició del públic aquests informes anuals o resums en l'exercici de les seves tasques d'acord amb aquest Reglament.

Article 58

Per tal d'evitar la fragmentació en tota la Unió, la Comissió adoptarà actes d'execució que especifiquin les disposicions detallades per a l'establiment, el desenvolupament, l'execució, el funcionament i la supervisió de les caixes de sorra reguladores de la IA. Els actes d'aplicació inclouen principis comuns sobre les següents qüestions:(a) l'elegibilitat i els criteris de selecció per a la participació en la caixa de sorra reguladora de la IA;(b) procediments per a la sol·licitud, la participació, el seguiment, la sortida i la finalització de la caixa de sorra reguladora de la IA, inclòs el pla de la caixa de sorra i l'informe de sortida;(c) els termes i condicions aplicables als participants.

Aquests actes d'execució s'adoptaran de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

Els actes d'aplicació esmentats en l'apartat 1 garantiran: (a) que les caixes de sorra reguladores de la IA estiguin obertes a qualsevol proveïdor d'aplicació o proveïdor prospectiu d'un sistema d'IA que compleixi els criteris d'elegibilitat i selecció, i que les autoritats nacionals competents puguin presentar sol·licituds d'accés ampli i equitatiu i mantenir la demanda de participació; (b) que l'accés a les caixes de sorra reguladores de la IA sigui gratuït per a les pimes, sense perjudici de les obligacions d'avaluació de la conformitat de les caixes de sorra reguladores de la IA, sense perjudici de les obligacions d'avaluació de la conformitat d'aquest Reglament i de l'aplicació voluntària dels codis de conducta de l'ecosistema de la IA, com ara els organismes notificats i les organitzacions de normalització de la IA, els centres d'excel·lència i els investigadors individuals, amb la finalitat de permetre i facilitar la cooperació amb els sectors públic i privat, i que la participació en una caixa de sorra reguladora de la IA es reconegui mútuament i de manera uniforme i que la participació en una caixa de sorra reguladora de la IA es limiti al desenvolupament d'eines i infraestructures per a l'aprenentatge regulador, com ara la precisió, la robustesa i la ciberseguretat, així com les mesures per mitigar els riscos per als drets fonamentals i la societat en general.

Els proveïdors prospectius de les caixes de sorra reguladores de la IA, en particular les pimes i les start-ups, es dirigiran, si escau, a serveis de predesplegament com l'orientació sobre l'aplicació d'aquest Reglament, a altres serveis de valor afegit com l'ajuda amb documents de normalització i certificació, instal·lacions de proves i experimentació, centres europeus d'innovació digital i centres d'excel·lència.

Quan les autoritats nacionals competents considerin autoritzar proves en condicions del món real supervisades en el marc d'una caixa de proves reguladora de la IA que s'establirà en virtut d'aquest article, hauran d'acordar específicament els termes i condicions d'aquestes proves i, en particular, les salvaguardes adequades amb els participants, amb la finalitat de protegir els drets fonamentals, la salut i la seguretat, i si escau, cooperaran amb altres autoritats nacionals competents per a garantir pràctiques coherents en tota la Unió.

Per tal d'evitar la fragmentació en tota la Unió, la Comissió adoptarà actes d'execució que especifiquin les disposicions detallades per a l'establiment, el desenvolupament, l'execució, el funcionament i la supervisió de les caixes de sorra reguladores de la IA. Els actes d'aplicació inclouran principis comuns sobre les següents qüestions:(a) l'elegibilitat i els criteris de selecció per a la participació en la caixa de sorra reguladora de la IA;(b) els procediments per a la sol·licitud, la participació, el seguiment, la sortida i la finalització de la caixa de sorra reguladora de la IA, inclòs el pla de la caixa de sorra i l'informe de sortida;(c) els termes i condicions aplicables als participants.

2. Els actes d'aplicació esmentats en l'apartat 1 garantiran: (a) que les caixes de sorra reguladores de la IA estiguin obertes a qualsevol proveïdor d'aplicació o proveïdor prospectiu d'un sistema d'IA que compleixi els criteris d'elegibilitat i de selecció, que siguin transparents i justes, i que les autoritats nacionals competents puguin presentar sol·licituds en el termini de tres mesos a partir de la sol·licitud; (b) que l'accés a les caixes de sorra reguladores de la IA sigui lliure i gratuït per a les pimes, sense perjudici dels costos excepcionals que les autoritats nacionals competents puguin recuperar de manera justa i proporcionada; (e) que l'accés a les caixes de sorra reguladores de la IA faciliti la participació d'altres actors rellevants dins de l'ecosistema de la IA, com ara els organismes notificats i les organitzacions de normalització de la IA, els centres d'excel·lència i els investigadors individuals, per tal de permetre i facilitar la cooperació amb els sectors públic i privat, i que la participació en una caixa de sorra reguladora de la IA es reconegui mútuament i de manera uniforme i que la participació en una caixa de sorra reguladora de la IA es limiti al desenvolupament d'eines i infraestructures per a l'aprenentatge regulador, com ara l'exactitud, la robustesa i la ciberseguretat, així com mesures per mitigar els riscos per als drets fonamentals i la societat en general.

Els proveïdors potencials de les caixes de sorra reguladores de la IA, en particular les pimes i les start-ups, es dirigiran, si escau, a serveis de predesplegament com l'orientació sobre l'aplicació d'aquest Reglament, a altres serveis de valor afegit com l'ajuda amb documents de normalització i certificació, instal·lacions de proves i experimentació, centres europeus d'innovació digital i centres d'excel·lència.

Quan les autoritats nacionals competents considerin autoritzar proves en condicions del món real supervisades en el marc d'una caixa de proves reguladora de la IA que s'estableixi en virtut d'aquest article, hauran d'acordar específicament els termes i condicions d'aquestes proves i, en particular, les salvaguardes adequades amb els participants, amb la finalitat de protegir els drets fonamentals, la salut i la seguretat, i si escau, cooperaran amb altres autoritats nacionals competents per a garantir pràctiques coherents en tota la Unió.

Article 59

Les dades personals proporcionades es conservaran mentre sigui usuari dels nostres serveis o en vulgui rebre informació, i si participa en una promoció mentre aquesta estigui activa, i després, durant el terminis establerts per complir amb les nostres obligacions legals. Les dades personals proporcionades es conservaran durant el temps necessari per complir amb la finalitat per a la qual es recullen i per determinar les possibles responsabilitats que es puguin derivar d'aquesta finalitat i del tractament de les seves dades personals, de conformitat amb el que disposa l'article 35 del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades.

A l'efecte de la prevenció, la investigació, la detecció o l'enjudiciament d'infraccions penals o l'execució de sancions penals, inclosa la salvaguarda i la prevenció d'amenaces a la seguretat pública, sota el control i la responsabilitat de les autoritats policials, el tractament de dades personals en les caixes de sorra reguladores de la IA es basarà en una legislació específica de la Unió o nacional i estarà subjecte a les mateixes condicions acumulatives a què es refereix l'apartat 1.

L'apartat 1 no perjudica la legislació de la Unió o nacional que exclogui el tractament de dades personals per a altres finalitats que les esmentades explícitament en aquesta llei, així com la legislació de la Unió o la legislació nacional que estableixi la base per al tractament de dades personals que sigui necessari per al desenvolupament, proves o formació de sistemes innovadors d'IA o qualsevol altra base legal, de conformitat amb la legislació de la Unió sobre la protecció de dades personals.

Les dades personals proporcionades es conservaran mentre sigui usuari dels nostres serveis o en vulgui rebre informació, i si participa en una promoció mentre aquesta estigui activa, i després, durant el terminis establerts per complir amb les nostres obligacions legals. Les dades personals proporcionades es conservaran durant el temps necessari per complir amb la finalitat per a la qual es recullen i per determinar les possibles responsabilitats que es puguin derivar d'aquesta finalitat i del tractament de les seves dades personals, de conformitat amb el que estableix el Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades.

A l'efecte de la prevenció, la investigació, la detecció o l'enjudiciament de delictes o l'execució de sancions penals, inclosa la salvaguarda i la prevenció d'amenaces a la seguretat pública, sota el control i la responsabilitat de les autoritats policials, el tractament de dades personals en les caixes de sorra reguladores de la IA es basarà en una legislació específica de la Unió o nacional i estarà subjecte a les mateixes condicions acumulatives a què es refereix l'apartat 1.

L'apartat 1 no perjudica la legislació de la Unió o nacional que exclogui el tractament de dades personals per a altres finalitats que les explícitament esmentades en aquesta llei, així com la legislació de la Unió o la legislació nacional que estableixi la base per al tractament de dades personals que sigui necessari per al desenvolupament, proves o formació de sistemes innovadors d'IA o qualsevol altra base legal, de conformitat amb la legislació de la Unió sobre la protecció de dades personals.

Article 60

Les proves de sistemes d'IA d'alt risc en condicions del món real fora de les caixes de sorra reguladores de la IA poden ser realitzades per proveïdors o proveïdors potencials de sistemes d'IA d'alt risc enumerats en l'Annex III, de conformitat amb aquest article i el pla de proves del món real a què es fa referència en aquest article, sense perjudici de les prohibicions previstes en l'article 5.

La Comissió, mitjançant actes d'execució, ha d'especificar els elements detallats del pla de proves del món real, que s'aprovarà d'acord amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

Aquest paràgraf no perjudicarà la legislació de la Unió o nacional sobre els assajos en condicions reals de sistemes d'intel·ligència artificial d'alt risc relacionats amb productes coberts per la legislació d'harmonització de la Unió enumerada en l'Annex I.

Els proveïdors o proveïdors potencials poden dur a terme proves de sistemes d'intel·ligència artificial d'alt risc a què fa referència l'Annex III en condicions del món real en qualsevol moment abans de la comercialització o la posada en servei del sistema d'intel·ligència artificial pel seu compte o en col·laboració amb un o més desplegadors o potencials desplegadors.

Les proves dels sistemes d'intel·ligència artificial d'alt risc en condicions del món real en virtut d'aquest article no perjudicaran cap revisió ètica que requereixi la legislació de la Unió o la legislació nacional.

Els proveïdors o proveïdors potencials poden dur a terme les proves en condicions del món real només quan es compleixin totes les condicions següents: (a) el proveïdor o proveïdor prospectiu ha elaborat un pla de proves en condicions del món real i el pla de proves del món real s'entendrà que ha estat aprovat; (c) el proveïdor o proveïdor prospectiu de sistemes d'identificació del món real referits en els punts 1, 6 i 7 de l'Annex III ha registrat les proves en condicions del món real únic número d'identificació i amb la informació especificada en el punt 2 de l'Annex III ha registrat les proves en condicions del món real únic número d'identificació i amb la informació especificada en el punt 2 de l'Annex III ha registrat les proves en condicions del món real únic número d'identificació i amb la informació especificada a la Unió;(f) el proveïdor o proveïdor prospectiu que realitza les proves en condicions del món real està adequadament protegit;(h) el proveïdor o proveïdor prospectiu que organitza les proves en condicions del món real en cooperació amb un o més proveïdors vulnerables per la seva edat o discapacitat, aquest últim ha estat informat de tots els aspectes de les proves en condicions del món real de conformitat amb l'article 61, o en el cas de l'aplicació de la llei, les proves en condicions del món real no tenen cap efecte negatiu sobre els subjectes, i les proves en condicions del món real són supervisades efectivament pel proveïdor o proveïdor prospectiu.

Les persones interessades tenen dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals van ser recollides.

De conformitat amb l'article 75, els Estats membres confereixen a les seves autoritats de vigilància del mercat la facultat d'exigir als proveïdors i als proveïdors potencials que facilitin informació, de dur a terme inspeccions remotes o in situ sense previ avís, i de realitzar controls sobre la realització de les proves en condicions del món real i els sistemes d'intel·ligència artificial d'alt risc relacionats.

Qualsevol incident greu identificat en el curs de les proves en condicions del món real serà comunicat a l'autoritat nacional de vigilància del mercat de conformitat amb l'article 73. El proveïdor o el proveïdor prospectiu adoptarà mesures de mitigació immediates o, en cas contrari, suspendrà les proves en condicions del món real fins que es produeixi aquesta mitigació o finalitzi d'una altra manera. El proveïdor o proveïdor prospectiu establirà un procediment per a la retirada immediata del sistema d'IA després de la finalització de les proves en condicions del món real.

Els proveïdors o els possibles proveïdors han de notificar a l'autoritat nacional de vigilància del mercat en l'Estat membre en el qual s'han de dur a terme les proves en condicions del món real de la suspensió o finalització de les proves en condicions del món real i dels resultats finals.

El prestador o el possible proveïdor serà responsable, en virtut de la legislació de responsabilitat nacional i de la Unió aplicable, de qualsevol dany causat en el transcurs de les seves proves en condicions del món real.

3. Les proves de sistemes d'intel·ligència artificial d'alt risc en condicions del món real en virtut d'aquest article no perjudicaran cap revisió ètica que requereixi la legislació de la Unió o la legislació nacional.

4. Els proveïdors o els possibles proveïdors poden dur a terme les proves en condicions del món real només quan es compleixin totes les condicions següents: (a) l'autoritat de vigilància del mercat en l'Estat membre on s'han de dur a terme les proves en condicions del món real i el pla de proves del món real s'entén que ha estat aprovat; (c) el proveïdor o proveïdor prospectiu de sistemes d'identificació del món real referits en els punts 1, 6 i 7 de l'Annex III ha registrat les proves en condicions del món real únic número d'identificació i amb la informació especificada en l'article 4; (d) el proveïdor o proveïdor prospectiu que realitza les proves en condicions del món real només s'estableix en la Unió o s'ha nomenat un representant legal establert en la Unió;(h) els subjectes de les proves en condicions del món real que siguin persones rellevants per a la seva decisió de participar;(h) els subjectes de les proves en condicions del món real que siguin pertinents per a la seva decisió de participar;(h) els subjectes de les proves en condicions del món real que siguin pertinents per a la seva decisió de participar; (j) les proves en condicions del món real són efectivament supervisades pel proveïdor o proveïdor prospectiu; (k) les prediccions, recomanacions o decisions del sistema d'intel·ligència artificial poden ser efectivament invertides i ignorades.

Les persones interessades tenen dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre d'altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals van ser recollides.

De conformitat amb l'article 75, els Estats membres confereixen a les seves autoritats de vigilància del mercat la facultat d'exigir als proveïdors i als proveïdors potencials que facilitin informació, de dur a terme inspeccions remotes o in situ sense previ avís, i de realitzar controls sobre la realització de proves en condicions del món real i els sistemes d'intel·ligència artificial d'alt risc relacionats.

7. Qualsevol incident greu identificat en el curs de les proves en condicions del món real serà comunicat a l'autoritat nacional de vigilància del mercat de conformitat amb l'article 73. El proveïdor o el proveïdor prospectiu adoptarà mesures de mitigació immediates o, en cas contrari, suspendrà les proves en condicions del món real fins que es produeixi aquesta mitigació o finalitzi d'una altra manera. El proveïdor o proveïdor prospectiu establirà un procediment per a la retirada immediata del sistema d'IA després de la finalització de les proves en condicions del món real.

8. Els proveïdors o els possibles proveïdors han de notificar a l'autoritat nacional de vigilància del mercat en l'Estat membre en el qual s'han de dur a terme les proves en condicions del món real de la suspensió o finalització de les proves en condicions del món real i dels resultats finals.

Article 61

A l'efecte de les proves en condicions del món real en virtut de l'article 60, el consentiment informat lliurement s'obtindrà dels subjectes de proves abans de la seva participació en aquestes proves i després d'haver estat degudament informat amb informació concisa, clara, rellevant i comprensible sobre:(a) la naturalesa i els objectius de les proves en condicions del món real i els possibles inconvenients que es puguin derivar de la seva participació;(c) els seus drets, i les garanties respecte a la seva participació, en particular el seu dret a negar-se a participar, i el dret a retirar-se, proves en condicions del món real en qualsevol moment sense perjudici i sense necessitat de proporcionar cap justificació;(d) els acords per a sol·licitar la inversió o el menyspreu de les prediccions, recomanacions o decisions del sistema d'IA;(e) el número únic d'identificació de les proves en condicions del món real en tota la Unió d'acord amb el punt 4 de l'article 60 (c), i les dades de contacte del proveïdor o del seu representant legal de qui es pot obtenir més informació.

El consentiment informat serà datat i documentat i es lliurarà una còpia als subjectes de proves o al seu representant legal.

2. El consentiment informat serà datat i documentat i es lliurarà una còpia als subjectes de proves o al seu representant legal.

Article 62

Els Estats membres han d'emprendre les següents accions: (a) proporcionar a les pimes, incloses les empreses emergents, tenir una seu social o una sucursal a la Unió, un accés prioritari a les caixes de sorra reguladores de la IA, en la mesura en què compleixin les condicions d'elegibilitat i els criteris de selecció; (b) organitzar activitats específiques de sensibilització i formació sobre l'aplicació d'aquest Reglament adaptades a les necessitats de les pimes, incloses les empreses emergents, els desplegadors i, si escau, les autoritats públiques locals, per proporcionar assessorament i respondre a les consultes sobre l'aplicació d'aquest Reglament, inclosa la participació en caixes de sorra reguladores de la IA; (d) facilitar la participació de les PIME i altres parts interessades en el procés de desenvolupament de la normalització.

Els interessos i necessitats específics dels proveïdors de PIME, incloses les empreses emergents, es tindran en compte a l'hora d'establir les taxes per a l'avaluació de la conformitat en virtut de l'article 43, reduint aquestes taxes proporcionalment a la seva grandària, grandària del mercat i altres indicadors rellevants.

L'Oficina d'Intel·ligència Artificial ha d'emprendre les següents accions: (a) proporcionar plantilles estandarditzades per a les àrees cobertes per aquest Reglament, tal com especifica el Consell en la seva sol·licitud; (b) desenvolupar i mantenir una única plataforma d'informació que proporcioni informació fàcil d'utilitzar en relació amb aquest Reglament per a tots els operadors de la Unió; (c) organitzar campanyes de comunicació adequades per sensibilitzar sobre les obligacions derivades d'aquest Reglament; (d) avaluar i promoure la convergència de les millors pràctiques en els procediments de contractació pública en relació amb els sistemes d'IA.

Els Estats membres han d'emprendre les següents accions: (a) proporcionar a les pimes, incloses les empreses emergents, tenir una seu social o una sucursal a la Unió, un accés prioritari a les caixes de sorra reguladores de la IA, en la mesura en què compleixin les condicions d'elegibilitat i els criteris de selecció; (b) organitzar activitats específiques de sensibilització i formació sobre l'aplicació d'aquest Reglament adaptades a les necessitats de les pimes, incloses les empreses emergents, els agents de desplegament i, si escau, les autoritats públiques locals, per proporcionar assessorament i respondre a les consultes sobre l'aplicació d'aquest Reglament, inclosa la participació en caixes de sorra reguladores de la IA;(d) facilitar la participació de les PIME i altres parts interessades en el procés de desenvolupament de la normalització.

2. Els interessos i necessitats específics dels proveïdors de PIME, incloses les empreses emergents, es tindran en compte a l'hora d'establir les taxes per a l'avaluació de conformitat en virtut de l'article 43, reduint aquestes taxes proporcionalment a la seva grandària, grandària del mercat i altres indicadors rellevants.

3. L'Oficina d'Intel·ligència Artificial ha d'emprendre les següents accions: (a) proporcionar plantilles estandarditzades per a les àrees cobertes per aquest Reglament, tal com especifica el Consell en la seva sol·licitud; (b) desenvolupar i mantenir una única plataforma d'informació que proporcioni informació fàcil d'utilitzar en relació amb aquest Reglament per a tots els operadors de la Unió; (c) organitzar campanyes de comunicació adequades per sensibilitzar sobre les obligacions derivades d'aquest Reglament; (d) avaluar i promoure la convergència de les millors pràctiques en els procediments de contractació pública en relació amb els sistemes d'IA.

Article 63

Les microempreses en el sentit de la Recomanació 2003/361/CE poden complir amb determinats elements del sistema de gestió de la qualitat exigit per l'article 17 d'aquest Reglament de manera simplificada, sempre que no tinguin empreses sòcies o empreses vinculades en el sentit d'aquesta Recomanació, per la qual cosa la Comissió elaborarà directrius sobre els elements del sistema de gestió de la qualitat que puguin complir-se de manera simplificada tenint en compte les necessitats de les microempreses, sense afectar el nivell de protecció ni la necessitat de complir amb els requisits respecte als sistemes d'intel·ligència artificial d'alt risc.

L'apartat 1 d'aquest article no s'interpretarà com a exonerant a aquests operadors del compliment de qualsevol altre requisit o obligació establert en aquest Reglament, inclosos els establerts en els articles 9, 10, 11, 12, 13, 14, 15, 72 i 73.

2. L'apartat 1 d'aquest article no s'interpretarà com a exonerant a aquests operadors del compliment de qualsevol altre requisit o obligació establert en aquest Reglament, inclosos els establerts en els articles 9, 10, 11, 12, 13, 14, 15, 72 i 73.

Article 64

La Comissió desenvoluparà els coneixements i les capacitats de la Unió en el camp de la IA a través de l'Oficina d'Intel·ligència Artificial.

Els Estats membres facilitaran les tasques encomanades a l'Oficina d'Intel·ligència Artificial, tal com es reflecteix en aquest Reglament.

1. La Comissió desenvoluparà els coneixements i les capacitats de la Unió en l'àmbit de la IA a través de l'Oficina d'Intel·ligència Artificial.

Els Estats membres facilitaran les tasques encomanades a l'Oficina d'Intel·ligència Artificial, tal com es reflecteix en aquest Reglament.

Article 65

S'estableix una Junta Europea d'Intel·ligència Artificial (la "Board").

La Junta Directiva estarà constituïda per un representant per Estat membre, en el qual participarà com a observador el Supervisor Europeu de Protecció de Dades i assistirà a les reunions de la Junta, sense participar en les votacions, convidant a altres autoritats, òrgans o experts nacionals i de la Unió a les reunions, cas per cas, en les quals els temes tractats siguin rellevants per a ells.

Cada representant serà designat pel seu Estat membre per un període de tres anys, renovable una vegada.

Els Estats membres han de garantir que els seus representants en el Consell:(a) tinguin les competències i poders pertinents en el seu Estat membre per a contribuir activament a l'assoliment de les tasques del Consell de Ministres a què fa referència l'article 66;(b) es designin com un únic punt de contacte davant el Consell i, si escau, tenint en compte les necessitats dels Estats membres, com un únic punt de contacte per a les parts interessades;(c) estiguin facultats per a facilitar la coherència i la coordinació entre les autoritats nacionals competents en el seu Estat membre pel que fa a l'aplicació d'aquest Reglament, fins i tot a través de la recopilació de dades i informació pertinents amb la finalitat de complir les seves tasques en el Consell.

Els representants designats dels Estats membres adoptaran el Reglament de la Junta per una majoria de dos terços, en particular, establiran els procediments per al procés de selecció, la durada del mandat i les especificacions de les tasques de la Presidència, els acords detallats per a la votació, i l'organització de les activitats de la Junta i les dels seus subgrups.

La Junta establirà dos subgrups permanents per proporcionar una plataforma de cooperació i intercanvi entre les autoritats de vigilància del mercat i notificar a les autoritats sobre qüestions relacionades amb la vigilància del mercat i els organismes notificats, respectivament.

El subgrup permanent per a la vigilància del mercat ha d'actuar com el grup de cooperació administrativa (ADCO) d'aquest Reglament en el sentit de l'article 30 del Reglament (UE) 2019/1020.

La Junta pot establir altres subgrups permanents o temporals, segons correspongui, amb la finalitat d'examinar qüestions concretes i, si escau, es pot convidar a representants del fòrum consultiu a què fa referència l'article 67 a aquests subgrups o a reunions específiques d'aquests subgrups com a observadors.

La Junta s'organitzarà i operarà per tal de salvaguardar l'objectivitat i imparcialitat de les seves activitats.

La Junta Directiva estarà presidida per un dels representants dels Estats membres, i l'Oficina d'Intel·ligència Artificial facilitarà la secretaria de la Junta, convocarà les reunions a petició de la Presidència i elaborarà l'ordre del dia d'acord amb les tasques de la Junta de conformitat amb aquest Reglament i el seu Reglament.

1. s'estableix una Junta Europea d'Intel·ligència Artificial (la "Board").

Cada representant serà designat pel seu Estat membre per un període de tres anys, renovable una vegada.

4. els Estats membres han de garantir que els seus representants en el Consell:(a) tinguin les competències i poders pertinents en el seu Estat membre per a contribuir activament a la consecució de les tasques del Consell d'Administració contemplades en l'article 66;(b) es designin com un únic punt de contacte davant el Consell i, si escau, tenint en compte les necessitats dels Estats membres, com un únic punt de contacte per a les parts interessades;(c) estiguin facultats per a facilitar la coherència i la coordinació entre les autoritats nacionals competents en el seu Estat membre pel que fa a l'aplicació d'aquest Reglament, fins i tot a través de la recopilació de dades i informació pertinents amb la finalitat de complir les seves tasques en el Consell.

5. Els representants designats dels Estats membres adoptaran el Reglament de la Junta per una majoria de dos terços; el Reglament, en particular, establirà els procediments per al procés de selecció, la durada del mandat i les especificacions de les tasques de la Presidència, els acords detallats per a la votació i l'organització de les activitats de la Junta i les dels seus subgrups.

6. La Junta establirà dos subgrups permanents per proporcionar una plataforma de cooperació i intercanvi entre les autoritats de vigilància del mercat i notificar a les autoritats sobre qüestions relacionades amb la vigilància del mercat i els organismes notificats, respectivament.

7. La Junta s'organitzarà i operarà per tal de salvaguardar l'objectivitat i imparcialitat de les seves activitats.

8. La Junta Directiva estarà presidida per un dels representants dels Estats membres. L'Oficina d'Intel·ligència Artificial facilitarà la secretaria de la Junta, convocarà les reunions a petició de la Presidència i elaborarà l'ordre del dia d'acord amb les tasques de la Junta de conformitat amb aquest Reglament i el seu Reglament.

Article 66

El Consell assessorarà i assistirà a la Comissió i als Estats membres per tal de facilitar la coordinació entre les autoritats nacionals competents responsables de l'aplicació d'aquest Reglament i, en col·laboració i subjecte a l'acord de les autoritats nacionals competents per a l'aplicació d'aquest Reglament, donarà suport a les activitats conjuntes de les autoritats nacionals competents per a l'aplicació d'aquest Reglament;(b) prestarà assessorament sobre l'aplicació de les normes sobre models d'IA d'ús general, i emetrà recomanacions i dictàmens en condicions de compliment en els Estats membres, incloent:(f) donarà suport a la Comissió en la promoció de l'alfabetització en matèria d'IA i la seva aplicació coherent i efectiva, incloent:(f) donarà suport a la Comissió en els àmbits de la seguretat dels productes, la ciberseguretat, la competència, els serveis i les xarxes d'experts de la Unió, en particular en els àmbits de la seguretat dels productes, la ciberseguretat, la competència, els serveis de protecció dels consumidors, les dades i les organitzacions internacionals;(j) prestarà assistència a les autoritats nacionals competents en l'establiment i el desenvolupament de documents d'orientació reguladors de la IA;(n) prestarà assessorament a la Comissió sobre les alertes qualificades en relació amb els models d'IA d'ús general, i sobre les experiències i pràctiques nacionals sobre el seguiment i l'aplicació dels models d'IA d'ús general, en particular, els sistemes d'IA d'ús general.

Article 67

S'establirà un fòrum consultiu per proporcionar experiència tècnica i assessorar el Consell i la Comissió, i per contribuir a les seves tasques d'acord amb aquest Reglament.

La pertinença al fòrum assessor ha de representar una selecció equilibrada d'actors, incloent la indústria, les empreses emergents, les PIME, la societat civil i el món acadèmic, i la pertinença al fòrum assessor ha de ser equilibrada pel que fa als interessos comercials i no comercials i, dins de la categoria d'interessos comercials, pel que fa a les PIME i altres empreses.

La Comissió nomenarà els membres del fòrum consultiu, d'acord amb els criteris establerts en l'apartat 2, d'entre les parts interessades amb experiència reconeguda en l'àmbit de la IA.

El mandat dels membres del fòrum consultiu serà de dos anys, que es podran prorrogar fins a un màxim de quatre anys.

L'Agència de Drets Fonamentals, ENISA, el Comitè Europeu de Normalització (CEN), el Comitè Europeu de Normalització Electrotècnica (CENELEC) i l'Institut Europeu de Normes de Telecomunicacions (ETSI) seran membres permanents del fòrum consultiu.

El fòrum consultiu elaborarà el seu Reglament, elegirà dos copresidents d'entre els seus membres, d'acord amb els criteris establerts en l'apartat 2. El mandat dels copresidents serà de dos anys, renovable una vegada.

El fòrum consultiu ha de celebrar reunions almenys dues vegades a l'any i el fòrum consultiu pot convidar a experts i altres parts interessades a les seves reunions.

El fòrum consultiu podrà elaborar dictàmens, recomanacions i aportacions per escrit a petició del Consell o de la Comissió.

El fòrum consultiu pot establir subgrups permanents o temporals segons correspongui a l'efecte d'examinar qüestions específiques relacionades amb els objectius d'aquest Reglament.

El fòrum consultiu elaborarà un informe anual sobre les seves activitats, que es farà públic.

1. s'establirà un fòrum consultiu per a proporcionar experiència tècnica i assessorar el Consell i la Comissió, i per a contribuir a les seves tasques en virtut d'aquest Reglament.

La pertinença al fòrum assessor ha de representar una selecció equilibrada d'actors, incloent-hi la indústria, les empreses emergents, les pimes, la societat civil i el món acadèmic. La pertinença al fòrum assessor ha de ser equilibrada pel que fa als interessos comercials i no comercials i, dins de la categoria d'interessos comercials, pel que fa a les pimes i altres empreses.

3. La Comissió nomenarà els membres del fòrum consultiu, d'acord amb els criteris establerts en l'apartat 2, d'entre les parts interessades amb experiència reconeguda en l'àmbit de la IA.

4. El mandat dels membres del fòrum assessor serà de dos anys, que es podran prorrogar fins a un màxim de quatre anys.

6. El fòrum consultiu elaborarà el seu Reglament, elegirà dos copresidents d'entre els seus membres, d'acord amb els criteris establerts en l'apartat 2. El mandat dels copresidents serà de dos anys, renovable una vegada.

El fòrum consultiu ha de celebrar reunions com a mínim dues vegades a l'any. El fòrum consultiu pot convidar experts i altres parts interessades a les seves reunions.

8. El fòrum consultiu podrà elaborar dictàmens, recomanacions i aportacions per escrit a petició del Consell o de la Comissió.

El fòrum consultiu pot establir subgrups permanents o temporals, segons correspongui, amb la finalitat d'examinar qüestions específiques relacionades amb els objectius d'aquest Reglament.

10. El fòrum consultiu elaborarà un informe anual sobre les seves activitats, que es farà públic.

Article 68

La Comissió, per mitjà d'un acte d'execució, establirà disposicions sobre l'establiment d'un grup científic d'experts independents (el "panell científic") destinat a donar suport a les activitats d'aplicació d'aquest Reglament, que s'aprovarà d'acord amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

El panell científic estarà format per experts seleccionats per la Comissió sobre la base dels coneixements científics o tècnics actualitzats en l'àmbit de la IA necessaris per a les tasques establertes en l'apartat 3, i serà capaç de demostrar el compliment de totes les condicions següents: (a) tenir coneixements i competències particulars i coneixements científics o tècnics en l'àmbit de la IA; (b) independència de qualsevol proveïdor de sistemes d'IA o models d'IA de propòsit general; (c) capacitat per dur a terme activitats de manera diligent, precisa i objectiva.

La Comissió, prèvia consulta amb el Consell, determinarà el nombre d'experts en el panell d'acord amb les necessitats requerides i garantirà una representació justa de gènere i geogràfica.

El panell científic assessorarà i donarà suport a l'Oficina d'Intel·ligència Artificial, en particular pel que fa a les següents tasques: (a) donar suport a l'aplicació i l'aplicació d'aquest Reglament pel que fa als models i sistemes d'intel·ligència artificial de propòsit general, en particular mitjançant: (b) donar suport al treball de les autoritats de vigilància del mercat, a petició seva; (c) donar suport a les activitats de vigilància transfronterera del mercat, tal com es fa referència en l'article 74 (11), sense perjudici de les competències de les autoritats de vigilància del mercat; (d) donar suport a l'Oficina d'intel·ligència artificial en l'acompliment de les seves funcions en el context del procediment de salvaguarda de la Unió de conformitat amb l'article 81.

Els experts del panell científic exerciran les seves tasques amb imparcialitat i objectivitat, i vetllaran per la confidencialitat de la informació i de les dades obtingudes en l'acompliment de les seves tasques i activitats, no buscaran ni acceptaran instruccions de ningú en l'exercici de les seves tasques en virtut de l'apartat 3. Cada expert elaborarà una declaració d'interessos, que es farà pública i establirà sistemes i procediments per gestionar activament i prevenir possibles conflictes d'interès.

L'acte d'execució a què fa referència l'apartat 1 inclourà disposicions sobre les condicions, procediments i disposicions detallades perquè el panell científic i els seus membres emetin alertes i sol·licitin l'assistència de l'Oficina d'Intel·ligència Artificial per a l'acompliment de les tasques del panell científic.

La Comissió, per mitjà d'un acte d'execució, establirà disposicions sobre la creació d'un grup científic d'experts independents (el "panell científic") destinat a donar suport a les activitats d'aplicació d'aquest Reglament, que s'aprovarà d'acord amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

2. El panell científic estarà format per experts seleccionats per la Comissió sobre la base dels coneixements científics o tècnics actualitzats en l'àmbit de la IA necessaris per a les tasques establertes en l'apartat 3, i serà capaç de demostrar el compliment de totes les condicions següents:(a) tenir coneixements i competències particulars i coneixements científics o tècnics en l'àmbit de la IA;(b) independència de qualsevol proveïdor de sistemes d'IA o models d'IA de propòsit general;(c) capacitat per a dur a terme activitats de manera diligent, precisa i objectiva.

3. El panell científic assessorarà i donarà suport a l'Oficina d'Intel·ligència Artificial, en particular pel que fa a les següents tasques: (a) donar suport a l'aplicació i execució d'aquest Reglament pel que fa als models i sistemes d'intel·ligència artificial de propòsit general, en particular mitjançant: (b) donar suport al treball de les autoritats de vigilància del mercat, a petició seva; (c) donar suport a les activitats de vigilància transfronterera del mercat, tal com es fa referència en l'article 74 (11), sense perjudici de les competències de les autoritats de vigilància del mercat; (d) donar suport a l'Oficina d'intel·ligència artificial en l'acompliment de les seves funcions en el context del procediment de salvaguarda de la Unió de conformitat amb l'article 81.

Els experts del panell científic exerciran les seves tasques amb imparcialitat i objectivitat, i vetllaran per la confidencialitat de la informació i de les dades obtingudes en el desenvolupament de les seves tasques i activitats, no buscaran ni acceptaran instruccions de ningú en l'exercici de les seves tasques en virtut de l'apartat 3. Cada expert elaborarà una declaració d'interessos, que es farà pública i establirà sistemes i procediments per gestionar activament i prevenir possibles conflictes d'interès.

Article 69

Els Estats membres poden demanar als experts del panell científic que donin suport a les seves activitats d'aplicació conformement a aquest Reglament.

L'estructura i el nivell de les taxes, així com l'escala i l'estructura dels costos recuperables, s'establiran en l'acte d'execució a què es refereix l'apartat 1 de l'article 68, tenint en compte els objectius de l'adequada aplicació d'aquest Reglament, la rendibilitat i la necessitat de garantir un accés efectiu als experts per a tots els Estats membres.

La Comissió facilitarà l'accés puntual als experts per part dels Estats membres, segons sigui necessari, i garantirà que la combinació d'activitats d'ajuda dutes a terme per la IA de la Unió, de conformitat amb l'article 84 i els experts de conformitat amb aquest article, s'organitzi de manera eficient i proporcioni el millor valor afegit possible.

1. Els Estats membres poden demanar als experts del panell científic que donin suport a les seves activitats d'aplicació en virtut d'aquest Reglament.

3. La Comissió facilitarà l'accés puntual als experts per part dels Estats membres, segons sigui necessari, i garantirà que la combinació d'activitats de suport dutes a terme per la IA de la Unió per a les proves de suport de conformitat amb l'article 84 i els experts de conformitat amb aquest article s'organitzi de manera eficient i proporcioni el millor valor afegit possible.

Article 70

Les autoritats nacionals competents han d'establir o designar com a autoritats nacionals competents almenys una autoritat de notificació i almenys una autoritat de vigilància del mercat a l'efecte d'aquest Reglament. Aquestes autoritats nacionals competents exerciran les seves competències de manera independent, imparcial i sense prejudicis per a salvaguardar l'objectivitat de les seves activitats i tasques, i garantiran l'aplicació i l'aplicació d'aquest Reglament. Els membres d'aquestes autoritats s'abstindran de qualsevol acció incompatible amb les seves obligacions.

Els Estats membres comunicaran a la Comissió la identitat de les autoritats notificadores i de les autoritats de vigilància del mercat i les tasques d'aquestes autoritats, així com qualsevol modificació posterior d'aquestes. Els Estats membres posaran a disposició pública informació sobre com es poden posar en contacte les autoritats competents i els punts de contacte únics, a través de mitjans de comunicació electrònica abans del 2 d'agost de 2025. Els Estats membres designaran una autoritat de vigilància del mercat per actuar com a punt de contacte únic d'aquest Reglament, i notificaran a la Comissió la identitat del punt de contacte únic. La Comissió farà pública una llista dels punts de contacte únics.

Els Estats membres han de garantir que les seves autoritats nacionals competents disposin de recursos tècnics, financers i humans adequats, així com d'infraestructures per a complir amb les seves tasques de manera efectiva en virtut d'aquest Reglament; en particular, les autoritats nacionals competents disposaran d'un nombre suficient de personal disponible de manera permanent, les competències i els coneixements dels quals inclouran un coneixement profund de les tecnologies de la IA, la informàtica de dades i dades, la protecció de dades personals, la ciberseguretat, els drets fonamentals, els riscos per a la salut i la seguretat i el coneixement de les normes i requisits legals existents; i els Estats membres avaluaran i, si escau, actualitzaran els requisits de competència i recursos esmentats en aquest apartat de manera anual.

Les autoritats nacionals competents han de prendre les mesures adequades per garantir un nivell adequat de ciberseguretat.

En l'exercici de les seves funcions, les autoritats nacionals competents actuaran d'acord amb les obligacions de confidencialitat establertes en l'article 78.

Per al 2 d'agost de 2025, i una vegada cada dos anys després, els Estats membres informaran la Comissió sobre l'estat dels recursos financers i humans de les autoritats nacionals competents, amb una avaluació de la seva adequació, i la Comissió transmetrà aquesta informació a la Junta per a la seva discussió i possibles recomanacions.

La Comissió facilitarà l'intercanvi d'experiències entre les autoritats nacionals competents.

Les autoritats nacionals competents poden proporcionar orientació i assessorament sobre l'aplicació d'aquest Reglament, en particular a les pimes, incloses les empreses emergents, tenint en compte l'orientació i l'assessorament del Consell i de la Comissió, sempre que les autoritats nacionals competents tinguin la intenció de proporcionar orientació i assessorament respecte a un sistema d'IA en els àmbits coberts per altres lleis de la Unió, es consultaran les autoritats nacionals competents en virtut d'aquest dret de la Unió, segons correspongui.

Quan les institucions, òrgans, oficines o agències de la Unió entrin en l'àmbit d'aplicació d'aquest Reglament, el Supervisor Europeu de Protecció de Dades actuarà com l'autoritat competent per a la seva supervisió.

Les autoritats nacionals competents exerciran les seves competències de manera independent, imparcial i sense prejudicis per a salvaguardar l'objectivitat de les seves activitats i tasques, així com per a garantir l'aplicació i l'aplicació d'aquest Reglament. Els membres d'aquestes autoritats s'abstindran de qualsevol acció incompatible amb les seves obligacions, sempre que es compleixin aquests principis, aquestes activitats i tasques podran ser exercides per una o més autoritats designades, d'acord amb les necessitats organitzatives de l'Estat membre.

Els Estats membres comunicaran a la Comissió la identitat de les autoritats notificadores i de les autoritats de vigilància del mercat i les tasques d'aquestes autoritats, així com qualsevol modificació posterior d'aquestes autoritats. Els Estats membres posaran a disposició pública informació sobre com es poden posar en contacte les autoritats competents i els punts de contacte únics, a través de mitjans de comunicació electrònica abans del 2 d'agost de 2025. Els Estats membres designaran una autoritat de vigilància del mercat per actuar com a punt de contacte únic d'aquest Reglament, i notificaran a la Comissió la identitat del punt de contacte únic. La Comissió farà pública una llista dels punts de contacte únics.

Els Estats membres han de garantir que les seves autoritats nacionals competents disposin de recursos tècnics, financers i humans adequats, així com d'infraestructures per a complir amb les seves tasques de manera efectiva en virtut d'aquest Reglament; en particular, les autoritats nacionals competents disposaran d'un nombre suficient de personal disponible de manera permanent, les competències i els coneixements dels quals inclouen un coneixement profund de les tecnologies de la IA, la informàtica de dades i dades, la protecció de dades personals, la ciberseguretat, els drets fonamentals, els riscos per a la salut i la seguretat i el coneixement de les normes i requisits legals existents; els Estats membres avaluaran i, si escau, actualitzaran els requisits de competència i recursos esmentats en aquest apartat de manera anual.

4. Les autoritats nacionals competents han de prendre les mesures adequades per garantir un nivell adequat de ciberseguretat.

En l'exercici de les seves funcions, les autoritats nacionals competents actuaran d'acord amb les obligacions de confidencialitat establertes en l'article 78.

6. El 2 d'agost de 2025, i cada dos anys a partir de llavors, els Estats membres informaran la Comissió sobre l'estat dels recursos financers i humans de les autoritats nacionals competents, amb una avaluació de la seva adequació, i la Comissió transmetrà aquesta informació a la Junta per a la seva discussió i possibles recomanacions.

7. La Comissió facilitarà l'intercanvi d'experiències entre les autoritats nacionals competents.

Article 71

La Comissió, en col·laboració amb els Estats membres, ha d'establir i mantenir una base de dades de la UE que contingui informació a què es refereixen els apartats 2 i 3 d'aquest article sobre els sistemes d'intel·ligència artificial d'alt risc a què es refereix l'apartat 2 de l'article 6 i els sistemes d'intel·ligència artificial registrats de conformitat amb els articles 49 i 60 i els sistemes d'intel·ligència artificial que no siguin considerats d'alt risc de conformitat amb l'apartat 4 de l'article 6 i l'article 49. En establir les especificacions funcionals d'aquesta base de dades, la Comissió consultarà als experts pertinents i en actualitzar les especificacions funcionals d'aquesta base de dades, la Comissió consultarà al Consell d'Administració.

Les dades que figuren en els apartats A i B de l'Annex VIII seran incorporades a la base de dades de la UE pel prestador o, si escau, pel representant autoritzat.

Les dades que figuren en l'apartat C de l'Annex VIII s'incorporaran a la base de dades de la UE per part del desplegador que sigui, o que actuï en nom d'una autoritat pública, una agència o un organisme, de conformitat amb els articles 49, apartats 3 i 4.

A excepció de l'apartat 4 de l'article 49 i de l'apartat 4 de l'article 60, punt (c), la informació continguda en la base de dades de la UE registrada de conformitat amb l'article 49 serà accessible i públicament disponible de manera fàcil d'utilitzar. La informació registrada de conformitat amb l'article 60 només serà accessible a les autoritats de vigilància del mercat i a la Comissió, tret que el possible proveïdor o proveïdor hagi donat el seu consentiment per a fer també accessible la informació al públic.

La base de dades de la UE només contindrà dades personals en la mesura que sigui necessari per a la recollida i el tractament d'informació d'acord amb aquest Reglament, que inclourà els noms i les dades de contacte de les persones físiques que són responsables de registrar el sistema i que tenen l'autoritat legal per a representar el prestador o el desplegador, si escau.

La Comissió serà la responsable de la base de dades de la UE, que posarà a la disposició dels proveïdors, potencials proveïdors i desplegadors un suport tècnic i administratiu adequat, i la base de dades de la UE complirà amb els requisits d'accessibilitat aplicables.

La Comissió, en col·laboració amb els Estats membres, ha d'establir i mantenir una base de dades de la UE que contingui informació a què es refereixen els apartats 2 i 3 d'aquest article sobre els sistemes d'IA d'alt risc esmentats en l'apartat 2 de l'article 6 i els sistemes d'IA que no es considerin d'alt risc de conformitat amb l'apartat 3 de l'article 6 i l'article 49. Quan estableixi les especificacions funcionals d'aquesta base de dades, la Comissió consultarà als experts pertinents i quan actualitzi les especificacions funcionals d'aquesta base de dades, la Comissió consultarà al Consell d'Administració.

Les dades enumerades en els apartats A i B de l'Annex VIII seran incorporades a la base de dades de la UE pel prestador o, si escau, pel representant autoritzat.

3. Les dades enumerades en l'apartat C de l'Annex VIII seran incorporades a la base de dades de la UE pel desplegador que sigui, o que actuï en nom d'una autoritat, agència o organisme públic, de conformitat amb els articles 49, apartats 3 i 4.

4. Amb excepció de l'apartat 4 de l'article 49 i de l'apartat 4 de l'article 60, punt (c), la informació continguda en la base de dades de la UE registrada de conformitat amb l'article 49 serà accessible i públicament disponible de manera fàcil d'utilitzar. La informació registrada de conformitat amb l'article 60 només serà accessible a les autoritats de vigilància del mercat i a la Comissió, tret que el possible proveïdor o proveïdor hagi donat el seu consentiment per a fer també accessible la informació al públic.

6. La Comissió serà la responsable de la base de dades de la UE, que posarà a la disposició dels proveïdors, potencials proveïdors i desplegadors un suport tècnic i administratiu adequat. La base de dades de la UE complirà amb els requisits d'accessibilitat aplicables.

Article 72

Els proveïdors han d'establir i documentar un sistema de seguiment post-mercat de manera proporcional a la naturalesa de les tecnologies d'IA i els riscos del sistema d'IA d'alt risc.

El sistema de seguiment post-mercat recollirà, documentarà i analitzarà de manera activa i sistemàtica dades rellevants que puguin ser facilitades pels desplegadors o que puguin ser recollides a través d'altres fonts sobre el rendiment de sistemes d'IA d'alt risc al llarg de la seva vida, i que permetin al prestador avaluar el compliment continu dels sistemes d'IA amb els requisits establerts en el capítol III, secció 2. Si escau, el seguiment post-mercat inclourà una anàlisi de la interacció amb altres sistemes d'IA. Aquesta obligació no cobrirà les dades operatives sensibles dels desplegadors que són autoritats de compliment de la llei.

El sistema de seguiment post-mercat es basarà en un pla de seguiment post-mercat. El pla de seguiment post-mercat formarà part de la documentació tècnica a què fa referència l'Annex IV. La Comissió adoptarà un acte d'execució que estableixi disposicions detallades que estableixin una plantilla per al pla de seguiment post-mercat i la llista d'elements que s'inclouran en el pla abans del 2 de febrer de 2026. Aquest acte d'execució s'aprovarà de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

Per als sistemes d'IA d'alt risc inclosos en la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, on ja s'estableix un sistema i un pla de seguiment postmercat en virtut d'aquesta legislació, amb la finalitat de garantir la consistència, evitar duplicacions i minimitzar càrregues addicionals, els proveïdors tindran l'opció d'integrar, segons correspongui, els elements necessaris descrits en els apartats 1, 2 i 3 utilitzant la plantilla esmentada en l'apartat 3 en sistemes i plans ja existents en virtut d'aquesta legislació, sempre que aconsegueixi un nivell de protecció equivalent.

El primer paràgraf d'aquest paràgraf també s'aplicarà als sistemes d'IA d'alt risc als quals es refereix el punt 5 de l'Annex III comercialitzat o posat en servei per institucions financeres que estan subjectes a requisits de la legislació de serveis financers de la Unió pel que fa a la seva governança interna, acords o processos.

Els proveïdors han d'establir i documentar un sistema de seguiment post-mercat de manera proporcional a la naturalesa de les tecnologies d'IA i els riscos del sistema d'IA d'alt risc.

El sistema de seguiment post-mercat recollirà, documentarà i analitzarà de manera activa i sistemàtica dades rellevants que puguin ser facilitades pels desplegadors o que puguin ser recollides a través d'altres fonts sobre el rendiment de sistemes d'IA d'alt risc al llarg de la seva vida, i que permetin al prestador avaluar el compliment continu dels sistemes d'IA amb els requisits establerts en el capítol III, secció 2. El seguiment post-mercat inclourà una anàlisi de la interacció amb altres sistemes d'IA. Aquesta obligació no cobrirà les dades operatives sensibles dels desplegadors que són autoritats de compliment de la llei.

3. El sistema de seguiment postmercat es basarà en un pla de seguiment postmercat. El pla de seguiment postmercat formarà part de la documentació tècnica a què fa referència l'Annex IV. La Comissió adoptarà un acte d'execució que estableixi disposicions detallades que estableixin una plantilla per al pla de seguiment postmercat i la llista d'elements que s'inclouran en el pla abans del 2 de febrer de 2026. Aquest acte d'execució s'aprovarà de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

4. Per als sistemes d'intel·ligència artificial d'alt risc coberts per la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, on ja s'estableix un sistema i un pla de seguiment postmercat en virtut d'aquesta legislació, amb la finalitat de garantir la coherència, evitar duplicacions i minimitzar càrregues addicionals, els proveïdors tindran l'opció d'integrar, segons correspongui, els elements necessaris descrits en els apartats 1, 2 i 3 utilitzant la plantilla esmentada en l'apartat 3 en sistemes i plans ja existents en virtut d'aquesta legislació, sempre que aconsegueixi un nivell de protecció equivalent.

Article 73

Els proveïdors de sistemes d'intel·ligència artificial d'alt risc col·locats en el mercat de la Unió informaran de qualsevol incident greu a les autoritats de vigilància del mercat dels Estats membres en els quals s'hagi produït aquest incident.

L'informe al qual fa referència l'apartat 1 es realitzarà immediatament després que el prestador hagi establert un vincle causal entre el sistema d'IA i l'incident greu o la probabilitat raonable d'aquest enllaç, i, en tot cas, no més tard de 15 dies després que el prestador o, si escau, el desplegador, tingui coneixement de l'incident greu.

El termini per a la presentació d'informes a què fa referència el primer paràgraf tindrà en compte la gravetat de l'incident greu.

Sense perjudici de l'apartat 2 d'aquest article, en cas d'infracció generalitzada o d'incident greu tal com es defineix en l'article 3, punt (49)(b), l'informe al qual es fa referència en l'apartat 1 d'aquest article es facilitarà immediatament, i no més tard de dos dies després que el prestador o, si escau, el desplegador tingui coneixement d'aquest incident.

No obstant l'apartat 2, en cas de defunció d'una persona, l'informe es facilitarà immediatament després que el proveïdor o el desplegador hagi establert, o tan aviat com sospiti, una relació causal entre el sistema d'IA d'alt risc i l'incident greu, però no més tard de 10 dies després de la data en què el proveïdor o, si escau, el desplegador tingui coneixement de l'incident greu.

Quan sigui necessari per assegurar la informació oportuna, el proveïdor o, si escau, el desplegador, pot presentar un informe inicial que sigui incomplet, seguit d'un informe complet.

Després de la notificació d'un incident greu d'acord amb l'apartat 1, el prestador realitzarà, sense demora, les investigacions necessàries en relació amb l'incident greu i el sistema d'IA en qüestió, incloent una avaluació del risc de l'incident, i l'acció correctiva.

El prestador col·laborarà amb les autoritats competents, i si escau amb l'organisme notificat interessat, durant les investigacions a què fa referència el primer paràgraf, i no realitzarà cap investigació que impliqui alterar el sistema d'IA afectat de manera que pugui afectar qualsevol avaluació posterior de les causes de l'incident, abans d'informar les autoritats competents d'aquesta acció.

En rebre una notificació relacionada amb un incident greu a què es refereix l'article 3, punt (49)(c), l'autoritat competent en matèria de vigilància del mercat informarà les autoritats o organismes públics nacionals a què es refereix l'apartat 1 de l'article 77. La Comissió desenvoluparà una orientació específica per a facilitar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, que s'emetrà abans del 2 d'agost de 2025 i s'avaluarà regularment.

L'autoritat de vigilància del mercat adoptarà les mesures oportunes, tal com preveu l'article 19 del Reglament (UE) 2019/1020, en el termini de set dies a comptar des de la data en què va rebre la notificació a què es refereix l'apartat 1 d'aquest article, i seguirà els procediments de notificació tal com preveu aquest Reglament.

Per als sistemes d'intel·ligència artificial d'alt risc a què fa referència l'Annex III que es comercialitzen o es posen en servei per part dels proveïdors que estan subjectes als instruments legislatius de la Unió que estableixen obligacions d'informació equivalents a les establertes en aquest Reglament, la notificació d'incidents greus es limitarà a les esmentades en el punt (49)(c) de l'article 3.

Per als sistemes d'IA d'alt risc que siguin components de seguretat dels dispositius, o siguin ells mateixos dispositius, coberts pels Reglaments (UE) 2017/745 i (UE) 2017/746, la notificació d'incidents greus es limitarà als referits en l'article 3, punt (49)(c) d'aquest Reglament, i es farà a l'autoritat nacional competent triada a aquest efecte pels Estats membres on es va produir l'incident.

Les autoritats nacionals competents notificaran immediatament a la Comissió qualsevol incident greu, tant si han pres mesures sobre aquest tema com si no, de conformitat amb l'article 20 del Reglament (UE) 2019/1020.

L'informe a què fa referència l'apartat 1 es realitzarà immediatament després que el prestador hagi establert un vincle causal entre el sistema d'IA i l'incident greu o la probabilitat raonable d'aquest enllaç, i, en tot cas, no més tard de 15 dies després que el prestador o, si escau, el desplegador, tingui coneixement de l'incident greu.

5. Quan sigui necessari per assegurar la informació oportuna, el proveïdor o, si escau, el desplegador, pot presentar un informe inicial que sigui incomplet, seguit d'un informe complet.

6. Després de la notificació d'un incident greu d'acord amb l'apartat 1, el prestador realitzarà, sense demora, les investigacions necessàries en relació amb l'incident greu i el sistema d'IA en qüestió, incloent una avaluació del risc de l'incident, i l'acció correctiva.

7. En rebre una notificació relacionada amb un incident greu a què es refereix l'article 3, punt (49)(c), l'autoritat competent en matèria de vigilància del mercat informarà les autoritats o organismes públics nacionals a què es refereix l'apartat 1 de l'article 77. La Comissió elaborarà una guia dedicada per a facilitar el compliment de les obligacions establertes en l'apartat 1 d'aquest article, que s'emetrà abans del 2 d'agost de 2025 i s'avaluarà regularment.

8. L'autoritat de vigilància del mercat adoptarà les mesures oportunes, tal com preveu l'article 19 del Reglament (UE) 2019/1020, en el termini de set dies a comptar des de la data en què va rebre la notificació a què es refereix l'apartat 1 d'aquest article, i seguirà els procediments de notificació tal com preveu aquest Reglament.

Per als sistemes d'intel·ligència artificial d'alt risc a què fa referència l'Annex III que es comercialitzen o es posen en servei per part dels proveïdors que estan subjectes als instruments legislatius de la Unió que estableixen obligacions d'informació equivalents a les previstes en aquest Reglament, la notificació d'incidents greus es limitarà a les esmentades en el punt (49)(c) de l'article 3.

10. Per als sistemes d'intel·ligència artificial d'alt risc que siguin components de seguretat dels dispositius, o siguin ells mateixos dispositius, coberts pels Reglaments (UE) 2017/745 i (UE) 2017/746, la notificació d'incidents greus es limitarà als referits en l'article 3, punt (49)(c) d'aquest Reglament, i es farà a l'autoritat nacional competent triada a aquest efecte pels Estats membres on es va produir l'incident.

11. Les autoritats nacionals competents notificaran immediatament a la Comissió qualsevol incident greu, tant si han pres mesures sobre aquest tema com si no, de conformitat amb l'article 20 del Reglament (UE) 2019/1020.

Article 74

El Reglament (UE) 2019/1020 s'aplicarà als sistemes d'intel·ligència artificial contemplats en aquest Reglament. Als efectes de l'aplicació efectiva d'aquest Reglament:(a) qualsevol referència a un operador econòmic en virtut del Reglament (UE) 2019/1020 s'entén que inclou tots els operadors identificats en l'apartat 1 de l'article 2 d'aquest Reglament;(b) qualsevol referència a un producte en virtut del Reglament (UE) 2019/1020 s'entén que inclou tots els sistemes d'intel·ligència artificial en l'àmbit d'aquest Reglament.

Com a part de les seves obligacions d'informació en virtut de l'apartat 4 de l'article 34 del Reglament (UE) 2019/1020, les autoritats de vigilància del mercat informaran anualment la Comissió i les autoritats nacionals competents en matèria de competència de qualsevol informació identificada en el curs d'activitats de vigilància del mercat que puguin ser d'interès potencial per a l'aplicació de la legislació de la Unió sobre normes de competència, així com informaran anualment la Comissió sobre l'ús de pràctiques prohibides que es van produir durant aquest any i sobre les mesures adoptades.

Per als sistemes d'IA d'alt risc relacionats amb els productes inclosos en la legislació d'harmonització de la Unió que figura en la secció A de l'Annex I, l'autoritat de vigilància del mercat als efectes d'aquest Reglament serà l'autoritat responsable de les activitats de vigilància del mercat designades en virtut d'aquests actes legals.

Per derogació del primer paràgraf, i en les circumstàncies adequades, els Estats membres poden designar una altra autoritat rellevant per a actuar com a autoritat de vigilància del mercat, sempre que garanteixin la coordinació amb les autoritats sectorials competents en matèria de vigilància del mercat responsables de l'aplicació de la legislació d'harmonització de la Unió que figura en l'Annex I.

Els procediments als quals es fa referència en els articles 79 a 83 d'aquest Reglament no s'aplicaran als sistemes d'IA relacionats amb els productes contemplats en la legislació d'harmonització de la Unió que figura en l'apartat A de l'Annex I, on aquests actes jurídics ja preveuen procediments que garanteixen un nivell de protecció equivalent i tenen el mateix objectiu, sinó que s'aplicaran els procediments sectorials pertinents.

Sense perjudici de les competències de les autoritats de vigilància del mercat en virtut de l'article 14 del Reglament (UE) 2019/1020, amb la finalitat de garantir l'aplicació efectiva d'aquest Reglament, les autoritats de vigilància del mercat poden exercir les competències a què es refereix l'article 14, apartats 4, punts (d) i (j), d'aquest Reglament de manera remota, segons correspongui.

Per als sistemes d'IA d'alt risc comercialitzats, posats en servei o utilitzats per institucions financeres regulades per la legislació de serveis financers de la Unió, l'autoritat de vigilància del mercat a l'efecte d'aquest Reglament serà l'autoritat nacional competent per a la supervisió financera d'aquestes institucions en virtut d'aquesta legislació en la mesura en què la comercialització, la posada en servei o l'ús del sistema d'IA estigui directament relacionat amb la prestació d'aquests serveis financers.

Com a excepció de l'apartat 6, en les circumstàncies apropiades, i sempre que es garanteixi la coordinació, l'Estat membre podrà identificar una altra autoritat rellevant com a autoritat de vigilància del mercat a l'efecte d'aquest Reglament.

Les autoritats nacionals de vigilància del mercat que supervisen les entitats de crèdit regulades en virtut de la Directiva 2013/36/UE, que participen en el Mecanisme Únic de Supervisió establert pel Reglament (UE) núm. 1024/2013, han d'informar, sense demora, al Banc Central Europeu de qualsevol informació identificada en el transcurs de les seves activitats de vigilància del mercat que pugui ser d'interès potencial per a les tasques de supervisió prudencial del Banc Central Europeu especificades en aquest Reglament.

Per als sistemes d'IA d'alt risc enumerats en el punt 1 de l'Annex III d'aquest Reglament, en la mesura en què els sistemes s'utilitzen amb finalitats policials, de gestió de fronteres i de justícia i democràcia, i per als sistemes d'IA d'alt risc enumerats en els punts 6, 7 i 8 de l'Annex III d'aquest Reglament, els Estats membres designaran com a autoritats supervisores de protecció de dades competents en virtut del Reglament (UE) 2016/679 o de la Directiva (UE) 2016/680, o qualsevol altra autoritat designada d'acord amb les mateixes condicions establertes en els articles 41 a 44 de la Directiva (UE) 2016/680. Les activitats de vigilància del mercat no afectaran de cap manera la independència de les autoritats judicials, o interferiran en les seves activitats quan actuïn en la seva capacitat judicial.

Quan les institucions, òrgans, oficines o agències de la Unió entrin en l'àmbit d'aplicació d'aquest Reglament, el Supervisor Europeu de Protecció de Dades actuarà com la seva autoritat de vigilància del mercat, excepte en relació amb el Tribunal de Justícia de la Unió Europea actuant en la seva capacitat judicial.

Els Estats membres facilitaran la coordinació entre les autoritats de vigilància del mercat designades en virtut d'aquest Reglament i altres autoritats o organismes nacionals pertinents que supervisin l'aplicació de la legislació d'harmonització de la Unió enumerada en l'Annex I, o en una altra legislació de la Unió, que pugui ser rellevant per als sistemes d'intel·ligència artificial d'alt risc als quals es fa referència en l'Annex III.

Les autoritats de vigilància del mercat i la Comissió podran proposar activitats conjuntes, incloses les investigacions conjuntes, que es duran a terme tant per les autoritats de vigilància del mercat com per les autoritats de vigilància del mercat juntament amb la Comissió, amb l'objectiu de promoure el compliment, identificar l'incompliment, sensibilitzar o proporcionar orientació en relació amb aquest Reglament respecte a categories específiques de sistemes d'IA d'alt risc que es troben en un greu risc en dos o més Estats membres de conformitat amb l'article 9 del Reglament (UE) 2019/1020.

Sense perjudici de les competències previstes en el Reglament (UE) 2019/1020, i quan sigui rellevant i limitat al necessari per complir amb les seves tasques, les autoritats de vigilància del mercat tindran accés complet per part dels proveïdors a la documentació, així com als conjunts de dades de formació, validació i prova utilitzats per al desenvolupament de sistemes d'IA d'alt risc, inclosos, si escau i subjectes a salvaguardes de seguretat, a través d'interfícies de programació d'aplicacions (API) o altres mitjans i eines tècniques pertinents que permetin l'accés remot.

A les autoritats de vigilància del mercat se'ls concedirà accés al codi font del sistema d'intel·ligència artificial d'alt risc a petició raonada i només quan es compleixin les dues condicions següents:(a) l'accés al codi font és necessari per avaluar la conformitat d'un sistema d'intel·ligència artificial d'alt risc amb els requisits establerts en el capítol III, secció 2; i(b) els procediments de prova o auditoria i les verificacions basades en les dades i la documentació proporcionada pel proveïdor han estat exhaurits o demostrats insuficients.

Qualsevol informació o documentació obtinguda per les autoritats de vigilància del mercat serà tractada d'acord amb les obligacions de confidencialitat establertes en l'article 78.

El Reglament (UE) 2019/1020 s'aplicarà als sistemes d'IA contemplats en aquest Reglament. Als efectes de l'aplicació efectiva d'aquest Reglament:(a) qualsevol referència a un operador econòmic en virtut del Reglament (UE) 2019/1020 s'entén que inclou tots els operadors identificats en l'apartat 1 de l'article 2 d'aquest Reglament;(b) qualsevol referència a un producte en virtut del Reglament (UE) 2019/1020 s'entén que inclou tots els sistemes d'IA inclosos en l'àmbit d'aquest Reglament.

2. Com a part de les seves obligacions d'informació d'acord amb l'apartat 4 de l'article 34 del Reglament (UE) 2019/1020, les autoritats de vigilància del mercat comunicaran anualment a la Comissió i a les autoritats nacionals competents en matèria de competència qualsevol informació identificada en el curs d'activitats de vigilància del mercat que pugui ser d'interès potencial per a l'aplicació de la legislació de la Unió sobre normes de competència, així com informaran anualment la Comissió sobre l'ús de pràctiques prohibides que es van produir durant aquest any i sobre les mesures adoptades.

3. Per als sistemes d'intel·ligència artificial d'alt risc relacionats amb els productes inclosos en la legislació d'harmonització de la Unió enumerada en la secció A de l'Annex I, l'autoritat de vigilància del mercat als efectes d'aquest Reglament serà l'autoritat responsable de les activitats de vigilància del mercat designades en virtut d'aquests actes legals.

5. Sense perjudici de les competències de les autoritats de vigilància del mercat en virtut de l'article 14 del Reglament (UE) 2019/1020, amb la finalitat de garantir l'aplicació efectiva d'aquest Reglament, les autoritats de vigilància del mercat poden exercir les competències a què es refereix l'article 14, apartats 4, punts (d) i (j), d'aquest Reglament de manera remota, segons correspongui.

6. Per als sistemes d'IA d'alt risc comercialitzats, posats en servei o utilitzats per institucions financeres regulades per la legislació de serveis financers de la Unió, l'autoritat de vigilància del mercat als efectes d'aquest Reglament serà l'autoritat nacional competent per a la supervisió financera d'aquestes institucions en virtut d'aquesta legislació en la mesura en què la comercialització, la posada en servei o l'ús del sistema d'IA estigui directament relacionat amb la prestació d'aquests serveis financers.

Per als sistemes d'IA d'alt risc enumerats en el punt 1 de l'Annex III d'aquest Reglament, en la mesura en què els sistemes s'utilitzin amb finalitats policials, de gestió de fronteres i de justícia i democràcia, i per als sistemes d'IA d'alt risc enumerats en els punts 6, 7 i 8 de l'Annex III d'aquest Reglament, els Estats membres designaran com a autoritats de supervisió de la protecció de dades competents en virtut del Reglament (UE) 2016/679 o de la Directiva (UE) 2016/680, o qualsevol altra autoritat designada de conformitat amb les mateixes condicions establertes en els articles 41 a 44 de la Directiva (UE) 2016/680. Les activitats de vigilància del mercat no afectaran de cap manera la independència de les autoritats judicials, ni interferiran en les seves activitats quan actuïn en la seva capacitat judicial.

Les autoritats de vigilància del mercat i la Comissió podran proposar activitats conjuntes, incloses les investigacions conjuntes, que seran dutes a terme tant per les autoritats de vigilància del mercat com per les autoritats de vigilància del mercat juntament amb la Comissió, amb l'objectiu de promoure el compliment, identificar l'incompliment, sensibilitzar o proporcionar orientació en relació amb aquest Reglament respecte a categories específiques de sistemes d'IA d'alt risc que es trobin en un risc greu en dos o més Estats membres de conformitat amb l'article 9 del Reglament (UE) 2019/1020.

13. Es concedirà a les autoritats de vigilància del mercat l'accés al codi font del sistema d'intel·ligència artificial d'alt risc a petició raonada i només quan es compleixin les dues condicions següents:(a) l'accés al codi font és necessari per avaluar la conformitat d'un sistema d'intel·ligència artificial d'alt risc amb els requisits establerts en el capítol III, secció 2; i(b) els procediments de prova o auditoria i les verificacions basades en les dades i la documentació proporcionada pel proveïdor han estat exhaurits o demostrats insuficients.

Qualsevol informació o documentació obtinguda per les autoritats de vigilància del mercat serà tractada d'acord amb les obligacions de confidencialitat establertes a l'article 78.

Article 75

Si un sistema d'IA es basa en un model d'IA de propòsit general, i el model i el sistema són desenvolupats pel mateix proveïdor, l'Oficina d'IA tindrà poders per supervisar i supervisar el compliment d'aquest sistema d'IA amb les obligacions d'aquest Reglament. Per dur a terme les seves tasques de seguiment i supervisió, l'Oficina d'IA tindrà totes les competències d'una autoritat de vigilància del mercat previstes en aquesta Secció i el Reglament (UE) 2019/1020.

Quan les autoritats competents de vigilància del mercat tinguin motius suficients per considerar que els sistemes d'IA de propòsit general que poden ser utilitzats directament pels desplegadors per almenys una finalitat que està classificada com a d'alt risc d'acord amb aquest Reglament no compleixen amb els requisits establerts en aquest Reglament, cooperaran amb l'Oficina d'IA per dur a terme avaluacions de compliment, i informaran la Junta i altres autoritats de vigilància del mercat en conseqüència.

En cas que una autoritat de vigilància del mercat no pugui concloure la seva investigació del sistema d'intel·ligència artificial d'alt risc per la seva incapacitat per accedir a determinada informació relacionada amb el model d'intel·ligència artificial d'ús general malgrat haver fet tots els esforços necessaris per obtenir aquesta informació, pot presentar una sol·licitud motivada a l'Oficina d'intel·ligència artificial, per la qual cosa l'Oficina d'intel·ligència artificial ha de proporcionar sense demora a l'autoritat sol·licitant i, en tot cas, en el termini de 30 dies, qualsevol informació que l'Oficina d'intel·ligència artificial consideri rellevant per tal d'establir si un sistema d'intel·ligència artificial d'alt risc no és conforme amb l'article 78 del present Reglament.

2. Quan les autoritats competents en matèria de vigilància del mercat tinguin motius suficients per considerar que els sistemes d'IA de propòsit general que puguin ser utilitzats directament pels desplegadors amb almenys una finalitat que estigui classificada com a d'alt risc d'acord amb aquest Reglament no compleixen amb els requisits establerts en aquest Reglament, cooperaran amb l'Oficina d'Intel·ligència Artificial per dur a terme avaluacions de compliment, i informaran la Junta i altres autoritats de vigilància del mercat en conseqüència.

En cas que una autoritat de vigilància del mercat no pugui concloure la seva investigació sobre el sistema d'intel·ligència artificial d'alt risc per la seva incapacitat per accedir a determinada informació relacionada amb el model d'intel·ligència artificial d'ús general malgrat haver fet tots els esforços adequats per obtenir aquesta informació, pot presentar una sol·licitud motivada a l'Oficina d'intel·ligència artificial, per la qual cosa l'Oficina d'intel·ligència artificial ha de proporcionar sense demora a l'autoritat sol·licitant i, en tot cas, en el termini de 30 dies, qualsevol informació que l'Oficina d'intel·ligència artificial consideri rellevant per tal d'establir si un sistema d'intel·ligència artificial d'alt risc no és conforme amb l'article 78 del present Reglament.

Article 76

Les autoritats de vigilància del mercat tindran competències i poders per garantir que les proves en condicions del món real siguin conformes amb aquest Reglament.

Les autoritats de vigilància del mercat han de verificar el compliment de l'article 60 com a part de la seva funció de supervisió per a la caixa de proves reguladora de la IA. Aquestes autoritats poden, si escau, permetre que les proves en condicions del món real siguin dutes a terme pel proveïdor o el proveïdor prospectiu, en excepció de les condicions establertes en l'article 60(4), punts (f) i (g).

Quan una autoritat de vigilància del mercat hagi estat informada pel proveïdor prospectiu, el proveïdor o qualsevol tercer d'un incident greu o tingui altres motius per considerar que les condicions establertes en els articles 60 i 61 no es compleixen, pot prendre qualsevol de les següents decisions en el seu territori, segons correspongui: (a) suspendre o acabar les proves en condicions del món real; (b) exigir al proveïdor o proveïdor prospectiu i al desplegador o desplegament prospectiu modificar qualsevol aspecte de les proves en condicions del món real.

Quan una autoritat de vigilància del mercat hagi pres una decisió a la qual fa referència l'apartat 3 d'aquest article, o hagi emès una objecció en el sentit de l'apartat 4 de l'article 60, punt (b), la decisió o l'objecció indicarà els motius per a això i com el proveïdor o el proveïdor potencial pot impugnar la decisió o objecció.

Si escau, quan una autoritat de vigilància del mercat hagi pres una decisió a la qual es fa referència en l'apartat 3, comunicarà els motius per a això a les autoritats de vigilància del mercat d'altres Estats membres en els quals el sistema d'intel·ligència artificial s'hagi provat d'acord amb el pla de proves.

Les autoritats de vigilància del mercat tindran competències i poders per garantir que les proves en condicions del món real siguin conformes amb aquest Reglament.

Les autoritats de vigilància del mercat han de verificar el compliment de l'article 60 com a part de la seva funció de supervisió per a la caixa de proves reguladora de la IA. Aquestes autoritats poden, si escau, permetre que les proves en condicions del món real siguin dutes a terme pel proveïdor o proveïdor prospectiu, en excepció de les condicions establertes en l'article 60(4), punts (f) i (g).

3. Quan una autoritat de vigilància del mercat hagi estat informada pel proveïdor prospectiu, el proveïdor o qualsevol tercer d'un incident greu o tingui altres motius per considerar que no es compleixen les condicions establertes en els articles 60 i 61, pot prendre qualsevol de les següents decisions en el seu territori, segons correspongui: (a) suspendre o acabar les proves en condicions del món real; (b) exigir al proveïdor o proveïdor prospectiu i al desplegador o desplegament prospectiu modificar qualsevol aspecte de les proves en condicions del món real.

Si s'escau, quan una autoritat de vigilància del mercat hagi pres una decisió a la qual es refereix l'apartat 3, comunicarà els motius per a això a les autoritats de vigilància del mercat d'altres Estats membres en els quals el sistema d'intel·ligència artificial s'hagi provat d'acord amb el pla de proves.

Article 77

Les autoritats públiques nacionals o els organismes que supervisen o fan complir el respecte de les obligacions de la legislació de la Unió en matèria de protecció dels drets fonamentals, inclòs el dret a la no discriminació, en relació amb l'ús de sistemes d'intel·ligència artificial d'alt risc a què es refereix l'Annex III, tindran la facultat de sol·licitar i accedir a qualsevol documentació creada o mantinguda en virtut d'aquest Reglament en un llenguatge i format accessibles quan l'accés a aquesta documentació sigui necessari per complir amb eficàcia els seus mandats dins dels límits de la seva jurisdicció.

Per al 2 de novembre de 2024, cada Estat membre identificarà les autoritats o organismes públics als quals es fa referència en l'apartat 1 i farà pública una llista d'ells. Els Estats membres notificaran la llista a la Comissió i als altres Estats membres, i mantindran la llista actualitzada.

Quan la documentació a la qual es fa referència en l'apartat 1 sigui insuficient per a determinar si s'ha produït una infracció de les obligacions en virtut del dret de la Unió que protegeix els drets fonamentals, l'autoritat pública o l'organisme al qual es fa referència en l'apartat 1 pot fer una sol·licitud raonada a l'autoritat de vigilància del mercat, per a organitzar proves del sistema d'intel·ligència artificial d'alt risc a través de mitjans tècnics.

Qualsevol informació o documentació obtinguda per les autoritats o organismes públics nacionals a què es refereix l'apartat 1 d'aquest article de conformitat amb aquest article serà tractada d'acord amb les obligacions de confidencialitat establertes en l'article 78.

Les autoritats públiques nacionals o els organismes que supervisen o fan complir el respecte de les obligacions de la legislació de la Unió en matèria de protecció dels drets fonamentals, inclòs el dret a la no discriminació, en relació amb l'ús de sistemes d'intel·ligència artificial d'alt risc a què es refereix l'Annex III, tindran la facultat de sol·licitar i accedir a qualsevol documentació creada o mantinguda en virtut d'aquest Reglament en un llenguatge i format accessibles quan l'accés a aquesta documentació sigui necessari per complir amb els seus mandats dins dels límits de la seva jurisdicció.

2. El 2 de novembre de 2024, cada Estat membre identificarà a les autoritats o organismes públics als quals es fa referència en l'apartat 1 i farà pública una llista d'ells. Els Estats membres notificaran la llista a la Comissió i als altres Estats membres i mantindran la llista actualitzada.

3. Quan la documentació a què fa referència l'apartat 1 sigui insuficient per determinar si s'ha produït una infracció de les obligacions de la legislació de la Unió en matèria de protecció dels drets fonamentals, l'autoritat pública o l'organisme al qual fa referència l'apartat 1 pot fer una sol·licitud raonada a l'autoritat de vigilància del mercat, per organitzar proves del sistema d'intel·ligència artificial d'alt risc a través de mitjans tècnics. L'autoritat de vigilància del mercat ha d'organitzar les proves amb l'estreta participació de l'autoritat o òrgan públic sol·licitant en un termini raonable després de la sol·licitud.

Article 78

La Comissió, les autoritats de vigilància del mercat i els organismes notificats i qualsevol altra persona física o jurídica implicada en l'aplicació d'aquest Reglament respectaran, de conformitat amb la legislació de la Unió o de l'Estat, la confidencialitat de la informació i les dades obtingudes en l'exercici de les seves tasques i activitats de manera que protegeixin, en particular: (a) els drets de propietat intel·lectual i la informació comercial confidencial o els secrets comercials d'una persona física o jurídica, inclòs el codi font, excepte en els casos a què es refereix l'article 5 de la Directiva (UE) 2016/943 del Parlament Europeu i del Consell [E0057]; (b) l'aplicació efectiva d'aquest Reglament, en particular a l'efecte d'inspeccions, investigacions o auditories;(c) els interessos públics i nacionals de seguretat;(d) la realització de procediments penals o administratius;(e) la informació classificada d'acord amb la legislació de la Unió o nacional.

Les autoritats implicades en l'aplicació d'aquest Reglament d'acord amb l'apartat 1 sol·licitaran únicament les dades estrictament necessàries per a l'avaluació del risc que suposen els sistemes d'IA i per a l'exercici de les seves competències d'acord amb aquest Reglament i amb el Reglament (UE) 2019/1020, que establiran mesures adequades i eficaces de ciberseguretat per protegir la seguretat i la confidencialitat de la informació i les dades obtingudes, i suprimiran les dades recollides quan ja no siguin necessàries per a la finalitat per a la qual van ser obtingudes, d'acord amb la legislació nacional o de la Unió aplicable.

Sense perjudici dels apartats 1 i 2, la informació intercanviada de manera confidencial entre les autoritats nacionals competents o entre les autoritats nacionals competents i la Comissió no es divulgarà sense prèvia consulta a l'autoritat nacional competent i al desplegador quan els sistemes d'intel·ligència artificial d'alt risc als quals es refereix el punt 1, 6 o 7 de l'Annex III siguin utilitzats per les autoritats policials, de control fronterer, d'immigració o d'asil i quan aquesta divulgació posi en perill els interessos públics i de seguretat nacional. Aquest intercanvi d'informació no abastarà dades operatives sensibles en relació amb les activitats de les autoritats policials, frontereres, d'immigració o d'asil.

Quan les autoritats policials, d'immigració o d'asil siguin prestadores de sistemes d'intel·ligència artificial d'alt risc als quals es fa referència en el punt 1, 6 o 7 de l'Annex III, la documentació tècnica a la qual es fa referència en l'Annex IV quedarà dins de les instal·lacions d'aquestes autoritats, que garantiran que les autoritats de vigilància del mercat a les quals es refereix l'apartat 8 de l'article 74 i (9), segons correspongui, puguin accedir immediatament a la documentació o obtenir-ne una còpia.

Els apartats 1, 2 i 3 no afectaran els drets o obligacions de la Comissió, els Estats membres i les seves autoritats competents, així com els dels organismes notificats, pel que fa a l'intercanvi d'informació i la difusió d'advertiments, fins i tot en el context de la cooperació transfronterera, ni afectaran les obligacions de les parts interessades de proporcionar informació conformement al dret penal dels Estats membres.

La Comissió i els Estats membres poden intercanviar, quan sigui necessari i de conformitat amb les disposicions pertinents dels acords internacionals i comercials, informació confidencial amb les autoritats reguladores de tercers països amb les quals hagin celebrat acords bilaterals o multilaterals de confidencialitat que garanteixin un nivell adequat de confidencialitat.

3. Sense perjudici dels apartats 1 i 2, la informació intercanviada de manera confidencial entre les autoritats nacionals competents o entre les autoritats nacionals competents i la Comissió no es divulgarà sense prèvia consulta a l'autoritat nacional competent d'origen i al desplegador quan els sistemes d'IA d'alt risc als quals es fa referència en el punt 1, 6 o 7 de l'Annex III siguin utilitzats per les autoritats policials, de control fronterer, d'immigració o d'asil i quan aquesta divulgació posi en perill els interessos públics i de seguretat nacional. Aquest intercanvi d'informació no abastarà dades operatives sensibles en relació amb les activitats de les autoritats policials, frontereres, d'immigració o d'asil.

La Comissió i els Estats membres poden intercanviar, quan sigui necessari i d'acord amb les disposicions pertinents dels acords internacionals i comercials, informació confidencial amb les autoritats reguladores de tercers països amb les quals hagin celebrat acords bilaterals o multilaterals de confidencialitat que garanteixin un nivell adequat de confidencialitat.

Article 79

Els sistemes d'IA que presentin un risc s'entenen com un "producte que presenti un risc" tal com es defineix a l'article 3, punt 19 del Reglament (UE) 2019/1020, en la mesura que presentin riscos per a la salut o la seguretat, o per als drets fonamentals, de les persones.

Quan l'autoritat de vigilància del mercat d'un Estat membre tingui motius suficients per a considerar un sistema d'intel·ligència artificial per a presentar un risc, tal com s'assenyala en l'apartat 1 d'aquest article, realitzarà una avaluació del sistema d'intel·ligència artificial en qüestió pel que fa al compliment de tots els requisits i obligacions establerts en aquest Reglament, prestant especial atenció als sistemes d'intel·ligència artificial que presenten un risc per als col·lectius vulnerables. Quan s'identifiquin els riscos per als drets fonamentals, l'autoritat de vigilància del mercat també informarà i cooperarà plenament amb les autoritats o organismes públics nacionals pertinents als quals es refereix l'apartat 1 de l'article 77.

Quan, en el curs d'aquesta avaluació, l'autoritat de vigilància del mercat o, si escau, l'autoritat de vigilància del mercat en cooperació amb l'autoritat pública nacional a la qual es refereix l'apartat 1 de l'article 77, consideri que el sistema d'intel·ligència artificial no compleix els requisits i obligacions establerts en aquest Reglament, ha d'exigir sense demora indeguda a l'operador pertinent que prengui totes les mesures correctives apropiades per a posar en compliment el sistema d'intel·ligència artificial, retirar el sistema d'intel·ligència artificial del mercat o recordar-lo en un termini que l'autoritat de vigilància del mercat pugui prescriure, i en tot cas en el termini més breu de 15 dies laborables, o com preveu la legislació d'harmonització de la Unió pertinent.

L'autoritat de vigilància del mercat ha d'informar l'organisme notificat corresponent. L'article 18 del Reglament (UE) 2019/1020 s'aplicarà a les mesures a què fa referència el segon paràgraf d'aquest paràgraf.

Quan l'autoritat de vigilància del mercat consideri que l'incompliment no es limita al seu territori nacional, informarà la Comissió i als altres Estats membres sense demora indeguda dels resultats de l'avaluació i de les accions que ha exigit a l'operador.

L'operador garantirà que s'adoptin totes les mesures correctives adequades respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió.

Quan l'operador d'un sistema d'intel·ligència artificial no prengui mesures correctives adequades dins del període esmentat en l'apartat 2, l'autoritat de vigilància del mercat adoptarà totes les mesures provisionals apropiades per a prohibir o restringir que el sistema d'intel·ligència artificial estigui disponible en el seu mercat nacional o posat en servei, per a retirar el producte o el sistema d'intel·ligència artificial independent d'aquest mercat o per a recordar-lo, autoritat que notificarà sense demora indeguda a la Comissió i als altres Estats membres d'aquestes mesures.

La notificació a què fa referència l'apartat 5 inclourà tots els detalls disponibles, en particular la informació necessària per a la identificació del sistema d'IA no conforme, l'origen del sistema d'IA i la cadena de subministrament, la naturalesa i durada de les mesures nacionals adoptades i els arguments presentats per l'operador pertinent, en particular, les autoritats de vigilància del mercat hauran d'indicar si l'incompliment d'un sistema d'IA d'alt risc es deu a un o més dels requisits establerts en el capítol III, secció 2;(c) deficiències en les normes harmonitzades o especificacions comunes a les quals es fa referència en els articles 40 i 41 que confereixen una presumpció de conformitat;(d) incompliment de l'article 50.

Les autoritats de vigilància del mercat diferents de l'autoritat de vigilància del mercat de l'Estat membre que iniciï el procediment, informaran sense demora indeguda a la Comissió i als altres Estats membres de les mesures adoptades i de qualsevol informació addicional a la seva disposició relativa a l'incompliment del sistema d'IA en qüestió i, en cas de desacord amb la mesura nacional notificada, de les seves objeccions.

Quan, dins dels tres mesos següents a la recepció de la notificació a què fa referència l'apartat 5 d'aquest article, no s'hagi plantejat cap objecció per part d'una autoritat de vigilància del mercat d'un Estat membre o de la Comissió respecte a una mesura provisional adoptada per una autoritat de vigilància del mercat d'un altre Estat membre, aquesta mesura es considerarà justificada, sense perjudici dels drets processals de l'operador afectat de conformitat amb l'article 18 del Reglament (UE) 2019/1020, i es reduirà el període de tres mesos a què es refereix aquest paràgraf a 30 dies en cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5 d'aquest Reglament.

Les autoritats de vigilància del mercat han de garantir que es prenguin mesures restrictives adequades respecte al producte o al sistema d'IA en qüestió, com la retirada del producte o el sistema d'IA del seu mercat, sense demora indeguda.

En el cas que l'autoritat de vigilància del mercat d'un Estat membre tingui motius suficients per a considerar un sistema d'intel·ligència artificial per a presentar un risc, tal com es contempla en l'apartat 1 d'aquest article, ha de dur a terme una avaluació del sistema d'intel·ligència artificial en qüestió pel que fa al compliment de tots els requisits i obligacions establerts en aquest Reglament, prestant especial atenció als sistemes d'intel·ligència artificial que presenten un risc per als grups vulnerables, i en el cas que s'identifiquin riscos per als drets fonamentals, l'autoritat de vigilància del mercat també ha d'informar i cooperar plenament amb les autoritats o organismes públics nacionals pertinents als quals es fa referència en l'apartat 1 de l'article 77.

4. L'operador garantirà que s'adoptin totes les mesures correctives adequades respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió.

Quan l'operador d'un sistema d'intel·ligència artificial no prengui mesures correctives adequades dins del termini esmentat en l'apartat 2, l'autoritat de vigilància del mercat adoptarà totes les mesures provisionals apropiades per a prohibir o restringir que el sistema d'intel·ligència artificial estigui disponible en el seu mercat nacional o posat en servei, per a retirar el producte o el sistema d'intel·ligència artificial independent d'aquest mercat o per a recordar-lo, i aquesta autoritat notificarà sense demora indeguda a la Comissió i als altres Estats membres d'aquestes mesures.

6. La notificació a què fa referència l'apartat 5 inclourà tots els detalls disponibles, en particular la informació necessària per a la identificació del sistema d'IA no conforme, l'origen del sistema d'IA i la cadena de subministrament, la naturalesa i durada de les mesures nacionals adoptades i els arguments presentats per l'operador pertinent, en particular, les autoritats de vigilància del mercat han d'indicar si l'incompliment d'un sistema d'IA d'alt risc es deu a un o més dels requisits establerts en el capítol III, secció 2;(c) deficiències en les normes harmonitzades o especificacions comunes esmentades en els articles 40 i 41 que atorguen presumpció de conformitat;(d) incompliment de l'article 50.

7. Les autoritats de vigilància del mercat diferents de l'autoritat de vigilància del mercat de l'Estat membre que iniciï el procediment, informaran sense demora indeguda a la Comissió i als altres Estats membres de les mesures adoptades i de qualsevol informació addicional a la seva disposició relativa a l'incompliment del sistema d'IA en qüestió i, en cas de desacord amb la mesura nacional notificada, de les seves objeccions.

8. Quan, dins dels tres mesos següents a la recepció de la notificació a què fa referència l'apartat 5 d'aquest article, no s'hagi plantejat cap objecció per part d'una autoritat de vigilància del mercat d'un Estat membre o de la Comissió respecte a una mesura provisional adoptada per una autoritat de vigilància del mercat d'un altre Estat membre, aquesta mesura es considerarà justificada, sense perjudici dels drets processals de l'operador afectat de conformitat amb l'article 18 del Reglament (UE) 2019/1020. El termini de tres mesos a què es refereix aquest paràgraf es reduirà a 30 dies en cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5 d'aquest Reglament.

Les autoritats de vigilància del mercat han d'assegurar que es prenguin mesures restrictives adequades respecte al producte o al sistema d'IA en qüestió, com la retirada del producte o el sistema d'IA del seu mercat, sense demora indeguda.

Article 80

Quan una autoritat de vigilància del mercat tingui motius suficients per a considerar que un sistema d'IA classificat pel proveïdor com a no alt risc de conformitat amb l'apartat 3 de l'article 6 és, de fet, d'alt risc, l'autoritat de vigilància del mercat durà a terme una avaluació del sistema d'IA en qüestió respecte a la seva classificació com a sistema d'IA d'alt risc basat en les condicions establertes en l'apartat 3 de l'article 6 i les directrius de la Comissió.

Quan, en el curs d'aquesta avaluació, l'autoritat de vigilància del mercat consideri que el sistema d'IA en qüestió és d'alt risc, ha d'exigir sense demora indeguda al proveïdor pertinent que prengui totes les mesures necessàries per a fer que el sistema d'intel·ligència artificial compleixi els requisits i obligacions establerts en aquest Reglament, així com adoptar les mesures correctives adequades dins d'un termini que l'autoritat de vigilància del mercat pugui prescriure.

Quan l'autoritat de vigilància del mercat consideri que l'ús del sistema de IA en qüestió no es limita al seu territori nacional, informarà la Comissió i als altres Estats membres sense demora indeguda dels resultats de l'avaluació i de les accions que ha exigit al proveïdor.

El prestador s'ha d'assegurar que es prenguin totes les mesures necessàries perquè el sistema d'intel·ligència artificial compleixi amb els requisits i obligacions establerts en aquest Reglament, i quan el prestador d'un sistema d'intel·ligència artificial en qüestió no compleixi amb aquests requisits i obligacions en el termini previst en l'apartat 2 d'aquest article, el prestador estarà subjecte a multes d'acord amb l'article 99.

El prestador s'assegurarà que es prenguin totes les mesures correctives adequades respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió.

Quan el proveïdor del sistema d'IA en qüestió no prengui mesures correctives adequades dins del termini esmentat en l'apartat 2 d'aquest article, s'aplicarà l'apartat 5 de l'article 79 a (9).

Quan, en el transcurs de l'avaluació de conformitat amb l'apartat 1 d'aquest article, l'autoritat de vigilància del mercat estableixi que el sistema d'IA va ser mal classificat pel proveïdor com a no alt risc per tal d'eludir l'aplicació dels requisits en el capítol III, secció 2, el proveïdor estarà subjecte a multes d'acord amb l'article 99.

En l'exercici de les seves competències de control de l'aplicació d'aquest article, i de conformitat amb l'article 11 del Reglament (UE) 2019/1020, les autoritats de vigilància del mercat poden realitzar les comprovacions oportunes, tenint en compte en particular la informació emmagatzemada a la base de dades de la UE a la qual fa referència l'article 71 d'aquest Reglament.

1. Quan una autoritat de vigilància del mercat tingui motius suficients per a considerar que un sistema d'IA classificat pel proveïdor com a no alt risc de conformitat amb l'apartat 3 de l'article 6 és, de fet, d'alt risc, l'autoritat de vigilància del mercat durà a terme una avaluació del sistema d'IA en qüestió pel que fa a la seva classificació com a sistema d'IA d'alt risc basat en les condicions establertes en l'apartat 3 de l'article 6 i les directrius de la Comissió.

2. Quan, en el curs d'aquesta avaluació, l'autoritat de vigilància del mercat consideri que el sistema de IA en qüestió és d'alt risc, ha d'exigir sense demora indeguda al proveïdor pertinent que prengui totes les mesures necessàries per fer que el sistema d'IA compleixi amb els requisits i obligacions establerts en aquest Reglament, així com adoptar les mesures correctives adequades dins d'un termini que l'autoritat de vigilància del mercat pugui prescriure.

3. Quan l'autoritat de vigilància del mercat consideri que l'ús del sistema de IA en qüestió no es limita al seu territori nacional, informarà la Comissió i als altres Estats membres sense demora indeguda dels resultats de l'avaluació i de les accions que ha exigit al proveïdor.

4. El prestador s'assegurarà que es prenguin totes les mesures necessàries perquè el sistema d'IA compleixi amb els requisits i obligacions establerts en aquest Reglament. Quan el prestador d'un sistema d'IA en qüestió no compleixi amb aquests requisits i obligacions dins del termini esmentat en l'apartat 2 d'aquest article, el prestador estarà subjecte a multes d'acord amb l'article 99.

5. El prestador s'assegurarà que es prenguin totes les mesures correctives adequades respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió.

6. Pel que fa al proveïdor del sistema d'intel·ligència artificial en qüestió, no s'adopten mesures correctives adequades en el termini al qual fa referència l'apartat 2 d'aquest article, s'aplicarà l'apartat 5 de l'article 79 a (9).

Quan, en el transcurs de l'avaluació de conformitat amb l'apartat 1 d'aquest article, l'autoritat de vigilància del mercat estableixi que el sistema d'intel·ligència artificial va ser mal classificat pel proveïdor com a no alt risc per tal d'eludir l'aplicació dels requisits en el capítol III, secció 2, el proveïdor estarà subjecte a multes d'acord amb l'article 99.

8. En l'exercici del seu poder de control de l'aplicació d'aquest article, i d'acord amb l'article 11 del Reglament (UE) 2019/1020, les autoritats de vigilància del mercat poden realitzar les comprovacions oportunes, tenint en compte en particular la informació emmagatzemada a la base de dades de la UE a la qual fa referència l'article 71 d'aquest Reglament.

Article 81

Quan, en el termini de tres mesos des de la recepció de la notificació a què fa referència l'article 79, apartat 5, o en el termini de 30 dies en el cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5, les objeccions siguin plantejades per l'autoritat de vigilància del mercat d'un Estat membre a una altra autoritat de vigilància del mercat, o quan la Comissió consideri la mesura contrària al dret de la Unió, la Comissió, sense demora indeguda, entrarà en consulta amb l'autoritat de vigilància del mercat de l'Estat membre pertinent i l'operador o operadors, i avaluarà la mesura nacional, en el termini de sis mesos o en el termini de 60 dies en el cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5, decidirà si la mesura nacional està justificada i notificarà la seva decisió a l'autoritat de vigilància del mercat de l'Estat membre en qüestió.

Quan la Comissió consideri justificada la mesura adoptada per l'Estat membre en qüestió, tots els Estats membres s'asseguraran que adoptin les mesures restrictives adequades respecte al sistema d'IA en qüestió, com exigir la retirada del sistema d'IA del seu mercat sense demora indeguda, i informaran la Comissió en conseqüència, i quan la Comissió consideri injustificada la mesura nacional, l'Estat membre en qüestió retirarà la mesura i informarà la Comissió en conseqüència.

Si la mesura nacional es considera justificada i l'incompliment del sistema d'IA s'atribueix a deficiències en les normes harmonitzades o especificacions comunes a què es refereixen els articles 40 i 41 d'aquest Reglament, la Comissió aplicarà el procediment previst en l'article 11 del Reglament (UE) núm. 1025/2012.

Quan, en el termini de tres mesos a partir de la recepció de la notificació a què fa referència l'article 79, apartat 5, o en el termini de 30 dies en el cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5, l'autoritat de vigilància del mercat d'un Estat membre presenti objeccions a una mesura presa per una altra autoritat de vigilància del mercat, o quan la Comissió consideri que la mesura és contrària al dret de la Unió, la Comissió, sense demora indeguda, entrarà en consulta amb l'autoritat de vigilància del mercat de l'Estat membre pertinent i l'operador o operadors, i avaluarà la mesura nacional, en el termini de sis mesos o en el termini de 60 dies en el cas d'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5, decidirà si la mesura nacional està justificada i notificarà la seva decisió a l'autoritat de vigilància del mercat de l'Estat membre en qüestió.

2. Quan la Comissió consideri justificada la mesura adoptada per l'Estat membre en qüestió, tots els Estats membres s'asseguraran que adoptin les mesures restrictives adequades respecte al sistema d'IA en qüestió, com exigir la retirada del sistema d'IA del seu mercat sense demora indeguda, i informaran la Comissió en conseqüència, i quan la Comissió consideri injustificada la mesura nacional, l'Estat membre en qüestió retirarà la mesura i informarà la Comissió en conseqüència.

Article 82

Quan, després d'haver realitzat una avaluació en virtut de l'article 79, després de consultar a l'autoritat pública nacional pertinent a la qual fa referència l'apartat 1 de l'article 77, l'autoritat de vigilància del mercat d'un Estat membre consideri que, encara que un sistema d'intel·ligència artificial d'alt risc compleixi amb aquest Reglament, presenta un risc per a la salut o la seguretat de les persones, per als drets fonamentals o per a altres aspectes de la protecció de l'interès públic, requerirà a l'operador pertinent que prengui totes les mesures apropiades per a garantir que el sistema d'intel·ligència artificial en qüestió, quan es posi en el mercat o es posi en servei, ja no presenti aquest risc sense demora indeguda, dins d'un termini que pugui prescriure.

El proveïdor o un altre operador pertinent garantirà que s'adoptin mesures correctives respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió dins del termini establert per l'autoritat de vigilància del mercat de l'Estat membre a què es refereix l'apartat 1.

Els Estats membres han d'informar immediatament la Comissió i als altres Estats membres d'una conclusió de l'apartat 1. Aquesta informació inclourà tots els detalls disponibles, en particular les dades necessàries per a la identificació del sistema d'IA en qüestió, l'origen i la cadena de subministrament del sistema d'IA, la naturalesa del risc implicat i la naturalesa i durada de les mesures nacionals adoptades.

La Comissió ha d'iniciar sense dilació indeguda consultes amb els Estats membres afectats i amb els operadors pertinents, i ha d'avaluar les mesures nacionals adoptades; sobre la base dels resultats d'aquesta avaluació, la Comissió ha de decidir si la mesura està justificada i, si escau, proposar altres mesures adequades.

La Comissió comunicarà immediatament la seva decisió als Estats membres afectats i als operadors pertinents, així com als altres Estats membres.

Quan, després d'haver realitzat una avaluació en virtut de l'article 79, després de consultar a l'autoritat pública nacional pertinent a la qual fa referència l'apartat 1 de l'article 77, l'autoritat de vigilància del mercat d'un Estat membre trobi que, encara que un sistema d'intel·ligència artificial d'alt risc compleixi amb aquest Reglament, presenta un risc per a la salut o la seguretat de les persones, per als drets fonamentals o per a altres aspectes de la protecció de l'interès públic, requerirà a l'operador pertinent que prengui totes les mesures apropiades per garantir que el sistema d'intel·ligència artificial en qüestió, quan es posi en el mercat o es posi en servei, ja no presenti aquest risc sense demora indeguda, dins d'un termini que pugui prescriure.

2. El proveïdor o un altre operador pertinent garantirà que s'adoptin mesures correctives respecte a tots els sistemes de IA afectats que hagi posat a disposició en el mercat de la Unió dins del termini establert per l'autoritat de vigilància del mercat de l'Estat membre a què es refereix l'apartat 1.

3. Els Estats membres informaran immediatament la Comissió i als altres Estats membres d'una conclusió de l'apartat 1. Aquesta informació inclourà tots els detalls disponibles, en particular les dades necessàries per a la identificació del sistema d'IA en qüestió, l'origen i la cadena de subministrament del sistema d'IA, la naturalesa del risc implicat i la naturalesa i durada de les mesures nacionals adoptades.

4. La Comissió ha d'iniciar sense dilació indeguda consultes amb els Estats membres afectats i els operadors pertinents, i ha d'avaluar les mesures nacionals adoptades; sobre la base dels resultats d'aquesta avaluació, la Comissió ha de decidir si la mesura està justificada i, si escau, proposar altres mesures adequades.

5. La Comissió comunicarà immediatament la seva decisió als Estats membres afectats i als operadors pertinents i informarà els altres Estats membres.

Article 83

Quan l'autoritat de vigilància del mercat d'un Estat membre realitzi una de les següents conclusions, haurà d'exigir al proveïdor pertinent que posi fi a l'incompliment de l'article 48;(b) no s'hagi establert la marca CE;(c) no s'hagi redactat correctament la declaració de conformitat de la UE a la qual es refereix l'article 47;(e) no s'hagi realitzat el registre en la base de dades de la UE a la qual es refereix l'article 71;(f) si escau, no s'hagi nomenat cap representant autoritzat;(g) no es disposi de documentació tècnica.

Quan persisteixi l'incompliment esmentat en l'apartat 1, l'autoritat de vigilància del mercat de l'Estat membre en qüestió adoptarà mesures adequades i proporcionades per a restringir o prohibir el sistema d'intel·ligència artificial d'alt risc disponible en el mercat o per a garantir que es retira o es retira del mercat sense demora.

En el cas que l'autoritat de vigilància del mercat d'un Estat membre realitzi una de les següents conclusions, haurà d'exigir al proveïdor pertinent que posi fi a l'incompliment de l'article 48;(b) no s'hagi establert la marca CE;(c) no s'hagi redactat correctament la declaració de conformitat de la UE a la qual es refereix l'article 47;(e) no s'hagi realitzat el registre en la base de dades de la UE a la qual es refereix l'article 71;(f) si escau, no s'hagi nomenat cap representant autoritzat;(g) no es disposi de documentació tècnica.

2. Quan persisteixi l'incompliment esmentat en l'apartat 1, l'autoritat de vigilància del mercat de l'Estat membre en qüestió adoptarà mesures adequades i proporcionades per a restringir o prohibir que el sistema d'intel·ligència artificial d'alt risc estigui disponible en el mercat o per a garantir que es retiri o es retiri del mercat sense demora.

Article 84

La Comissió designarà una o més estructures de suport de la IA de la Unió per dur a terme les tasques enumerades en l'apartat 6 de l'article 21 del Reglament (UE) 2019/1020 en l'àmbit de la IA.

Sense perjudici de les tasques a què es refereix l'apartat 1, les estructures de suport de la IA de la Unió també proporcionaran assessorament tècnic o científic independent a petició del Consell, la Comissió o de les autoritats de vigilància del mercat.

La Comissió designarà una o més estructures de suport de la IA de la Unió per a dur a terme les tasques enumerades en l'apartat 6 de l'article 21 del Reglament (UE) 2019/1020 en l'àmbit de la IA.

2. Sense perjudici de les tasques a què es refereix l'apartat 1, les estructures de suport per a proves d'IA de la Unió també proporcionaran assessorament tècnic o científic independent a petició del Consell, la Comissió o de les autoritats de vigilància del mercat.

Article 85

Sense perjudici d'altres recursos administratius o judicials, qualsevol persona física o jurídica que tingui motius per considerar que hi ha hagut una infracció de les disposicions d'aquest Reglament pot presentar queixes a l'autoritat de vigilància del mercat pertinent.

D'acord amb el Reglament (UE) 2019/1020, aquestes queixes es tindran en compte a l'efecte de dur a terme activitats de vigilància del mercat, i es mantindran d'acord amb els procediments específics establerts per les autoritats de vigilància del mercat.

Article 86

Qualsevol persona afectada sotmesa a una decisió presa pel desplegador sobre la base de la sortida d'un sistema d'IA d'alt risc enumerat en l'Annex III, amb l'excepció dels sistemes enumerats en el punt 2 d'aquest, i que produeixi efectes jurídics o afecti significativament a aquesta persona de manera que consideri que tenen un impacte advers en la seva salut, seguretat o drets fonamentals, tindrà dret a obtenir del desplegador explicacions clares i significatives sobre el paper del sistema d'IA en el procediment de presa de decisions i els elements principals de la decisió presa.

L'apartat 1 no s'aplicarà a l'ús de sistemes d'IA per als quals les excepcions o restriccions a l'obligació d'aquest paràgraf es derivin de la legislació de la Unió o nacional de conformitat amb la legislació de la Unió.

Aquest article només s'aplicarà en la mesura en què el dret al qual es fa referència en l'apartat 1 no estigui previst d'una altra manera en el dret de la Unió.

2. L'apartat 1 no s'aplicarà a l'ús de sistemes d'IA per als quals les excepcions o restriccions a l'obligació d'aquest paràgraf es derivin de la legislació de la Unió o nacional en compliment de la legislació de la Unió.

Aquest article només s'aplicarà en la mesura en què el dret al qual es fa referència en l'apartat 1 no estigui previst d'una altra manera en el dret de la Unió.

Article 87

La Directiva (UE) 2019/1937 s'aplicarà a la denúncia d'infraccions d'aquest Reglament i a la protecció de les persones denunciants d'aquestes infraccions.

Article 88

La Comissió tindrà competències exclusives per a supervisar i fer complir el capítol V, tenint en compte les garanties processals de l'article 94. La Comissió confiarà l'execució d'aquestes tasques a l'Oficina d'Intel·ligència Artificial, sense perjudici de les competències d'organització de la Comissió i del repartiment de competències entre els Estats membres i la Unió sobre la base dels Tractats.

Sense perjudici de l'apartat 3 de l'article 75, les autoritats de vigilància del mercat poden sol·licitar a la Comissió que exerceixi les competències previstes en aquesta secció, quan sigui necessari i proporcionat per a ajudar al compliment de les seves tasques conformement a aquest Reglament.

1. La Comissió tindrà competències exclusives per a supervisar i fer complir el capítol V, tenint en compte les garanties processals de l'article 94. La Comissió confiarà l'execució d'aquestes tasques a l'Oficina d'Intel·ligència Artificial, sense perjudici de les competències d'organització de la Comissió i del repartiment de competències entre els Estats membres i la Unió sobre la base dels Tractats.

Article 89

A l'efecte de dur a terme les tasques que se li assignen en virtut d'aquesta Secció, l'Oficina d'Intel·ligència Artificial pot emprendre les accions necessàries per supervisar l'aplicació efectiva i el compliment d'aquest Reglament per part dels proveïdors de models d'intel·ligència artificial de propòsit general, inclosa la seva adhesió als codis de pràctica aprovats.

El prestador té dret a presentar una reclamació davant l'autoritat de control si considera que poden haver-se vist vulnerats els seus drets pel que fa a la protecció de les seves dades personals, especialment quan no hagi obtingut satisfacció en l'exercici dels seus drets, especialment quan no hagi obtingut satisfacció en l'exercici dels seus drets, especialment quan no hagi obtingut satisfacció en l'exercici dels seus drets.

A l'efecte de dur a terme les tasques que li assignen en virtut d'aquesta Secció, l'Oficina d'Intel·ligència Artificial pot emprendre les accions necessàries per supervisar l'aplicació efectiva i el compliment d'aquest Reglament per part dels proveïdors de models d'intel·ligència artificial de propòsit general, inclosa la seva adhesió als codis de pràctica aprovats.

La persona interessada té dret a presentar una reclamació davant l'Agència Espanyola de Protecció de Dades (www.agpd.es) si considera que el tractament de dades personals que el concerneixen infringeix el Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril de 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades, inclosa l'elaboració de perfils.

Article 90

El panell científic pot proporcionar una alerta qualificada a l'Oficina d'Intel·ligència Artificial on té motius per sospitar que: (a) un model d'intel·ligència artificial d'ús general planteja un risc identificable concret a nivell de la Unió; o (b) un model d'intel·ligència artificial d'ús general compleix les condicions a què es refereix l'article 51.

Després d'aquesta alerta qualificada, la Comissió, a través de l'Oficina d'Intel·ligència Artificial i després d'haver informat la Junta, podrà exercir les competències previstes en aquesta Secció a l'efecte d'avaluar l'assumpte.L'Oficina d'Intel·ligència Artificial informarà la Junta de qualsevol mesura d'acord amb els articles 91 a 94.

Una alerta qualificada serà degudament raonada i indicarà com a mínim:(a) el punt de contacte del proveïdor del model d'IA de propòsit general amb risc sistèmic afectat;(b) una descripció dels fets rellevants i els motius de l'alerta per part del panell científic;(c) qualsevol altra informació que el panell científic consideri rellevant, inclosa, si escau, la informació recollida per iniciativa pròpia.

2. Davant aquesta alerta qualificada, la Comissió, a través de l'Oficina d'Intel·ligència Artificial i després d'haver informat la Junta, podrà exercir les competències previstes en aquesta Secció amb la finalitat d'avaluar l'assumpte. L'Oficina d'Intel·ligència Artificial informarà la Junta de qualsevol mesura segons els articles 91 a 94.

3. Una alerta qualificada serà degudament raonada i indicarà com a mínim:(a) el punt de contacte del proveïdor del model d'IA de propòsit general amb risc sistèmic afectat;(b) una descripció dels fets rellevants i els motius de l'alerta per part del panell científic;(c) qualsevol altra informació que el panell científic consideri rellevant, inclosa, si escau, la informació recollida per iniciativa pròpia.

Article 91

La Comissió podrà sol·licitar al prestador del model general d'IA en qüestió que faciliti la documentació elaborada pel prestador de conformitat amb els articles 53 i 55, o qualsevol informació addicional que sigui necessària per a l'avaluació del compliment del present Reglament.

Abans d'enviar la sol·licitud d'informació, l'Oficina d'IA pot iniciar un diàleg estructurat amb el proveïdor del model d'IA de propòsit general.

Després d'una sol·licitud degudament fonamentada del panell científic, la Comissió pot emetre una sol·licitud d'informació a un proveïdor d'un model d'IA de propòsit general, on l'accés a la informació és necessari i proporcionat per al compliment de les tasques del panell científic de conformitat amb l'apartat 2 de l'article 68.

La sol·licitud d'informació ha d'indicar la base legal i la finalitat de la sol·licitud, especificar quina informació es requereix, establir un termini dins del qual es facilitarà la informació i indicar les multes previstes a l'article 101 per a la provisió d'informació incorrecta, incompleta o enganyosa.

En el cas de les persones jurídiques, empreses o empreses que no tinguin personalitat jurídica, les persones autoritzades a representar-les per llei o pels seus estatuts, les persones autoritzades a representar-les per compte del prestador, poden proporcionar informació per compte dels seus clients i, no obstant això, els clients continuaran sent plenament responsables si la informació facilitada és incompleta, incorrecta o enganyosa.

La Comissió pot sol·licitar al prestador del model d'IA d'ús general en qüestió que faciliti la documentació elaborada pel prestador de conformitat amb els articles 53 i 55, o qualsevol informació addicional que sigui necessària per a l'avaluació del compliment del present Reglament.

2. Abans d'enviar la sol·licitud d'informació, l'Oficina d'Intel·ligència Artificial pot iniciar un diàleg estructurat amb el proveïdor del model d'intel·ligència artificial de propòsit general.

3. Sobre una sol·licitud degudament fonamentada del panell científic, la Comissió pot emetre una sol·licitud d'informació a un proveïdor d'un model d'IA de propòsit general, on l'accés a la informació és necessari i proporcionat per al compliment de les tasques del panell científic de conformitat amb l'apartat 2 de l'article 68.

4. La sol·licitud d'informació ha d'indicar la base legal i la finalitat de la sol·licitud, especificar quina informació es requereix, establir un termini dins del qual es facilitarà la informació i indicar les multes previstes a l'article 101 per proporcionar informació incorrecta, incompleta o enganyosa.

En el cas de les persones jurídiques, les empreses o les empreses que no tinguin personalitat jurídica, les persones autoritzades a representar-les per llei o pels seus estatuts, les persones autoritzades a representar-les per compte del prestador, les persones jurídiques degudament autoritzades a actuar poden proporcionar informació per compte dels seus clients, sense perjudici de la plena responsabilitat si la informació facilitada és incompleta, incorrecta o enganyosa.

Article 92

L'Oficina d'Intel·ligència Artificial, prèvia consulta a la Junta, pot realitzar avaluacions del model d'IA d'ús general en qüestió:(a) per avaluar el compliment del proveïdor amb les obligacions d'aquest Reglament, quan la informació recollida en virtut de l'article 91 sigui insuficient; o(b) per investigar els riscos sistèmics a nivell de la Unió de models d'IA d'ús general amb risc sistèmic, en particular després d'una alerta qualificada del panell científic d'acord amb el punt (a) de l'article 90(1).

La Comissió pot decidir nomenar experts independents per a dur a terme avaluacions en el seu nom, fins i tot des del panell científic establert de conformitat amb l'article 68. Els experts independents nomenats per a aquesta tasca compliran els criteris establerts en l'apartat 2 de l'article 68.

A l'efecte de l'apartat 1, la Comissió pot sol·licitar l'accés al model de IA de propòsit general en qüestió a través d'APIs o altres mitjans i eines tècniques adequades, inclòs el codi font.

La sol·licitud d'accés ha de constar la base legal, la finalitat i els motius de la sol·licitud i fixar el termini dins del qual s'ha de facilitar l'accés, i les multes previstes a l'article 101 per no facilitar-ne l'accés.

En el cas de les persones jurídiques, empreses o empreses, o quan el prestador no tingui personalitat jurídica, les persones autoritzades a representar-les per llei o pels seus estatuts, facilitaran l'accés sol·licitat en nom del prestador del model general d'IA en qüestió.

La Comissió adoptarà els actes d'execució que estableixin els acords detallats i les condicions per a les avaluacions, inclosos els acords detallats per a la participació d'experts independents, i el procediment per a la seva selecció; aquests actes d'execució s'adoptaran de conformitat amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

Abans de sol·licitar l'accés al model d'IA de propòsit general en qüestió, l'Oficina d'IA pot iniciar un diàleg estructurat amb el proveïdor del model d'IA de propòsit general per recopilar més informació sobre les proves internes del model, les salvaguardes internes per prevenir riscos sistèmics, i altres procediments i mesures internes que el proveïdor ha pres per mitigar aquests riscos.

1. L'Oficina d'Intel·ligència Artificial, prèvia consulta a la Junta, podrà realitzar avaluacions del model d'intel·ligència artificial en qüestió:(a) avaluar el compliment de les obligacions del prestador en virtut d'aquest Reglament, quan la informació recollida en virtut de l'article 91 sigui insuficient; o(b) investigar els riscos sistèmics a nivell de la Unió de models d'intel·ligència artificial de propòsit general amb risc sistèmic, en particular després d'una alerta qualificada del panell científic d'acord amb el punt (a) de l'article 90(1).

2. La Comissió pot decidir nomenar experts independents per a dur a terme avaluacions en el seu nom, fins i tot des del panell científic establert de conformitat amb l'article 68. Els experts independents nomenats per a aquesta tasca compliran els criteris establerts en l'apartat 2 de l'article 68.

4. La sol·licitud d'accés constarà de la base legal, la finalitat i els motius de la sol·licitud i establirà el termini dins del qual es facilitarà l'accés, i les multes previstes a l'article 101 per no facilitar-ne l'accés.

La Comissió adoptarà els actes d'execució que estableixin els acords detallats i les condicions per a les avaluacions, inclosos els acords detallats per a la participació d'experts independents, i el procediment per a la seva selecció, que s'adoptaran de conformitat amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

7. Prèviament a la sol·licitud d'accés al model d'IA de propòsit general en qüestió, l'Oficina d'IA pot iniciar un diàleg estructurat amb el proveïdor del model d'IA de propòsit general per recollir més informació sobre les proves internes del model, les salvaguardes internes per prevenir riscos sistèmics, i altres procediments i mesures internes que el proveïdor ha pres per mitigar aquests riscos.

Article 93

Quan sigui necessari i apropiat, la Comissió pot sol·licitar als proveïdors que:(a) adoptin les mesures adequades per a complir amb les obligacions establertes en els articles 53 i 54;(b) apliquin mesures de mitigació, quan l'avaluació duta a terme de conformitat amb l'article 92 hagi donat lloc a una preocupació seriosa i justificada d'un risc sistèmic a escala de la Unió;(c) restringeixin la posada a disposició en el mercat, retirin o retirin el model.

Abans de sol·licitar una mesura, l'Oficina d'Intel·ligència Artificial pot iniciar un diàleg estructurat amb el proveïdor del model d'intel·ligència artificial de propòsit general.

Si, durant el diàleg estructurat al qual fa referència l'apartat 2, el proveïdor del model de IA de propòsit general amb risc sistèmic ofereix compromisos per a aplicar mesures de mitigació per a abordar un risc sistèmic a escala de la Unió, la Comissió pot, per decisió, fer vinculants aquests compromisos i declarar que no hi ha més motius per a actuar.

En cas necessari i apropiat, la Comissió podrà sol·licitar als proveïdors que adoptin les mesures adequades per a complir amb les obligacions establertes en els articles 53 i 54; b) apliquin mesures de mitigació, quan l'avaluació duta a terme de conformitat amb l'article 92 hagi donat lloc a una preocupació seriosa i fonamentada d'un risc sistèmic a escala de la Unió; c) restringeixin la posada a disposició en el mercat, retirin o retirin el model.

2. Abans de sol·licitar una mesura, l'Oficina d'Intel·ligència Artificial pot iniciar un diàleg estructurat amb el proveïdor del model d'intel·ligència artificial de propòsit general.

Article 94

L'article 18 del Reglament (UE) 2019/1020 aplicarà mutatis mutandis als proveïdors del model d'IA de propòsit general, sense perjudici dels drets processals més específics previstos en aquest Reglament.

Article 95

L'Oficina d'IA i els Estats membres fomentaran i facilitaran l'elaboració de codis de conducta, inclosos els mecanismes de governança relacionats, destinats a fomentar l'aplicació voluntària als sistemes d'IA, diferents dels sistemes d'IA d'alt risc, d'alguns o tots els requisits establerts en el capítol III, secció 2 tenint en compte les solucions tècniques disponibles i les millors pràctiques de la indústria que permetin l'aplicació d'aquests requisits.

L'Oficina d'Intel·ligència Artificial i els Estats membres facilitaran l'elaboració de codis de conducta relatius a l'aplicació voluntària, inclosos els desplegadors, de requisits específics per a tots els sistemes d'intel·ligència artificial, sobre la base d'objectius clars i indicadors clau de rendiment per mesurar l'assoliment d'aquests objectius, incloent elements aplicables a les directrius ètiques de la Unió per a la IA de confiança;(b) avaluant i minimitzant l'impacte dels sistemes d'intel·ligència artificial en la sostenibilitat ambiental;(c) promovent l'alfabetització en IA, en particular la de les persones que s'ocupen del desenvolupament, el funcionament i l'ús eficient de la IA;(d) facilitant un disseny inclusiu i divers de sistemes d'intel·ligència artificial i la promoció de la participació de les parts interessades en aquest procés;(e) avaluant i impedint l'impacte negatiu dels sistemes d'IA en les persones vulnerables o grups de persones vulnerables, inclosa l'accessibilitat de les persones amb discapacitat, així com en la igualtat de gènere.

Els codis de conducta poden ser elaborats per proveïdors individuals o desplegadors de sistemes d'IA o per organitzacions que els representin o per tots dos, fins i tot amb la participació de les parts interessades i les seves organitzacions representatives, incloses les organitzacions de la societat civil i el món acadèmic. Els codis de conducta poden abastar un o més sistemes d'IA tenint en compte la similitud de la finalitat prevista dels sistemes pertinents.

L'Oficina d'Intel·ligència Artificial i els Estats membres han de tenir en compte els interessos i les necessitats específiques de les PIME, incloses les empreses emergents, a l'hora de fomentar i facilitar l'elaboració de codis de conducta.

2. L'Oficina d'Intel·ligència Artificial i els Estats membres facilitaran l'elaboració de codis de conducta relatius a l'aplicació voluntària, inclosos els desplegadors, de requisits específics per a tots els sistemes d'intel·ligència artificial, sobre la base d'objectius clars i indicadors clau de rendiment per mesurar l'assoliment d'aquests objectius, incloent-hi elements aplicables a les directrius ètiques de la Unió per a la IA de confiança;(b) avaluant i minimitzant l'impacte dels sistemes d'intel·ligència artificial en la sostenibilitat ambiental;(c) promovent l'alfabetització en intel·ligència artificial, en particular la de les persones que s'ocupen del desenvolupament, el funcionament i l'ús eficient de la IA;(d) facilitant un disseny inclusiu i divers de sistemes d'intel·ligència artificial i la promoció de la participació de les parts interessades en aquest procés;(e) avaluant i impedint l'impacte negatiu dels sistemes d'intel·ligència artificial sobre les persones vulnerables o grups de persones vulnerables, incloent-hi l'accessibilitat de les persones amb discapacitat, així com sobre la igualtat de gènere.

3. Els codis de conducta poden ser elaborats per proveïdors individuals o desplegadors de sistemes d'IA o per organitzacions que els representin o per tots dos, fins i tot amb la participació de qualsevol interessat i les seves organitzacions representatives, incloses les organitzacions de la societat civil i el món acadèmic. Els codis de conducta poden abastar un o més sistemes d'IA tenint en compte la similitud de la finalitat prevista dels sistemes pertinents.

4. L'Oficina d'Intel·ligència Artificial i els Estats membres han de tenir en compte els interessos i les necessitats específiques de les PIME, incloses les empreses emergents, a l'hora de fomentar i facilitar l'elaboració de codis de conducta.

Article 96

La Comissió elaborarà directrius sobre l'aplicació pràctica d'aquest Reglament, i en particular sobre:(a) l'aplicació dels requisits i obligacions contemplats en els articles 8 a 15 i en l'article 25;(b) les pràctiques prohibides contemplades en l'article 5;(d) l'aplicació pràctica de les disposicions relatives a la modificació substancial;(d) l'aplicació pràctica de les obligacions de transparència establertes en l'article 50;(e) informació detallada sobre la relació d'aquest Reglament amb la legislació d'harmonització de la Unió enumerada en l'Annex I, així com amb altres lleis pertinents de la Unió, inclosa la coherència en el seu compliment;(f) l'aplicació de la definició d'un sistema d'IA tal com s'estableix en l'article 3, punt (1).

A l'hora d'emetre aquestes directrius, la Comissió prestarà especial atenció a les necessitats de les PIME, incloses les empreses emergents, de les autoritats públiques locals i dels sectors més susceptibles de ser afectats per aquest Reglament.

Les directrius a les quals es fa referència en el primer paràgraf d'aquest paràgraf tindran degudament en compte l'estat general de l'art sobre la IA, així com les normes harmonitzades pertinents i les especificacions comunes a les quals es fa referència en els articles 40 i 41, o les normes harmonitzades o especificacions tècniques que s'estableixen de conformitat amb la legislació d'harmonització de la Unió.

A petició dels Estats membres o de l'Oficina d'Intel·ligència Artificial, o per iniciativa pròpia, la Comissió actualitzarà les directrius adoptades prèviament quan ho consideri necessari.

2. A petició dels Estats membres o de l'Oficina d'Intel·ligència Artificial, o per iniciativa pròpia, la Comissió actualitzarà les directrius adoptades prèviament quan ho consideri necessari.

Article 97

La facultat d'adoptar actes delegats és conferida a la Comissió d'acord amb les condicions establertes en aquest article.

La facultat d'adoptar actes delegats contemplats en l'apartat 6 de l'article 6 i en l'apartat 3 de l'article 11, en l'apartat 5 de l'article 43 i en l'apartat 5 de l'article 5, en l'apartat 4 de l'article 51 i en l'apartat 5 de l'article 5 i en l'apartat 5 de l'article 5 i en l'article 6 es concedirà a la Comissió un període de cinc anys a partir de l'1 d'agost de 2024; la delegació de poder s'ampliarà tàcitament per períodes de durada idèntica, tret que el Parlament Europeu o el Consell s'oposin a aquesta pròrroga no més tard de tres mesos abans del final de cada període.

La delegació de poder a què es refereix l'apartat 6 de l'article 6 i (7), l'apartat 1 de l'article 7 i l'apartat 3 de l'article 11, l'apartat 5 de l'article 43 i l'apartat 5 de l'article 47, l'apartat 4 de l'article 51, l'apartat 4 de l'article 52 i l'apartat 5 de l'article 6) i l'article 5 i (6) poden ser revocats en qualsevol moment pel Parlament Europeu o pel Consell. Una decisió de revocació posarà fi a la delegació de poder especificada en aquesta decisió l'endemà de la seva publicació en el Diari Oficial de la Unió Europea o en una data posterior especificada en ella.

Abans d'aprovar un acte delegat, la Comissió consultarà als experts designats per cada Estat membre d'acord amb els principis establerts en l'Acord Interinstitucional de 13 d'abril de 2016 sobre "Legislar millor".

Tan aviat com adopti un acte delegat, la Comissió ho notificarà simultàniament al Parlament Europeu i al Consell.

Qualsevol acte delegat adoptat de conformitat amb l'apartat 6 de l'article 6 o (7), l'apartat 1 de l'article 7 o (3), l'apartat 5 de l'article 11 o (6), l'apartat 5 de l'article 47, l'apartat 4 de l'article 51, l'apartat 4 de l'article 52 o l'apartat 5 de l'article 6 o l'article 5 o (6) només entrarà en vigor si, abans de l'expiració d'aquest acte, el Parlament Europeu i el Consell no han comunicat al Parlament Europeu i al Consell cap objecció, i aquest termini es prorrogarà per tres mesos a iniciativa del Parlament Europeu o del Consell.

1. La facultat d'adoptar actes delegats és conferida a la Comissió d'acord amb les condicions previstes en aquest article.

2. La facultat d'adoptar actes delegats a què es refereix l'apartat 6 de l'article 6 i (7), l'apartat 1 de l'article 7 i l'apartat 3 de l'article 11 i l'apartat 5 de l'article 47, l'apartat 5 de l'article 51, l'apartat 4 de l'article 52 i l'apartat 5 de l'article 6) i l'article 5 i (6) es concediran a la Comissió durant un període de cinc anys a partir de l'1 d'agost de 2024. La delegació de poder es prorrogarà tàcitament per períodes d'una durada idèntica, tret que el Parlament Europeu o el Consell s'oposi a aquesta pròrroga no més tard de tres mesos abans del final de cada període.

3. La delegació de poder a què es refereix l'apartat 6 de l'article 6 i (7), l'apartat 1 de l'article 7 i l'apartat 3 de l'article 11, l'apartat 5 de l'article 43 i l'article 6), l'apartat 5 de l'article 47, l'apartat 4 de l'article 51, l'apartat 4 de l'article 52 i l'apartat 5 de l'article 6) i l'article 5 i (6) poden ser revocats en qualsevol moment pel Parlament Europeu o pel Consell. Una decisió de revocació posarà fi a la delegació de poder especificada en aquesta decisió l'endemà de la seva publicació en el Diari Oficial de la Unió Europea o en una data posterior especificada en ella.

4. Abans d'aprovar un acte delegat, la Comissió consultarà als experts designats per cada Estat membre d'acord amb els principis establerts en l'Acord Interinstitucional de 13 d'abril de 2016 sobre "Legislar millor".

5. Tan aviat com adopti un acte delegat, la Comissió ho notificarà simultàniament al Parlament Europeu i al Consell.

Qualsevol acte delegat adoptat de conformitat amb l'apartat 6 de l'article 6 o (7), l'apartat 1 de l'article 7 o (3), l'apartat 5 de l'article 11 o (6), l'apartat 5 de l'article 47, l'apartat 5 de l'article 51, l'apartat 4 de l'article 52 o l'apartat 5 de l'article 6 o l'article 5 o (6) només entrarà en vigor si el Parlament Europeu o el Consell no han expressat cap objecció al Parlament Europeu o al Consell en un termini de tres mesos a partir de la notificació d'aquest acte al Parlament Europeu i al Consell o si, abans de l'expiració d'aquest termini, el Parlament Europeu i el Consell han informat la Comissió que no s'oposaran.

Article 98

La Comissió comptarà amb l'assistència d'una comissió, que serà una comissió en el sentit del Reglament (UE) núm. 182/2011.

Quan es faci referència a aquest apartat, s'aplicarà l'article 5 del Reglament (UE) núm. 182/2011.

1. La Comissió estarà assistida per una comissió, que serà una comissió en el sentit del Reglament (UE) núm. 182/2011.

En el cas que es faci referència a aquest apartat, s'aplicarà l'article 5 del Reglament (UE) núm. 182/2011.

Article 99

D'acord amb els termes i condicions establerts en aquest Reglament, els Estats membres establiran les normes sobre sancions i altres mesures d'execució, que també poden incloure advertiments i mesures no monetàries, aplicables a les infraccions d'aquest Reglament per part dels operadors, i adoptaran totes les mesures necessàries per a garantir que s'apliquin de manera adequada i efectiva, tenint en compte les directrius emeses per la Comissió de conformitat amb l'article 96.

Els Estats membres, sense demora i com a més tard en la data d'entrada en vigor, notificaran a la Comissió les normes sobre sancions i altres mesures d'execució a què es refereix l'apartat 1, i li notificaran, sense demora, qualsevol modificació posterior d'aquestes.

L'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5 estarà subjecte a multes administratives de fins a 3.500 milions d'euros o, si l'infractor és una empresa, fins a un 7% del total de la seva facturació anual mundial per a l'exercici anterior, sigui el que sigui superior.

L'incompliment de qualsevol de les disposicions següents relatives als operadors o organismes notificats, diferents de les establertes en els articles 5, estarà subjecte a multes administratives de fins a 15000000 euros o, si l'infractor és una empresa, fins a un 3% de la seva facturació anual mundial total per a l'exercici financer anterior, que sigui superior:(a) obligacions dels proveïdors de conformitat amb l'article 16;(b) obligacions dels representants autoritzats de conformitat amb l'article 22;(d) obligacions dels distribuïdors de conformitat amb l'article 24;(e) obligacions dels distribuïdors de conformitat amb l'article 26;(f) obligacions i obligacions dels organismes notificats de conformitat amb l'article 31, l'article 33(1), (3) i (4) o l'article 34;(g) obligacions de transparència per als proveïdors i desplegadors de conformitat amb l'article 50.

El subministrament d'informació incorrecta, incompleta o enganyosa als organismes notificats o a les autoritats nacionals competents en resposta a una sol·licitud estarà subjecte a multes administratives de fins a 7500000 euros o, si l'infractor és una empresa, fins a l'1% del total de la seva facturació anual mundial per a l'exercici anterior, sigui el que sigui superior.

En el cas de les pimes, incloses les empreses emergents, cada multa a què fa referència aquest article serà fins als percentatges o import als quals es fa referència en els apartats 3, 4 i 5, sigui quina sigui menor.

A l'hora de decidir si s'imposarà una multa administrativa i a l'hora de decidir sobre l'import de la multa administrativa en cada cas particular, es tindran en compte totes les circumstàncies rellevants de la infracció i de les seves conseqüències, tenint en compte la naturalesa, la gravetat i la durada de la infracció i les seves conseqüències, tenint en compte la finalitat del sistema d'intel·ligència artificial, així com el grau d'aplicació de les multes administratives a un mateix operador per la mateixa infracció; b) si les multes administratives ja han estat aplicades per altres autoritats de vigilància del mercat al mateix operador per la mateixa infracció; c) la quantia, la facturació anual i la quota de mercat de l'operador que ha comès la infracció; f) el grau de cooperació de l'operador que ha tingut en compte les possibles conseqüències negatives de la infracció; h) el grau de responsabilitat de l'operador que ha tingut en compte les mesures tècniques i organitzatives de la infracció; h) el caràcter intencionat o negligent de la infracció; j) qualsevol acció de l'operador per mitigar el dany sofert per les persones afectades.

Cada Estat membre establirà normes sobre fins a quin punt es poden imposar multes administratives a les autoritats i organismes públics establerts en aquest Estat membre.

Depenent de l'ordenament jurídic dels Estats membres, les normes sobre multes administratives poden aplicar-se de manera que les multes siguin imposades per tribunals nacionals competents o per altres organismes, segons el cas en aquests Estats membres, i l'aplicació d'aquestes normes en aquests Estats membres tindrà un efecte equivalent.

L'exercici de poders en virtut d'aquest article estarà subjecte a les salvaguardes processals adequades d'acord amb la legislació de la Unió i nacional, inclosos els recursos judicials efectius i el degut procés.

Els Estats membres hauran d'informar anualment la Comissió sobre les multes administratives que hagin dictat durant aquest any, de conformitat amb aquest article, i sobre qualsevol litigi o procediment judicial relacionat.

D'acord amb els termes i condicions establerts en aquest Reglament, els Estats membres establiran les normes sobre sancions i altres mesures d'execució, que també poden incloure advertiments i mesures no monetàries aplicables a les infraccions d'aquest Reglament per part dels operadors, i adoptaran totes les mesures necessàries per a garantir que s'apliquin de manera adequada i efectiva, tenint en compte les directrius emeses per la Comissió de conformitat amb l'article 96.

2. Els Estats membres, sense demora i com a més tard en la data d'entrada en vigor, notificaran a la Comissió les normes sobre sancions i altres mesures d'execució a què es refereix l'apartat 1, i li notificaran, sense demora, qualsevol modificació posterior d'aquestes.

4. L'incompliment de qualsevol de les disposicions següents relatives als operadors o organismes notificats, diferents de les establertes en els articles 5, estarà subjecte a multes administratives de fins a 15000000 euros o, si l'infractor és una empresa, fins a un 3% del total de la seva facturació anual mundial per a l'exercici financer anterior, que sigui superior:(a) obligacions dels prestadors de conformitat amb l'article 16;(b) obligacions dels representants autoritzats de conformitat amb l'article 22;(d) obligacions dels distribuïdors de conformitat amb l'article 24;(e) obligacions dels distribuïdors de conformitat amb l'article 26;(f) obligacions i obligacions dels organismes notificats de conformitat amb l'article 31, l'apartat 1 de l'article 33, (3) i (4) o l'article 34;(g) obligacions de transparència per als proveïdors i desplegadors de conformitat amb l'article 50.

5. El subministrament d'informació incorrecta, incompleta o enganyosa a organismes notificats o a autoritats nacionals competents en resposta a una sol·licitud estarà subjecte a multes administratives de fins a 7500000 euros o, si l'infractor és una empresa, fins a l'1% del total de la seva facturació anual mundial per a l'exercici anterior, sigui el que sigui superior.

En el cas de les pimes, incloses les empreses emergents, cada multa a què es fa referència en aquest article serà fins als percentatges o import als quals es fa referència en els apartats 3, 4 i 5, qualsevol que sigui menor.

7. A l'hora de decidir si s'ha d'imposar una multa administrativa i a l'hora de decidir sobre l'import de la multa administrativa en cada cas particular, es tindran en compte totes les circumstàncies rellevants de la infracció i de les seves conseqüències, tenint en compte la naturalesa, la gravetat i la durada de la infracció i les seves conseqüències, tenint en compte la finalitat del sistema d'intel·ligència artificial; b) si les multes administratives ja han estat aplicades per altres autoritats de vigilància del mercat al mateix operador per la mateixa infracció; c) si les multes administratives s'han produït per la mateixa activitat o omissió que constitueixi una infracció rellevant del present Reglament; c) la quantia, la facturació anual i la quota de mercat de l'operador que ha comès la infracció; f) el grau de cooperació amb les autoritats nacionals competents, per tal de remeiar la infracció i mitigar els possibles efectes adversos de la infracció; h) el grau de responsabilitat de l'operador que ha tingut en compte les mesures tècniques i organitzatives de la infracció; h) el caràcter intencionat o negligent de la infracció; j) qualsevol acció de l'operador per mitigar el dany sofert per les persones afectades.

8. Cada Estat membre establirà normes sobre fins a quin punt es poden imposar multes administratives a les autoritats i organismes públics establerts en aquest Estat membre.

En funció de l'ordenament jurídic dels Estats membres, les normes sobre multes administratives poden aplicar-se de manera que les multes siguin imposades per tribunals nacionals competents o per altres organismes, segons el cas en aquests Estats membres, i l'aplicació d'aquestes normes en aquests Estats membres tindrà un efecte equivalent.

L'exercici de poders en virtut d'aquest article estarà subjecte a les salvaguardes processals adequades d'acord amb la legislació comunitària i nacional, inclosos els recursos judicials efectius i el degut procés.

Article 100

El Supervisor Europeu de Protecció de Dades pot imposar multes administratives a les institucions, òrgans, oficines i agències de la Unió en l'àmbit d'aplicació d'aquest Reglament, tenint en compte la naturalesa, la gravetat i la durada de la infracció i les seves conseqüències, tenint en compte la finalitat del sistema d'intel·ligència artificial afectat, així com, si escau, el grau de responsabilitat de la institució, òrgan, oficina o agència de la Unió per mitigar els danys soferts per les persones afectades;(c) el grau de cooperació amb el Supervisor Europeu de Protecció de Dades per resoldre la infracció i mitigar els possibles efectes adversos de la infracció, inclòs el compliment de qualsevol de les mesures prèviament ordenades pel Supervisor Europeu de Protecció de Dades respecte a la mateixa matèria;(f) la forma en què la infracció va ser coneguda pel Supervisor Europeu de Protecció de Dades, en particular si, i en aquest cas en quina mesura, la institució, l'organisme, l'oficina o l'agència de la Unió van notificar la infracció;(g) el pressupost anual de la institució, organisme, oficina o agència de la Unió.

L'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5 estarà subjecte a multes administratives de fins a 1500000 euros.

L'incompliment del sistema d'IA amb qualsevol requisit o obligació d'acord amb aquest Reglament, diferent dels establerts en l'article 5, estarà subjecte a multes administratives de fins a 750000 euros.

Abans de prendre decisions de conformitat amb aquest article, el Supervisor Europeu de Protecció de Dades donarà a la institució, l'organisme, l'oficina o l'agència de la Unió objecte del procediment dut a terme pel Supervisor Europeu de Protecció de Dades l'oportunitat de ser escoltat en l'assumpte relatiu a la possible infracció. El Supervisor Europeu de Protecció de Dades basarà les seves decisions únicament en elements i circumstàncies en els quals les parts interessades hagin pogut comentar.

Les persones interessades tenen dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre d'altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals van ser recollides.

Els fons recaptats per imposició de multes en aquest article contribuiran al pressupost general de la Unió i no afectaran el funcionament efectiu de la institució, òrgan, oficina o agència de la Unió multada.

El Supervisor Europeu de Protecció de Dades ha de notificar anualment a la Comissió les multes administratives que ha imposat en virtut d'aquest article i de qualsevol litigi o procediment judicial que hagi iniciat.

El Supervisor Europeu de Protecció de Dades pot imposar multes administratives a les institucions, òrgans, oficines i agències de la Unió en l'àmbit d'aplicació d'aquest Reglament, tenint en compte la naturalesa, la gravetat i la durada de la infracció i les seves conseqüències, tenint en compte la finalitat del sistema de la IA en qüestió, així com el grau de responsabilitat de la institució, òrgan, oficina o agència de la Unió per mitigar els danys soferts per les persones afectades; c) el grau de cooperació amb el Supervisor Europeu de Protecció de Dades per resoldre la infracció i mitigar els possibles efectes adversos de la infracció, inclòs el compliment de qualsevol de les mesures prèviament ordenades pel Supervisor Europeu de Protecció de Dades respecte a la mateixa matèria; e) les infraccions anteriors similars per part de la institució, organisme, oficina o agència de la Unió, en particular si, i si és així, la institució, òrgan, oficina o agència de la Unió va notificar la infracció; g) el pressupost anual de la institució, organisme, oficina o agència de la Unió.

L'incompliment de la prohibició de les pràctiques d'IA a què fa referència l'article 5 estarà subjecte a multes administratives de fins a 1500000 euros.

4. abans de prendre decisions de conformitat amb aquest article, el Supervisor Europeu de Protecció de Dades donarà a la institució, òrgan, oficina o agència de la Unió objecte del procediment dut a terme pel Supervisor Europeu de Protecció de Dades l'oportunitat de ser escoltat en l'assumpte relatiu a la possible infracció. El Supervisor Europeu de Protecció de Dades basarà les seves decisions únicament en elements i circumstàncies en els quals les parts interessades hagin pogut comentar.

Qualsevol persona té dret a accedir a les seves dades personals, així com a sol·licitar la rectificació de les dades inexactes o, si escau, sol·licitar la seva supressió quan, entre altres motius, les dades ja no siguin necessàries per a les finalitats per a les quals es van recollir.

6. Els fons recaptats per imposició de multes en aquest article contribuiran al pressupost general de la Unió. Les multes no afectaran el funcionament efectiu de la institució, òrgan, oficina o agència de la Unió multada.

7. El Supervisor Europeu de Protecció de Dades comunicarà anualment a la Comissió les multes administratives que hagi imposat en virtut d'aquest article i de qualsevol litigi o procediment judicial que hagi iniciat.

Article 101

La Comissió pot imposar als proveïdors de models d'IA de propòsit general multes que no superin el 3% del total anual de la seva facturació mundial en l'exercici financer anterior o 1.500 000 euros, la qual cosa és superior., quan la Comissió consideri que el proveïdor va infringir intencionadament o negligentment les disposicions pertinents d'aquest Reglament; b) va incomplir una sol·licitud d'un document o d'informació de conformitat amb l'article 91, o va proporcionar informació incorrecta, incompleta o enganyosa; c) va incomplir una mesura sol·licitada en virtut de l'article 93; d) va incomplir l'accés de la Comissió al model d'IA de propòsit general o al model d'IA de propòsit general amb risc sistèmic amb vista a dur a terme una avaluació de conformitat amb l'article 92.

A l'hora de fixar l'import de la multa o del pagament periòdic de la sanció, s'ha de tenir en compte la naturalesa, la gravetat i la durada de la infracció, tenint en compte els principis de proporcionalitat i adequació, així com els compromisos contrets de conformitat amb l'apartat 3 de l'article 93 o en els codis de pràctiques pertinents de conformitat amb l'article 56.

Abans d'adoptar la decisió de conformitat amb l'apartat 1, la Comissió comunicarà els seus resultats preliminars al proveïdor del model d'IA de propòsit general i li donarà l'oportunitat de ser escoltat.

Les multes imposades d'acord amb aquest article seran efectives, proporcionades i dissuasives.

La informació sobre les multes imposades en virtut d'aquest article també es comunicarà a la Junta segons correspongui.

El Tribunal de Justícia de la Unió Europea tindrà jurisdicció il·limitada per a revisar les decisions de la Comissió per les quals s'estableix una multa en virtut d'aquest article, podent cancel·lar, reduir o augmentar la multa imposada.

La Comissió adoptarà actes d'execució que continguin disposicions detallades i salvaguardes processals per al procediment en vista de la possible adopció de decisions de conformitat amb l'apartat 1 d'aquest article, i aquests actes d'execució s'adoptaran de conformitat amb el procediment d'examen contemplat en l'apartat 2 de l'article 98.

2. Abans d'adoptar la decisió de conformitat amb l'apartat 1, la Comissió comunicarà els seus resultats preliminars al proveïdor del model d'IA de propòsit general i li donarà l'oportunitat de ser escoltat.

Les multes imposades d'acord amb aquest article seran efectives, proporcionades i dissuasives.

4. La informació sobre les multes imposades en virtut d'aquest article també es comunicarà a la Junta segons correspongui.

El Tribunal de Justícia de la Unió Europea tindrà jurisdicció il·limitada per a revisar les decisions de la Comissió per les quals es fixa una multa en virtut d'aquest article, podent cancel·lar, reduir o augmentar la multa imposada.

La Comissió adoptarà actes d'execució que continguin disposicions detallades i salvaguardes processals per al procediment amb vista a la possible adopció de decisions de conformitat amb l'apartat 1 d'aquest article, i aquests actes d'execució s'adoptaran de conformitat amb el procediment d'examen a què es refereix l'apartat 2 de l'article 98.

Article 102

En l'apartat 3 de l'article 4 del Reglament (CE) núm. 300/2008, s'afegeix el següent paràgraf: "A l'hora d'adoptar mesures detallades relatives a especificacions tècniques i procediments d'aprovació i utilització d'equips de seguretat relatius a sistemes d'intel·ligència artificial en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0058], es tindran en compte els requisits establerts en el capítol III, apartat 2, d'aquest Reglament.

"A l'hora d'adoptar mesures detallades relatives a especificacions tècniques i procediments d'aprovació i ús d'equips de seguretat relatius a sistemes d'Intel·ligència Artificial en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0058], es tindran en compte els requisits establerts en el Capítol III, Secció 2, d'aquest Reglament.

Article 103

En l'apartat 5 de l'article 17 del Reglament (UE) núm. 167/2013, s'afegeix el següent subapartat: "En adoptar actes delegats de conformitat amb el primer subapartat relatiu als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0059], es tindran en compte els requisits establerts en el capítol III, apartat 2, d'aquest Reglament.

"A l'hora d'aprovar actes delegats de conformitat amb el primer subapartat relatiu als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0059], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 104

En l'apartat 5 de l'article 22 del Reglament (UE) núm. 168/2013, s'afegeix el següent subapartat: "En adoptar actes delegats de conformitat amb el primer subapartat relatiu als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0060], es tindran en compte els requisits establerts en el capítol III, apartat 2, d'aquest Reglament.

"A l'hora d'aprovar actes delegats de conformitat amb el primer subapartat relatiu als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0060], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 105

En l'article 8 de la Directiva 2014/90/UE, s'afegeix el següent paràgraf: "5.Per als sistemes d'intel·ligència artificial que siguin components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0061], en dur a terme les seves activitats de conformitat amb l'apartat 1 i en adoptar especificacions tècniques i normes d'assaig d'acord amb els paràgrafs 2 i 3, la Comissió tindrà en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Per als sistemes d'intel·ligència artificial que siguin components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0061], quan duguin a terme les seves activitats de conformitat amb l'apartat 1 i quan adoptin especificacions tècniques i normes d'assaig de conformitat amb els apartats 2 i 3, la Comissió tindrà en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 106

En l'article 5 de la Directiva (UE) 2016/797, s'afegeix el següent paràgraf: "12.En adoptar actes delegats de conformitat amb l'apartat 1 i actes d'execució de conformitat amb l'apartat 11 sobre sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0062], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Quan s'adoptin actes delegats de conformitat amb l'apartat 1 i actes d'execució de conformitat amb l'apartat 11 relatius als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0062], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 107

En l'article 5 del Reglament (UE) 2018/858 s'afegeix el següent paràgraf: "4.En adoptar actes delegats de conformitat amb l'apartat 3 sobre sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0063], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Quan s'adoptin actes delegats de conformitat amb l'apartat 3 sobre sistemes d'intel·ligència artificial que siguin components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0063], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 108

El Reglament (UE) 2018/1139 es modifica de la següent manera:(1) en l'article 17, s'afegeix el següent paràgraf:(2) en l'article 19, s'afegeix el següent paràgraf:(3) en l'article 43, s'afegeix el següent paràgraf:(4) en l'article 47, s'afegeix el següent paràgraf:(5) en l'article 57, s'afegeix el següent paràgraf:(6) en l'article 58, s'afegeix el següent paràgraf:

Sense perjudici de l'apartat 2, quan s'adoptin actes d'execució de conformitat amb l'apartat 1 sobre sistemes d'intel·ligència artificial que siguin components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0064], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Quan s'adoptin actes delegats de conformitat amb els paràgrafs 1 i 2 relatius als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689, es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament."

Quan s'adoptin actes d'execució de conformitat amb l'apartat 1 relatiu als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689, es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament."

"A l'hora d'adoptar aquells actes d'aplicació relatius als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689, es tindran en compte els requisits establerts en el Capítol III, Secció 2, d'aquest Reglament."

Article 109

En l'article 11 del Reglament (UE) 2019/2144, s'afegeix el paràgraf següent: "3.En adoptar els actes d'execució conformement a l'apartat 2, relatius als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0065], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

A l'hora d'aprovar els actes d'execució de conformitat amb l'apartat 2, relatius als sistemes d'intel·ligència artificial que són components de seguretat en el sentit del Reglament (UE) 2024/1689 del Parlament Europeu i del Consell [E0065], es tindran en compte els requisits establerts en el capítol III, secció 2, d'aquest Reglament.

Article 110

En l'Annex I de la Directiva (UE) 2020/1828 del Parlament Europeu i del Consell [E0066], s'afegeix el següent punt: "(68) Reglament (UE) 2024/1689 del Parlament Europeu i del Consell de 13 de juny de 2024 pel qual s'estableixen normes harmonitzades sobre intel·ligència artificial i es modifiquen els Reglaments (CE) núm. 300/2008, (EU) núm. 167/2013, (EU) núm. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 i les Directives 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Artificial Intelligence Act)" (OJ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

Article 111

Sense perjudici de l'aplicació de l'article 5 al que es refereix l'article 113, apartat 3, punt (a), els sistemes d'IA que són components dels sistemes informàtics a gran escala establerts pels actes jurídics enumerats en l'Annex X que s'han comercialitzat o posat en servei abans del 2 d'agost de 2027 es posaran en compliment d'aquest Reglament abans del 31 de desembre de 2030.

Els requisits establerts en aquest Reglament s'han de tenir en compte en l'avaluació de cada sistema informàtic a gran escala establert pels actes jurídics enumerats en l'Annex X que s'han d'emprendre segons el previst en aquests actes jurídics i en els quals aquests actes jurídics siguin substituïts o modificats.

Sense perjudici de l'aplicació de l'article 5 al punt (a) de l'apartat 3 de l'article 113, aquest Reglament s'aplicarà als operadors de sistemes d'intel·ligència artificial d'alt risc, diferents dels sistemes esmentats en l'apartat 1 d'aquest article, que hagin estat comercialitzats o posats en servei abans del 2 d'agost de 2026, només si, a partir d'aquesta data, aquests sistemes estan subjectes a canvis significatius en els seus dissenys; en tot cas, els proveïdors i desplegadors de sistemes d'intel·ligència artificial d'alt risc destinats a ser utilitzats per les autoritats públiques prendran les mesures necessàries per complir amb els requisits i obligacions d'aquest Reglament abans del 2 d'agost de 2030.

Els proveïdors de models d'IA de propòsit general que s'hagin posat al mercat abans del 2 d'agost de 2025 han de prendre les mesures necessàries per complir amb les obligacions establertes en aquest Reglament abans del 2 d'agost de 2027.

Sense perjudici de l'aplicació de l'article 5 al que es refereix l'article 113, apartat 3, punt (a), els sistemes d'IA que són components dels sistemes d'informació a gran escala establerts pels actes jurídics enumerats en l'Annex X que s'han comercialitzat o posat en servei abans del 2 d'agost de 2027 es posaran en compliment d'aquest Reglament abans del 31 de desembre de 2030.

2. Sense perjudici de l'aplicació de l'article 5 al punt (a) de l'apartat 3 de l'article 113, aquest Reglament s'aplicarà als operadors de sistemes d'intel·ligència artificial d'alt risc, diferents dels sistemes esmentats en l'apartat 1 d'aquest article, que hagin estat comercialitzats o posats en servei abans del 2 d'agost de 2026, només si, a partir d'aquesta data, aquests sistemes estan subjectes a canvis significatius en els seus dissenys; en tot cas, els proveïdors i desplegadors de sistemes d'intel·ligència artificial d'alt risc destinats a ser utilitzats per les autoritats públiques prendran les mesures necessàries per complir amb els requisits i obligacions d'aquest Reglament abans del 2 d'agost de 2030.

Article 112

La Comissió avaluarà la necessitat de modificar la llista establerta en l'Annex III i la llista de pràctiques prohibides d'IA establerta en l'article 5, una vegada a l'any després de l'entrada en vigor d'aquest Reglament, i fins al final del període de delegació de poder establert en l'article 97, i la Comissió presentarà els resultats d'aquesta avaluació al Parlament Europeu i al Consell.

Per al 2 d'agost de 2028 i cada quatre anys després, la Comissió avaluarà i informarà el Parlament Europeu i al Consell sobre la següent:(a) la necessitat d'esmenes que ampliïn les rúbriques de superfície existents o que afegeixin noves rúbriques de superfície en l'Annex III;(b) esmenes a la llista de sistemes d'IA que requereixen mesures addicionals de transparència en l'article 50;(c) esmenes que millorin l'eficàcia del sistema de supervisió i governança.

A partir del 2 d'agost de 2029 i cada quatre anys, la Comissió presentarà al Parlament Europeu i al Consell un informe sobre l'avaluació i revisió d'aquest Reglament, en el qual s'inclourà una avaluació de l'estructura de l'execució i de la possible necessitat d'una agència de la Unió per a resoldre les deficiències identificades, que, sobre la base de les conclusions, haurà d'anar acompanyada, si escau, d'una proposta de modificació d'aquest Reglament.

Els informes esmentats en l'apartat 2 prestaran especial atenció al següent:(a) l'estat dels recursos financers, tècnics i humans de les autoritats nacionals competents per a exercir de manera efectiva les tasques que se'ls assignen en virtut d'aquest Reglament;(b) l'estat de les sancions, en particular les multes administratives a les quals es refereixen els Estats membres per infraccions d'aquest Reglament;(c) normes harmonitzades i especificacions comunes desenvolupades per a donar suport a aquest Reglament;(d) el nombre d'empreses que entren en el mercat després de l'entrada en vigor d'aquest Reglament, i quantes d'elles són PIME.

Per al 2 d'agost de 2028, la Comissió avaluarà el funcionament de l'Oficina d'Intel·ligència Artificial, si l'Oficina d'Intel·ligència Artificial ha rebut suficients poders i competències per a complir les seves tasques, i si seria rellevant i necessari per a la correcta aplicació i execució d'aquest Reglament millorar l'Oficina d'Intel·ligència Artificial i les seves competències d'aplicació i augmentar els seus recursos. La Comissió presentarà un informe sobre la seva avaluació al Parlament Europeu i al Consell.

Abans del 2 d'agost de 2028, i cada quatre anys després, la Comissió presentarà un informe sobre la revisió dels progressos en el desenvolupament dels materials de normalització sobre el desenvolupament eficient energèticament dels models d'IA de propòsit general, i avaluarà la necessitat de noves mesures o accions, incloses mesures o accions vinculants, que es presentaran al Parlament Europeu i al Consell, i es faran públiques.

Per al 2 d'agost de 2028 i cada tres anys després, la Comissió avaluarà l'impacte i l'eficàcia dels codis de conducta voluntaris per a fomentar l'aplicació dels requisits establerts en el capítol III, secció 2 per a sistemes d'IA diferents dels sistemes d'IA d'alt risc i possiblement altres requisits addicionals per a sistemes d'IA diferents dels sistemes d'IA d'alt risc, fins i tot pel que fa a la sostenibilitat mediambiental.

A l'efecte dels apartats 1 a 7, el Consell, els Estats membres i les autoritats nacionals competents facilitaran a la Comissió informació prèvia sol·licitud i sense demora indeguda.

En la realització de les avaluacions i revisions a què es fa referència en els apartats 1 a 7, la Comissió tindrà en compte les posicions i els resultats de la Junta, del Parlament Europeu, del Consell i d'altres organismes o fonts rellevants.

En cas necessari, la Comissió presentarà propostes adequades per a modificar aquest Reglament, en particular tenint en compte l'evolució de la tecnologia, l'efecte dels sistemes d'intel·ligència artificial en la salut i la seguretat, i els drets fonamentals, i a la llum de l'estat dels progressos en la societat de la informació.

Per orientar les avaluacions i revisions a què es fa referència en els paràgrafs 1 a 7 d'aquest article, l'Oficina d'Intel·ligència Artificial es compromet a desenvolupar una metodologia objectiva i participativa per a l'avaluació dels nivells de risc basada en els criteris esbossats en els articles pertinents i la inclusió de nous sistemes en:(a) la llista exposada en l'Annex III, inclosa l'ampliació dels títols d'àrea existents o l'addició de nous títols d'àrea en aquest Annex;(b) la llista de pràctiques prohibides establerta en l'article 5; i(c) la llista de sistemes d'IA que requereixen mesures addicionals de transparència de conformitat amb l'article 50.

Qualsevol modificació d'aquest Reglament de conformitat amb l'apartat 10, o els actes delegats o d'execució pertinents, que es refereixi a la legislació d'harmonització sectorial de la Unió enumerada en la secció B de l'Annex I tindrà en compte les especificitats reguladores de cada sector, i els mecanismes de governança, avaluació de la conformitat i execució existents i les autoritats establertes en aquest.

Per al 2 d'agost de 2031, la Comissió realitzarà una avaluació de l'aplicació d'aquest Reglament i l'informarà el Parlament Europeu, el Consell i el Comitè Econòmic i Social Europeu, tenint en compte els primers anys d'aplicació d'aquest Reglament, i sobre la base de les conclusions, aquest informe haurà d'anar acompanyat, si escau, d'una proposta de modificació d'aquest Reglament pel que fa a l'estructura de l'execució i la necessitat d'una agència de la Unió per a resoldre les deficiències identificades.

2. El 2 d'agost de 2028 i cada quatre anys a partir de llavors, la Comissió avaluarà i informarà el Parlament Europeu i al Consell sobre la següent:(a) la necessitat d'esmenes que ampliïn les rúbriques de superfície existents o que afegeixin noves rúbriques de superfície en l'Annex III;(b) esmenes a la llista de sistemes d'IA que requereixen mesures addicionals de transparència en l'article 50;(c) esmenes que millorin l'eficàcia del sistema de supervisió i governança.

3. El 2 d'agost de 2029 i cada quatre anys després, la Comissió presentarà al Parlament Europeu i al Consell un informe sobre l'avaluació i revisió d'aquest Reglament, que inclourà una avaluació sobre l'estructura de l'execució i la possible necessitat d'una agència de la Unió per a resoldre les deficiències identificades.

4. Els informes esmentats en l'apartat 2 prestaran especial atenció al següent:(a) l'estat dels recursos financers, tècnics i humans de les autoritats nacionals competents per a exercir de manera efectiva les tasques que se'ls assignen en virtut d'aquest Reglament;(b) l'estat de les sancions, en particular les multes administratives a les quals es refereixen els Estats membres per infraccions d'aquest Reglament;(c) normes harmonitzades i especificacions comunes desenvolupades per a donar suport a aquest Reglament;(d) el nombre d'empreses que entren en el mercat després de l'entrada en vigor d'aquest Reglament, i quantes d'elles són PIME.

5. El 2 d'agost de 2028, la Comissió avaluarà el funcionament de l'Oficina d'Intel·ligència Artificial, si l'Oficina d'Intel·ligència Artificial ha rebut suficients poders i competències per a complir les seves tasques, i si seria rellevant i necessari per a la correcta aplicació i execució d'aquest Reglament millorar l'Oficina d'Intel·ligència Artificial i les seves competències d'aplicació i augmentar els seus recursos.

6. El 2 d'agost de 2028 i cada quatre anys a partir de llavors, la Comissió presentarà un informe sobre la revisió dels progressos en el desenvolupament d'equips d'estandardització sobre el desenvolupament eficient energèticament de models d'IA de propòsit general, i avaluarà la necessitat de noves mesures o accions, incloses mesures o accions vinculants.

7. El 2 d'agost de 2028 i cada tres anys després, la Comissió avaluarà l'impacte i l'eficàcia dels codis de conducta voluntaris per a fomentar l'aplicació dels requisits establerts en el capítol III, secció 2 per a sistemes d'IA diferents dels sistemes d'IA d'alt risc i possiblement altres requisits addicionals per a sistemes d'IA diferents dels sistemes d'IA d'alt risc, inclosa la sostenibilitat mediambiental.

8. A l'efecte dels apartats 1 a 7, el Consell, els Estats membres i les autoritats nacionals competents facilitaran a la Comissió informació prèvia sol·licitud i sense demora indeguda.

En la realització de les avaluacions i revisions a què es refereix l'apartat 1 a 7, la Comissió tindrà en compte les posicions i els resultats de la Junta, del Parlament Europeu, del Consell i d'altres organismes o fonts rellevants.

10. La Comissió presentarà, si fos necessari, propostes adequades per a modificar aquest Reglament, en particular tenint en compte l'evolució de la tecnologia, l'efecte dels sistemes d'intel·ligència artificial en la salut i la seguretat, i els drets fonamentals, i a la llum de l'estat dels progressos en la societat de la informació.

Qualsevol modificació d'aquest Reglament de conformitat amb l'apartat 10, o els actes delegats o d'execució pertinents, que es refereixi a la legislació d'harmonització sectorial de la Unió enumerada en la secció B de l'Annex I, tindrà en compte les especificitats reguladores de cada sector, i els mecanismes de governança, avaluació de la conformitat i execució existents i les autoritats establertes en aquest.

13. El 2 d'agost de 2031, la Comissió durà a terme una avaluació de l'aplicació d'aquest Reglament i l'informarà el Parlament Europeu, el Consell i el Comitè Econòmic i Social Europeu, tenint en compte els primers anys d'aplicació d'aquest Reglament.