El Reglament europeu d'Intel·ligència Artificial avança: noves obligacions per a empreses i proveïdors

L’aplicació del Reglament europeu d’Intel·ligència Artificial, conegut com a AI Act, continua avançant. Des del 2 d’agost de 2026, comencen a aplicar-se noves obligacions relacionades amb la transparència dels sistemes d’IA i la supervisió dels models d’intel·ligència artificial de propòsit general.

La normativa europea estableix un marc comú per garantir que la intel·ligència artificial es desenvolupi i s’utilitzi de manera segura, transparent i respectuosa amb els drets fonamentals. La seva aplicació serà progressiva i afectarà proveïdors, desenvolupadors, empreses usuàries i organismes públics.

Més transparència en l’ús de la intel·ligència artificial

Una de les principals novetats d’aquesta fase és l’aplicació de les obligacions de transparència previstes en el Reglament. A partir d’ara, determinats sistemes hauran de:

• Informar les persones quan estiguin interactuant amb un sistema d’intel·ligència artificial.
• Identificar els continguts generats o modificats mitjançant IA.
• Incorporar mecanismes que permetin detectar continguts sintètics, com ara imatges, vídeos o àudios.
• Senyalitzar adequadament els continguts manipulats o generats artificialment, inclosos els coneguts com a deepfakes.

Aquestes mesures busquen reduir els riscos d’engany, manipulació i desinformació, i facilitar que la ciutadania pugui prendre decisions amb més coneixement sobre l’origen dels continguts i la naturalesa de les interaccions digitals.

Les obligacions concretes s’hauran d’aplicar tenint en compte el tipus de sistema, la seva finalitat i el nivell de risc associat. A més, les solucions tècniques utilitzades per identificar continguts generats per IA hauran d’evolucionar per garantir una detecció eficaç i fiable.

Supervisió dels models d’IA de propòsit general

El nou període d’aplicació també reforça la supervisió dels models d’intel·ligència artificial de propòsit general, com ara els que serveixen de base per a eines capaces de dur a terme múltiples tasques i que s’integren en diferents productes i serveis. Entre els exemples més coneguts hi ha GPT, desenvolupat per OpenAI; Gemini, de Google; Claude, d’Anthropic; o Llama, de Meta. Aquests models s’utilitzen com a tecnologia de base en assistents conversacionals, eines de generació de contingut i nombroses solucions empresarials.

Entre les obligacions per als proveïdors d’aquests models hi ha:

• Elaborar i mantenir documentació tècnica sobre els models.
• Facilitar informació a les autoritats competents i a altres proveïdors que integrin aquests models.
• Comptar amb polítiques per respectar la normativa sobre drets d’autor.
• Publicar resums prou detallats dels continguts utilitzats per entrenar els models.
• Adoptar mesures addicionals quan es tracti de models amb risc sistèmic.

Els models considerats de risc sistèmic són aquells que, per les seves capacitats i abast, podrien provocar danys a gran escala. Entre els riscos previstos hi ha els relacionats amb la ciberseguretat, la manipulació de persones, la pèrdua de control sobre els sistemes i les possibles vulneracions dels drets fonamentals.

Determinades pràctiques d’IA estan prohibides

El Reglament també prohibeix determinades pràctiques considerades especialment perjudicials, com ara els sistemes destinats a manipular el comportament de les persones, explotar les vulnerabilitats de determinats col·lectius o dur a terme avaluacions injustificades que puguin afectar els drets de la ciutadania.

La supervisió del compliment es distribuirà entre diferents autoritats. L’Oficina Europea d’IA assumirà competències sobre determinades categories de sistemes i models de propòsit general, mentre que les autoritats nacionals supervisaran bona part de les aplicacions desplegades en cada Estat membre.

A Espanya, l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) exerceix un paper central com a autoritat nacional competent, en coordinació amb altres organismes segons l’àmbit d’aplicació de cada sistema. També hi podran intervenir autoritats com l’Agència Espanyola de Protecció de Dades, el Consell General del Poder Judicial o la Junta Electoral Central.

Una aplicació progressiva

L’aplicació de l’AI Act continuarà desenvolupant-se de manera progressiva durant els propers anys. Tot i que la major part de les seves disposicions ja estaran en vigor des de l’agost de 2026, algunes obligacions específiques s’incorporaran de manera escalonada. Al desembre de 2026 començaran a aplicar-se noves prohibicions relacionades amb determinats continguts sintètics il·lícits, com ara els deepfakes sexuals no consentits o el material d’abús sexual infantil. Posteriorment, les obligacions per a determinats sistemes d’IA d’alt risc començaran a aplicar-se a partir del desembre de 2027, mentre que les dirigides als sistemes d’alt risc integrats en productes regulats s’estendran fins a l’agost de 2028.

Per a les empreses, especialment per a les pimes, això suposa la necessitat de conèixer quines obligacions els afecten, revisar l’ús que fan de la intel·ligència artificial i establir procediments de control, documentació i supervisió.

El compliment normatiu no s’ha d’entendre únicament com una obligació, sinó també com una oportunitat per reforçar la confiança dels clients i de les persones usuàries, millorar la gestió dels riscos i diferenciar-se en el mercat mitjançant el desenvolupament de solucions d’IA més responsables i segures.

Si vols conèixer millor l’abast d’aquesta regulació i comprendre com pot afectar la teva organització, et recomanem consultar els continguts disponibles a ONE. A Aspectes clau del Reglament d’Intel·ligència Artificial trobaràs una guia per conèixer els principis, les obligacions i l’àmbit d’aplicació de l’AI Act. També pots consultar Coneixes la nova Llei d’Intel·ligència Artificial?, on s’expliquen les claus del nou marc normatiu europeu i les seves principals implicacions. 

A més, pots accedir al seminari web AI Act: com convertir la regulació en un avantatge competitiu, en què diverses persones expertes analitzen els principals desafiaments i oportunitats que planteja aquesta normativa per a empreses i persones emprenedores.

La regulació de la IA ja no és una qüestió de futur. Amb l’entrada en aplicació d’aquestes noves mesures, comprendre l’AI Act es converteix en un pas fonamental per aprofitar el potencial de la intel·ligència artificial de manera segura, responsable i competitiva.