Carmen Sánchez Muñoz, directora de regulació i assumptes públics a DigitalES

Amb més de 17 anys d'experiència en el sector tecnològic i digital, part d'ells a Brussel·les, ha desenvolupat la seva carrera professional en el marc regulador de les noves tecnologies. Des de 2018 treballa en Digitals, cobrint tot l'espectre regulador de la digitalització, tant en temes transversals com sectorials.

És important regular l'ús i les aplicacions de la intel·ligència artificial (IA)?

Sens dubte. D'una banda, perquè sent la IA una tecnologia que evoluciona ràpidament, establir marcs legals clars i efectius, ajuda a garantir que la IA es desenvolupi i utilitzi de manera adequada. En aquest sentit és important distingir entre la regulació de la tecnologia en si mateixa, i la regulació dels usos que es puguin fer d'aquesta tecnologia, sempre sobre la base d'un marc que permeti adaptar-se als nous desenvolupaments i que de la mateixa manera sigui proporcionada i no ofegui la innovació.

Com avalues la consciència i la responsabilitat entorn de l'ús de la IA i la protecció de dades en el context actual?

Estem davant una tecnologia que clarament ha fet eclosió, i això té una part molt positiva, però també requereix una adaptació de la societat i de les empreses, que a vegades estan veient un avanç que no han aconseguit encara assumir i interioritzar. És important avançar per tant en la creació d'una veritable consciència sobre els usos positius, però també els riscos que alguns dels usos de la IA poden comportar, a través de la formació, l'educació i per descomptat, la conscienciació.

Recentment el Parlament europeu va aprovar la Llei d'Intel·ligència Artificial. Què suposa aquesta fita i quins són els seus aspectes clau?

El 13 de març de 2024, el Parlament Europeu va aprovar la Llei d'Intel·ligència Artificial (IA), una fita significativa en la regulació d'aquesta tecnologia emergent. La llei estableix un marc per al desenvolupament, la implementació i l'ús de la IA a la Unió Europea, amb l'objectiu de garantir que s'utilitzi de manera segura, responsable i ètica.

Alguns dels aspectes clau que conté aquesta llei són: la prohibició d'unes certes pràctiques de IA com la vigilància massiva; les obligacions de transparència sobre el funcionament de sistema, l'ús de les dades i la presa de decisions de proveïdors i usuaris; els requisits de seguretat i protecció de dades, la supervisió i compliment a través d'una nova Oficina Europea d'Intel·ligència Artificial; i un enfocament basat en el risc en quatre categories:

Com afectarà aquesta llei a l'ecosistema emprenedor? Les empreses emergents podran utilitzar la regulació al seu favor per a impulsar el seu creixement?

En l'elaboració del Reglament un dels enfocaments mantinguts des de l'inici de la seva tramitació ha estat continuar impulsant la innovació. Per això, el resultat de la regulació acordada ha tractat sempre d'assegurar que l'ecosistema innovador, i especialment les petites i mitjanes empreses, tinguessin un paper primordial, amb espai per a continuar innovant.

Entre els aspectes positius per a les empreses emergents que proporciona l'actual marc legislatiu: claredat i previsibilitat (tenint un marc legal la confiança per a invertir en aquesta tecnologia), accés a finançament (la Comissió Europea ha anunciat plans per a invertir mil milions d'euros en recerca i innovació en IA durant el pròxim període), participació en el mercat únic per a la IA (el Reglament ajudarà a crear un mercat únic per a la IA a la UE, la qual cosa facilitarà a les startups vendre els seus productes i serveis en altres països europeus).

Quin paper ha tingut la IA en l'evolució de l'emprenedoria en els últims anys?

Posant alguns exemples, és indubtable que la IA ha ajudat automatitzant tasques, la qual cosa es tradueix en un augment de la productivitat, facilitant la recopilació, l'anàlisi i la interpretació de grans conjunts de dades, i per tant la presa de decisions, personalitzant i millorant experiències de clients, desenvolupant nous productes i serveis (ej: assistents virtuals, bots impulsats per IA, eines de diagnòstic mèdic o sistemes de predicció del mercat), ajudant en l'expansió a nous mercats (utilització de traducció automàtica, la segmentació de mercat basada en dades o la publicitat personalitzada), accés a capital i finançament (les startups que utilitzen IA de manera innovadora poden atreure inversors més fàcilment, ja que la IA s'associa amb un major potencial de creixement i rendibilitat).

En quins sectors consideres que la IA està augmentant significativament la competitivitat i innovació de les empreses?

En els últims anys són diversos els sectors que han vist com l'aplicació d'aquesta tecnologia ha augmentat la seva competitivitat entre els quals destaca el sector salut (diagnòstic i tractament de malalties, desenvolupament de fàrmacs, assistents virtuals per a atenció sanitària), el sector financer (detecció de fraus, assessorament financer personalitzat, gestió de riscos), el sector del retail (personalització i atenció al client), o la manufactura (manteniment predictiu, optimització de la cadena de subministrament del procés productiu, automatització industrial).

Com creus que evolucionarà la IA en l'ecosistema emprenedor en el futur? A quins reptes ens enfrontem?

Entre els reptes més immediats, cal considerar el possible cost que el compliment del Reglament pugui implicar per a les empreses emergents, relacionats amb l'avaluació de riscos, la implementació de mesures de seguretat i protecció de dades, i l'auditoria dels seus sistemes de IA. Així mateix, la complexitat del Reglament o la falta d'experiència respecte a la regulació i els seus futurs desenvolupaments.

Addicionalment algunes de les disposicions del Reglament, com els requisits de transparència i explicabilidad, podrien dificultar a les startups l'accés a les dades necessàries per a desenvolupar i entrenar els seus sistemes de IA.

Malgrat aquests desafiaments, el Reglament de IA també presenta oportunitats per a les startups que puguin adaptar-se de manera efectiva a la nova normativa, desenvolupant productes i serveis de IA segurs, responsables i ètics. Aquestes empreses estaran ben posicionades per a tenir èxit en el mercat únic de la UE.

Per a això serà fonamental familiaritzar-se amb el Reglament, realitzar una avaluació de riscos, implementar mesures de seguretat i protecció de dades, documentar els processos de desenvolupament, implementació i ús de la IA, i per descomptat, mantenir-se actualitzat sobre els desenvolupaments del Reglament.