Reglament (UE) 2024/1689 · AI Act · Article 4
Resposta directa: sí, l’AI Act obliga moltes empreses a garantir un nivell suficient d’alfabetització en IA del personal (i de qui operi IA en el seu nom). Però no ho fa exigint un curs oficial únic ni un “certificat AI Act” obligatori.
- Resultat esperat: equips capaços d’usar IA amb criteri (límits, riscos, verificació i supervisió).
- Per rols: no tothom necessita el mateix nivell ni el mateix temari.
- Amb evidència interna: materials, assistència, polítiques i checklists (sense burocràcia inútil).
Què exigeix exactament l’article 4 de l’AI Act
L’article 4 no diu “fes un curs de 6 hores”. El que exigeix és que proveïdors i responsables del desplegament prenguin mesures perquè el personal (i altres persones que operin el sistema en nom seu) tingui alfabetització en IA: coneixements i comprensió suficients per usar la IA de manera informada, reconèixer riscos i evitar danys.
A qui afecta (encara que la teva empresa no “vengui IA”)
Afecta tant qui desenvolupa IA com qui simplement la fa servir dins la seva organització. En pràctica, això inclou equips que utilitzen IA generativa per redactar, resumir, traduir, atendre clients, analitzar dades o automatitzar tasques.
Exemples típics dins d’empresa
- Màrqueting i vendes: copies, creativitats, propostes, qualificació de leads.
- Atenció al client: xatbots, classificació de tiquets, respostes suggerides.
- RRHH: suport en cribatge, documents, comunicacions internes.
- Operacions / finances: predicció, conciliacions, informes, detecció d’anomalies.
Important: també entra “gent externa” que operi IA en nom teu (contractistes, proveïdors o perfils temporals). Si poden fer servir IA dins del teu procés, també han d’estar coberts per les mesures d’alfabetització.
• Compliment i Legal Tech · Serveis d’IA per a empreses · Integració i implementació d’IA
Què ha d’incloure una alfabetització en IA “suficient”
No hi ha “one size fits all”. El mínim raonable (i defensable) és un programa per rols que combini formació + guies d’ús + estàndards de qualitat.
Quina IA s’utilitza, per a què, quins límits té i on cal supervisió humana.
Al·lucinacions, biaixos, seguretat, RGPD, IP, traçabilitat i criteris de verificació.
Plantilles, checklists, “com revisem outputs aquí”, i què no s’ha de compartir mai.
Què fer si hi ha error, filtració, decisió incorrecta o risc reputacional.
Com demostrar-ho (sense “certificat oficial”): registre intern
L’AI Act no crea un diploma europeu obligatori. El que et convé és poder demostrar, de manera simple, que has pres mesures adequades. Una carpeta interna (audit‑friendly) sol ser suficient.
Evidències recomanables
- Programa/temari per rols i objectius d’aprenentatge.
- Materials: slides, guies, checklists i exemples d’ús segur.
- Registre d’assistència (incloent subcontractes si escau).
- Política d’ús d’IA (dades, IP, aprovacions, canals permesos).
- Prova de control de qualitat: criteris de revisió humana i mostres.
- Cadència d’actualització (p. ex. trimestral o quan canvia l’eina/risc).
Si hi ha IA d’alt risc: supervisió humana i personal capacitat
Quan el sistema i el cas d’ús pugen de risc, la formació “genèrica” deixa de ser defensable. Cal personal amb competència i autoritat per supervisar, aturar o corregir el sistema, i protocols clars de revisió humana.
Terminis clau i checklist d’acció
- 2 febrer 2025: aplicació de les disposicions generals (inclosa l’alfabetització en IA) i prohibicions.
- 2 agost 2026: entrada en aplicació de la majoria de regles i inici de l’enforcement.
- 2 agost 2027: terminis ampliats per a certs sistemes d’alt risc en productes regulats.
- Inventari d’eines/sistemes d’IA que s’utilitzen (incloent IA “de oficina”).
- Definir rols: qui és responsable del desplegament i qui supervisa.
- Mapar riscos per ús (dades, decisions sobre persones, impacte reputacional).
- Crear política d’ús + “què no fem mai”.
- Formació per rols (bàsica + específica + reforçada si cal).
- Checklists de qualitat i revisió humana quan toca.
- Guardar evidència interna i actualitzar-la periòdicament.
Nota: contingut informatiu; no constitueix assessorament jurídic. Si el teu cas implica dades sensibles, decisions sobre persones o ús d’alt risc, valida-ho amb assessorament especialitzat.
FAQs
He de formar tota la plantilla?
No necessàriament. Cal assegurar alfabetització en IA de qui utilitza IA (i de qui l’opera en nom teu). La formació s’ha d’adaptar al rol i al risc.
Existeix un “certificat AI Act” obligatori?
No hi ha un certificat europeu únic obligatori. El pràctic és tenir registre intern d’accions i evidències (programa, materials, assistència, política i controls).
Si només fem servir ChatGPT/Copilot per textos, també aplica?
Si l’IA s’utilitza en el treball (encara que sigui per textos), el personal ha de conèixer riscos típics (errors, al·lucinacions, dades, IP) i com validar outputs.
Una guia d’ús o un PDF és suficient?
Normalment no, perquè no garanteix comprensió ni criteri. El mínim defensable combina formació/briefing + normes + checklists + revisió humana quan cal.
Quina freqüència d’actualització és recomanable?
Quan canvieu eines, casos d’ús, dades o riscos. I, com a base, una revisió periòdica (p. ex. trimestral o semestral) sol funcionar.
Com us pot ajudar Bastelia?
Dissenyant un programa per rols amb materials, polítiques d’ús, checklists de qualitat i un paquet d’evidència interna. Escriu-nos a info@bastelia.com.