En ce moment, pas mal d'actualités « AI Risks & Failures » atterrissent sur mon tableau de bord d'infos. J'ai donc avancé ce sujet, surtout parce que le législateur a déjà fixé 2 échéances : le 2 février 2025 (c'est déjà passé) et le 2 août 2025 (donc dans 3 semaines).
Le règlement européen sur l'IA (Artificial Intelligence Act)* est entré en vigueur le 1er août 2024 et impose aux entreprises de nouvelles exigences de conformité très larges dès qu'elles utilisent l'intelligence artificielle. Le texte suit une approche fondée sur les risques et distingue différents acteurs le long de la chaîne de valeur de l'IA. Je ne traiterai ici, pour commencer, que les points qui concernent les utilisateurs professionnels de l'IA.
Les obligations de base pour toutes les entreprises qui utilisent l'IA
1. Développer la « User Awareness / AI Literacy » en IA
Depuis le 2 février 2025, les premières obligations du règlement IA s'appliquent déjà. Tous les fournisseurs et déployeurs de systèmes d'IA doivent s'assurer que leur personnel, ainsi que les autres personnes chargées de l'exploitation et de l'utilisation de ces systèmes, disposent d'un niveau suffisant de maîtrise de l'IA (AI Literacy). Cette obligation s'applique quelle que soit la classe de risque du système d'IA et concerne donc pratiquement toutes les entreprises qui utilisent l'IA.
La maîtrise de l'IA recouvre les compétences, les connaissances et la compréhension qui permettent d'utiliser les systèmes d'IA en connaissance de cause et de prendre conscience de leurs opportunités comme de leurs risques. Pour faire simple : les collaborateurs doivent utiliser les systèmes d'IA avec compétence, mais doivent impérativement en identifier le potentiel et les risques. On ne parle pas seulement du savoir technique lui-même, mais aussi des conséquences éthiques, sociales et juridiques. Les entreprises doivent mettre en place des formations adaptées, en tenant compte des connaissances techniques, de l'expérience et du contexte d'utilisation spécifique. Important : cette obligation touche toutes les entreprises, quelle que soit leur taille !
Il faut aussi des concepts de formation adaptés à chaque public :
- Développeurs : exigences techniques et éthiques détaillées. S'ils travaillent sur leurs propres modèles ou sur leur intégration, il faut s'attendre à des obligations supplémentaires, car on peut alors devenir un « fournisseur en aval » (voir plus bas).
- Dirigeants et managers : conformité, responsabilité et gestion des risques
- Utilisateurs : formations de base à une utilisation sûre de l'IA
- Délégués à la protection des données / responsables conformité : formations juridiques spécifiques
2. Mettre en place gouvernance, conformité et gestion des risques de l'IA
Les entreprises qui utilisent des modèles d'IA à usage général** (General Purpose AI, GPAI, autrement dit ChatGPT, Copilot, Midjourney et outils similaires) sont soumises à des dispositions particulières à partir du 2 août 2025. Si la responsabilité principale incombe aux fournisseurs d'IA, les entreprises utilisatrices doivent vérifier si leur intégration de ces outils fait d'elles des fournisseurs en aval (ce qui entraîne des obligations supplémentaires que je ne détaillerai pas ici pour l'instant).
Concrètement, le règlement oblige notamment les entreprises à :
- signaler l'utilisation de tels systèmes,
- prendre des mesures techniques et organisationnelles pour en prévenir les abus,
- tenir une documentation des contextes dans lesquels l'IA est utilisée,
- et, le cas échéant, garantir un contrôle humain.
Une étape critique pour y parvenir : un inventaire complet de tous les systèmes d'IA utilisés dans l'entreprise. Il couvre aussi bien les applications d'IA développées en interne que celles achetées à l'extérieur, y compris les logiciels standard dotés de fonctions d'IA (par ex. Microsoft Copilot, Google Gemini, etc.) arrivées au détour d'une mise à jour. Les entreprises devraient aussi penser au « Shadow AI » : les outils d'IA que les collaborateurs utilisent de leur propre initiative, sans que le service responsable le sache !
Dans bien des cas, l'utilisation de l'IA au travail touche aux droits de codécision des représentants du personnel. Car dès que des systèmes d'IA concernent le comportement, la performance ou des décisions relatives aux salariés, il faut associer les représentants du personnel.
Ça représente déjà un sacré effort, et à mon avis il est parfaitement justifié, car les outils d'IA sont franchement disruptifs. À côté de leurs avantages, ils apportent aussi des risques d'un genre nouveau que les cadres classiques de conformité et de gestion des risques ne couvrent pas encore.
Le déploiement de l'IA, c'est l'affaire de la direction !
Je retrouve en ce moment un réflexe bien connu chez certains décideurs : « ce sont des outils informatiques, que la DSI s'en occupe ». Non. Ici, ce n'est clairement pas une affaire technique. Les plus hauts décideurs doivent s'en saisir directement, et il faut bâtir des structures organisationnelles qui pilotent la gouvernance de l'IA. On pourrait par exemple définir les postes et rôles suivants :
- Chief AI Officer (CAIO) pour la direction stratégique des initiatives IA
- Responsable conformité IA comme point central de coordination
- Comité IA interdisciplinaire réunissant des représentants du juridique, du personnel, de l'IT, de la protection des données, des métiers, etc.
- AI Ethics Committee pour les évaluations éthiques
Je n'aime pas me répéter, mais il ne faut pas tomber dans la « Simplicity Trap », et à partir du 2 août, cela a aussi des conséquences juridiques.
Ce serait tout aussi faux de vouloir attendre, par peur des risques, et de repousser l'évaluation et l'introduction des outils d'IA. Car cette innovation technologique est par ailleurs très puissante et, bien utilisée, elle apporte des avantages concurrentiels tangibles et rapides.
Eh oui, comme on dit si bien : « Un grand pouvoir [d'IA] implique de grandes responsabilités »*** 😉
*Pour aller plus loin sur ce sujet, voir le KI-Service Desk de la Bundesnetzagentur
** Il existe d'autres classes de risque pour les systèmes d'IA, soumises à des obligations nettement plus strictes.
Live long and prosper 😉🖖
*** busicmezug ;)
Post-scriptum : je ne suis pas vraiment un grand fan de la réglementation, surtout quand elle est mal faite. Mais je dois reconnaître que l'UE fait du bon travail en matière de droit numérique et de société numérique. J'ai déjà évoqué le « Digital Competence Framework for Citizens » dans l'épisode 10.1. Avec la protection des données et le « Digital Market Act », l'UE tente de limiter la domination du marché et les pratiques douteuses de la « Big Tech USA », et sur l'IA, elle a choisi une démarche proactive, qui prévient sans bloquer.
