La loi sur l'IA de l'UE est sur le point de remodeler la manière dont les entreprises développent et déploient l'intelligence artificielle, avec une application complète prévue d'ici 2026. Pour aider les entreprises à se préparer, Deel a organisé un webinaire présentant des perspectives de ses experts internes sur la conformité à l'IA et l'atténuation des risques.

Emily Johnson, Senior Privacy and AI Compliance Manager chez Deel, et Tima Anwana-Gangl, Privacy and AI Manager, ont partagé leur expérience de première main en travaillant avec différentes équipes pour garantir la conformité de Deel vis à vis des réglementations à venir. Ils ont discuté des principales dispositions de l'EU AI Act, des mesures pratiques que les entreprises peuvent prendre dès maintenant, et des stratégies pour surmonter les défis de conformité.

Ce récapitulatif met en lumière les informations les plus importantes de cet échange, vous fournissant les informations nécessaires pour anticiper les exigences réglementaires et atténuer les risques liés à l'IA.

Regardez le webinaire complet à la demande ici : Navigating the EU AI Act: Ensuring Compliance and Mitigating Risks

Qu'est-ce que la loi sur l'IA de l'UE ?

La loi sur l'IA de l'UE est la première législation complète régulant l'intelligence artificielle. Introduite en réponse à l'expansion rapide des outils d'IA, la loi vise à garantir que le développement et l'utilisation de l'IA soient sûrs et transparents, et les droits fondamentaux respectés.

Portée et calendrier

La loi sur l'IA s'applique aux entités basées dans l'UE ainsi qu'aux entreprises non européennes proposant des systèmes d'IA sur le marché de l'UE. Les exigences initiales, telles que les obligations de littératie en IA, ont commencé à être mises en place en février 2024, avec une application complète prévue pour août 2025.

Conformité et chevauchement des réglementations

Les entreprises doivent aligner leurs systèmes d'IA avec les réglementations existantes, y compris le RGPD, car les applications d'IA impliquent souvent le traitement de données personnelles. Par exemple, les outils de suivi des candidats et d'analyse des entretiens basés sur l'IA peuvent entraîner des obligations supplémentaires en matière de confidentialité.

Pourquoi la conformité est importante

La non-conformité comporte des risques importants, avec des pénalités pouvant atteindre jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, dépassant même les amendes du RGPD. Au-delà des conséquences financières, les entreprises risquent des suspensions opérationnelles et des dommages à leur réputation. Assurer la conformité est essentiel pour maintenir la confiance et la continuité des activités.

Voir aussi : Obtenez rapidement des insights sur les RH à l'internation grâce à l'IA

Les plus grandes préoccupations des organisations en matière de conformité à l'IA

L'un des plus grands défis pour les entreprises utilisant l'IA est d'acquérir une compréhension complète de leur écosystème d'IA. La conformité commence par la cartographie de tous les systèmes d'IA utilisés, qu'ils soient développés en interne ou fournis par des prestataires externes. Chez Deel, les équipes ont dû collaborer pour identifier chaque outil d'IA utilisé avant de déterminer les mesures de conformité nécessaires.

Au-delà de la visibilité, obtenir l'adhésion de l'ensemble de l'entreprise est un autre obstacle courant. Il est crucial de s'assurer que les équipes comprennent l'importance de la conformité à l'IA et suivent les protocoles nécessaires. Établir la confiance, tant en interne qu'avec les clients, nécessite des politiques claires sur l'utilisation des outils d'IA, des mesures strictes de protection des données et une vérification approfondie des systèmes d'IA pour s'aligner sur les exigences réglementaires.

Utilisation quotidienne de l'IA et à quoi s'applique l'acte

L'IA est de plus en plus intégrée dans les opérations commerciales quotidiennes, et l'AI Act de l'UE s'applique à bon nombre de ces utilisations. Voici quelques exemples :

• IA de langage et conversationnelle : Des outils comme ChatGPT et Deel AI sont des exemples d'IA généralistes, capables de réaliser des tâches telles que la génération de texte et d'images, la structuration d'idées, et bien plus encore. Ces outils remplissent de multiples fonctions dans divers secteurs.
• Gestion de l'emploi et des travailleurs : L'IA est couramment utilisée dans le recrutement et les ressources humaines pour des tâches telles que le tri des CV, le classement des candidats et l'analyse des entretiens. Ces outils aident à automatiser et améliorer le processus d'embauche.
• Surveillance et validation : L'IA est également utilisée dans la surveillance des transactions pour détecter les comportements suspects ou la fraude, ainsi que dans la validation des documents pour s'assurer que les employés reçoivent les documents corrects à temps. Vraiment idéal pour être sereint et sécuriser toutes les étapes clés de vos process.
• Évaluations et automatisation : Les outils d'IA deviennent de plus en plus courants dans les évaluations de performance, analysant les données des employés et comparant les performances au fil du temps.

Voir aussi : L'IA dans la paie améliore productivité et conformité

Le système de classification des risques de l'AI Act

La loi sur l'IA de l'UE catégorise les systèmes d'IA en fonction de leur risque potentiel et attribue des exigences réglementaires en conséquence. Cette approche garantit que les applications à risque plus élevé sont soumises à des mesures de conformité plus strictes.

Risque inacceptable (systèmes d'IA interdits)

Les systèmes d'IA qui présentent des risques graves pour les individus ou la société sont purement et simplement interdits. Cela inclut la tromperie, la manipulation ou l'exploitation des vulnérabilités par l'IA, ainsi que la prévision policière ou les évaluations des risques criminels.

À haut risque (systèmes d'IA strictement réglementés)

Les systèmes d'IA à haut risque sont autorisés mais doivent respecter des exigences de conformité strictes en raison de leur potentiel à causer des dommages importants. Des exemples incluent l'IA dans les dispositifs médicaux, les jouets pour enfants, l'éducation et, de manière cruciale, les ressources humaines et l'emploi. Les outils d'IA utilisés pour le recrutement, les promotions, les licenciements et la gestion des travailleurs font partie de cette catégorie.

Risque limité (exigences de transparence)

Les systèmes d'IA qui génèrent du contenu, tels que les chatbots et les outils de génération d'images, sont classés comme présentant un risque limité. Ceux-ci doivent inclure des mesures de transparence, comme informer les utilisateurs qu'ils interagissent avec une IA et étiqueter le contenu généré par l'IA.

Risque minimal (pas de réglementations supplémentaires)

Les systèmes d'IA à risque minimal, tels que les correcteurs grammaticaux, les outils de traduction et les filtres anti-spam, peuvent être utilisés librement sans restrictions supplémentaires, car ils présentent peu ou aucun risque.

La loi sur l'IA garantit que les réglementations sont proportionnées aux dommages potentiels en structurant la conformité de l'IA via ces niveaux de risque.

Voir aussi : Intégrer l'IA dans les RH avec la réglementation européenne

Classification des domaines de compétences selon la loi sur l'IA

La loi sur l'IA attribue également des responsabilités en matière de conformité en fonction du rôle d'une entité dans le développement, la distribution ou l'utilisation de l'IA. Cela garantit que toutes les parties impliquées dans les systèmes d'IA sont responsables en vertu de la loi.

Fournisseurs (développeurs de systèmes d'IA)

Les fournisseurs développent des systèmes d'IA ou les commercialisent sous leur marque. Ils sont principalement responsables de garantir la conformité avec la loi sur l'IA. Par exemple, OpenAI est le fournisseur de ChatGPT.

Fournisseurs en aval (intégrateurs et utilisateurs en marque blanche)

Les fournisseurs en aval intègrent ou commercialisent sous marque blanche un modèle d'IA développé par une autre entité. Ils doivent s'assurer de la conformité pour leur mise en œuvre.

Déployeurs (utilisateurs et implémenteurs de systèmes d'IA)

Les déployeurs utilisent des systèmes d'IA au sein de leurs organisations et sont responsables de l'application des mesures de conformité, telles que la définition des politiques d'utilisation de l'IA.

Les organisations doivent déterminer leur rôle en vertu de l'AI Act pour comprendre leurs obligations et garantir leur conformité.

Voir aussi : 6 façons dont l'IA a changé le recrutement

Comment vous préparer pour l'AI Act

Deel a mis en place une approche en trois étapes pour se conformer à la loi européenne sur l'IA. Les organisations peuvent suivre un processus similaire pour garantir leur préparation.

Étape 1 : Cartographie des systèmes d'IA

Commencez par identifier tous les systèmes d'IA que votre organisation développe et utilise. Collaborez avec différentes équipes pour obtenir un inventaire complet.

• Vérifiez si des outils ont pu ajouter des fonctionnalités d'IA au fil du temps. Exemple : Google Workspace inclut désormais Gemini AI, même si ce n'était pas le cas initialement.

Étape 2 : Identification des rôles et cartographie des parties prenantes

• Déterminez le rôle de votre organisation dans la chaîne d'approvisionnement de l'IA : êtes-vous un fournisseur, un fournisseur en aval ou un utilisateur ?
• Identifiez les parties prenantes internes responsables des systèmes d'IA. Différentes équipes gèrent des applications d'IA.

Exemple : L'ingénierie supervise le développement de l'IA, tandis que le spécialiste en acquisition de talents gère les outils de recrutement alimentés par l'IA.

Voir aussi : 6 façons dont l'IA a changé le recrutement

Étape 3 : Classification des risques

Évaluez chaque système d'IA en fonction des catégories de risques définies dans la loi européenne sur l'IA.

En suivant ces étapes, les organisations peuvent se conformer de manière proactive à la loi sur l'IA et gérer efficacement les risques.

Créez un Plan d'Action IA

Une fois que vous avez cartographié les systèmes d'IA, identifié les rôles et classifié les risques, l'étape suivante consiste à élaborer un plan d'action complet pour l'IA. Ce plan sert de feuille de route pour atteindre la conformité avec le règlement européen sur l'IA en décrivant les lacunes en matière de conformité, les risques, mesures d'atténuation et priorités de mise en œuvre.

Décrivez vos risques

Un élément clé de votre plan d'action en matière d'IA est l'identification et la documentation des risques associés aux systèmes d'IA. Cela implique :

• La classification des systèmes d'IA selon leurs niveaux de risque (par exemple, risque minimal, limité, élevé ou inacceptable)
• L'évaluation des risques potentiels, y compris le biais, la discrimination, les violations de la confidentialité des données, les menaces à la cybersécurité et la non-conformité légale
• Le développement de mesures d'atténuation des risques, telles que la supervision humaine, la détection des biais et les audits réguliers du système.
• L'identification de lacunes dans la gouvernance, y compris les politiques manquantes, les structures de responsabilité ou la documentation technique insuffisante.

En abordant ces risques dès le début, les organisations peuvent prévenir les échecs de conformité et garantir un déploiement éthique de l'IA.

Mise en œuvre conformément aux exigences de la loi

Supervision humaine

La loi européenne sur l'IA exige que les systèmes d'IA à haut risque soient soumis à une supervision humaine pour prévenir les décisions nuisibles et garantir la responsabilité. Les organisations doivent :

• Établir des contrôles de supervision pour surveiller les systèmes d'IA et intervenir si nécessaire.
• Assurer l'approbation humaine des décisions générées par l'IA, en particulier dans des domaines critiques tels que le recrutement, l'évaluation du crédit et l'application de la loi.
• Mettre en œuvre une approche « human-in-the-loop » (intégrer l'humain pour vérifier et valider), garantissant que les résultats de l'IA sont examinés et validés par du personnel formé avant qu'une action finale ne soit entreprise.

Transparence et clarté

Pour se conformer à la loi européenne sur l'IA, les organisations doivent s'assurer que les systèmes d'IA sont transparents et explicables. Cela signifie :

• Fournir une documentation claire sur le fonctionnement des systèmes d'IA, y compris les sources de données d'entraînement et la logique de prise de décision.
• S'assurer que les utilisateurs comprennent les décisions basées sur l'IA, en particulier lorsqu'elles affectent les droits ou opportunités des individus.
• Publier des politiques de transparence, en intégrant des termes spécifiques à l'IA dans les politiques de confidentialité, et maintenir des FAQ sur l'utilisation de l'IA.

Évaluations de conformité

Les systèmes d'IA à haut risque doivent passer des évaluations de conformité pour vérifier que tout est en règle avec les réglementations de l'UE. Ces évaluations :

• Analyse les modèles d'IA pour la conformité technique, éthique et légale
• Différencie les évaluations d'impact sur les droits de l'homme (axées sur les risques sociaux) des évaluations de conformité (axées sur la conformité des produits)
• Documente les efforts de conformité, garantissant que les régulateurs et parties prenantes puissent vérifier le respect des normes légales.

Les entreprises utilisant l'IA doivent tenir des dossiers détaillés des évaluations de conformité et être prêtes pour des audits externes.

Évaluations des mesures techniques

La conformité technique implique la mise en œuvre de mesures de protection pour garantir que les systèmes d'IA fonctionnent de manière sûre et éthique. Cela inclut :

• Des cadres de gouvernance des données garantissant qu'elles sont impartiales et représentatives
• Des protections de cybersécurité empêchant la manipulation ou le piratage des systèmes d'IA
• Des tests et validations réguliers pour confirmer l'exactitude et l'équité du système
• Le maintient d'une documentation technique à jour pour les examens de conformité internes et externes

En abordant de manière proactive ces exigences techniques, les organisations peuvent éviter les pénalités et garantir que les systèmes d'IA fonctionnent comme prévu.

Exigence d'inscription

Les fournisseurs de systèmes d'IA à haut risque doivent enregistrer leurs modèles dans une base de données à l'échelle de l'UE. Cela implique :

• La soumission d'une documentation système détaillée décrivant les fonctionnalités, l'utilisation prévue et les stratégies d'atténuation des risques.
• Une mise à jour régulière des dossiers pour comprendre les changements du système et les efforts de conformité.
• D'assurer la transparence dans le déploiement de l'IA, permettant aux régulateurs de surveiller les applications de l'IA dans tous les secteurs

Les organisations qui ne parviennent pas à enregistrer les systèmes d'IA applicables risquent des amendes réglementaires et des restrictions sur l'utilisation des systèmes.

Compréhension, utilisation et formation

À partir de février 2025, les organisations doivent s'assurer que les employés reçoivent une formation en intelligence artificielle prenant en compte sa compréhension, son utilisation et les défis de conformité. La formation doit couvrir :

• Les obligations légales et éthiques en vertu de l'EU AI Act
• Les stratégies d'évaluation et d'atténuation des risques liés à l'IA
• **Les protocoles de réponse aux incidents concernant les défaillances ou violations liées à l'IA
• Une formation sur mesure pour différentes équipes (par exemple, les ingénieurs reçoivent une formation technique, tandis que les RH se concentrent sur l'utilisation éthique de l'IA)

Deel a mis en place des programmes de formation spécifiques à l'IA pour s'assurer que les employés de tous les départements comprennent les pratiques responsables en matière d'IA.

Voir aussi : Intégrer l'IA dans les RH avec la réglementation européenne

Évaluations des fournisseurs

Les entreprises utilisant des systèmes d'IA externes doivent effectuer des évaluations des fournisseurs pour garantir la conformité. Cela implique :

• Un examen des contrats pour vérifier que les fournisseurs d'IA respectent les réglementations de l'UE
• La réalisation d'audits indépendants afin d'analyser les modèles d'IA des fournisseurs, en mettant l'accent sur les biais, la transparence et la sécurité.
• d'exiger aux fournisseurs d'IA de remplir des questionnaires de conformité, garantissant que leurs systèmes sont conformes aux normes réglementaires.

Déployer l'IA sans évaluation appropriée des fournisseurs peut exposer les organisations à des risques juridiques et financiers.

En suivant ces étapes structurées, les organisations peuvent garantir la conformité à l'IA, atténuer les risques et s'aligner sur les exigences réglementaires de l'AI Act de l'UE.

Comment Deel atténue les risques éthiques

Chez Deel, atténuer les risques éthiques liés aux outils d'IA, en particulier dans le recrutement, est une priorité absolue. Tima Anwana-Gangl a partagé que Deel garantit une politique solide de « l'humain dans la boucle des process de vérification et validation» pour prévenir les biais potentiels dans les processus automatisés, tels que les biais raciaux ou sexistes.

De plus, Deel examine attentivement les outils d'IA externes pour s'assurer que les normes éthiques sont respectées. Cela inclut l'examen minutieux des données utilisées et la compréhension de la manière dont les données personnelles sont traitées. L'accent est mis sur l'utilisation de l'IA comme un outil de soutien, et non comme un décideur, afin de préserver le jugement humain dans le processus de recrutement.

Deel gère également les évaluations des risques éthiques en interne, en s'appuyant sur l'expertise de professionnels tels qu'Emily Johnson et Tima, qui apportent des années d'expérience et des qualifications avancées dans le domaine.

Voir aussi : 8 facçons d'améliorer les compétences de vos employés grâce à l'IA

L'AI Act deviendra-t-il international ?

La loi sur l'IA de l'UE est révolutionnaire, mais ce n'est pas un développement isolé. Tima Anwana-Gangl a souligné que des initiatives similaires émergent dans le monde entier.

Emily Johnson a souligné que, bien que l'AI Act de l'UE soit le premier du genre, des pays comme la Corée du Sud et Singapour emboîtent le pas avec leurs propres réglementations sur l'IA, s'alignant souvent sur le cadre européen.

Bien que le Royaume-Uni ne soit plus lié au droit de l'UE, il élabore également des principes autour de l'équité, la transparence et les droits de l'homme dans l'utilisation de l'IA, reflétant bon nombre des mêmes préoccupations.

L'IA et la perte d'emploi

Les préoccupations concernant l'IA qui remplace les emplois sont courantes, surtout dans les ressources humaines. Tima Anwana-Gangl a noté que de nombreux clients s'inquiètent de l'IA remplaçant leurs postes. Cependant, Emily Johnson a souligné que les avancées technologiques ont historiquement déplacé les marchés du travail, créant souvent de nouvelles opportunités plutôt que d'éliminer des emplois.

Tima a acquiescé, ajoutant que de nouveaux postes comme celui de responsable de l'éthique de l'IA émergent. Ces postes s'assurent que le développement de l'IA est conforme aux normes éthiques. Tima et Emily voient toutes deux l'IA comme une opportunité pour les professionnels de s'adapter et prospérer avec de nouvelles voies de carrière dans la gestion et l'éthique de l'IA.

La loi sur l'IA aura-t-elle un impact sur l'innovation ?

Une préoccupation courante concernant la loi sur l'IA de l'UE est la manière dont elle pourrait affecter l'innovation. Emily Johnson a noté que certains clients craignent qu'elle ne ralentisse l'adoption des systèmes d'IA.

Tima a répondu à cette préoccupation en expliquant que, bien que les nouvelles lois régulant les technologies émergentes puissent être perçues comme étouffantes, l'AI Act offre un cadre structuré pour le développement responsable des outils d'IA.

Tima a souligné que la loi impose des exigences qui se chevauchent avec les lois et directives existantes, notamment en ce qui concerne la gestion des données, les normes de qualité, la gouvernance des données et la nécessité d'une supervision humaine.

De plus, Tima a noté que l'AI Act intègre des mesures telles que les bacs à sable réglementaires, qui permettent aux entreprises de tester leurs outils d'IA dans des environnements contrôlés.

Obtenir de l'aide

Alors que les entreprises rencontrent des difficultés avec la réglementation de l'IA, plusieurs options de soutien clés sont disponibles pour aider à garantir la conformité.

Services de conseil en IA de Deel

Deel propose des services de conseil en IA dirigés par Tima Anwana-Gangl, Emily Johnson et leur équipe. Ils fournissent des modèles développés en interne, tels que des évaluations d'impact sur les droits de l'homme, pour aider les clients à respecter la conformité en matière d'IA. Pour les entreprises manquant d'expertise, Deel offre également un accompagnement pratique pour guider les clients tout au long du processus d'évaluation et partager de précieuses connaissances.

Les orientations et ressources de la Commission européenne

Les entreprises peuvent également s'appuyer sur les ressources de la Commission européenne, du Bureau européen de l'IA et des autorités de protection des données. Ces organisations offrent des lignes directrices sur la conformité à l'AI Act et les connivences de la loi avec l'IA. Rester informé grâce à ces ressources est essentiel pour les entreprises qui naviguent dans les réglementations sur l'IA.

Le Moniteur de Conformité de Deel

Le Compliance Monitor de Deel fournit aux organisations des mises à jour en temps réel sur les changements législatifs et nouvelles directives à l'échelle internationale. Il aide les entreprises à se tenir informées des réglementations sur l'IA et garantit la conformité, notamment lorsqu'il s'agit de déterminer si un système d'IA est à haut risque ou relève de catégories d'utilisation inacceptables.

Rendre l'IA conforme avec Deel

Pour approfondir les informations partagées lors du webinaire, regardez la session complète ici. Ou, pour découvrir comment Deel peut vous aider à respecter la conformité avec l'AI Act tout en adoptant Deel AI pour des solutions de recrutement, paie, ressources humaines et conformité internationales fluides pour vos talents du monde entier, réservez un appel avec l'équipe.