La nécessité d’une IA Responsable

Cependant, seuls 31% des Français estiment que le développement de l’IA présente plus d’avantages que d’inconvénients (IPSOS, 2022). Du côté des salariés, seuls 40% s'attendent à un impact positif de l’IA et 43% craignent la suppression de certaines activités suite à l’adoption de l’IA dans leur entreprise (BCG GAMMA & Malakoff Médéric Humanis, 2019). 

Face à ces inquiétudes, les pouvoirs publics ont intégré la nécessité de définir et de réguler l’intelligence artificielle et sa pratique. En Europe, dès 2019, la Commission européenne a publié "7 principes éthiques pour une IA de confiance", complétés en 2021 par le lancement des travaux sur l'IA Act dont la vocation est de poser les bases d’un premier cadre légal. En France, l’étude du Conseil d'État "S'engager dans l'intelligence artificielle pour un meilleur service public" réalisée en 2022 recommande également de construire une “IA publique de confiance“.

Vers une définition de l’Intelligence Artificielle Responsable

La Commission européenne définit une IA de confiance en 3 points : 

• elle doit être licite et assurer le respect des législations et réglementations applicables ;
• elle doit être éthique et refléter le respect de principes et de valeurs éthiques, ainsi que l’adhésion à ces principes et valeurs ;
• elle doit être robuste sur les plans technique et social, pour faire en sorte que, même avec de bonnes intentions, les systèmes d’intelligence artificielle ne causent pas de préjudices involontaires. Une IA de confiance valide la fiabilité du système d’IA en tant que tel, mais également celle de l’ensemble des processus et acteurs qui font partie du cycle de vie de ce système.

Une Intelligence Artificielle Responsable doit aussi répondre aux 7 principes éthiques définis par la Commission européenne :

1. L’action humaine, le contrôle humain et les droits fondamentaux;
2. Robustesse technique et sécurité;
3. Respect de la vie privée et gouvernance des données;
4. Transparence des données, des systèmes et des modèles;
5. Diversité, non-discrimination et équité;
6. Bien-être sociétal et environnemental;
7. Responsabilité.

Intelligence Artificielle Responsable : les entreprises doivent passer à l’action

Au-delà de la définition de l’IA Responsable, se pose la question de sa mise en œuvre. En effet, même si 84% des entreprises affirment qu’une IA éthique devrait être une priorité, seules 16% d’entre elles ont développé un programme mature, notamment par manque de solutions opérationnelles et d’outils pour les appliquer (BCG GAMMA, 2022). 

Pour faire face à ces défis de taille, les entreprises ont besoin de solutions pour rendre opérationnelles les recommandations sur l’Intelligence Artificielle Responsable. En tant que premier espace de création et de déploiement de l’IA, les entreprises ont un rôle à jouer pour réfléchir à son application concrète au sein des organisations.