« Chevaucher le tigre: L’intelligence artificielle, l’entreprise et la RSE » 3. Pour des labels « Entreprise IA-responsable »

« Chevaucher le tigre: l’intelligence artificielle, l’entreprise et la RSE » 1. L’entreprise et l’IA: mon premier article, consacré aux enjeux de l’IA (intelligence artificielle) en entreprise (notamment PME), et sa puissance transformative, a planté le décor. Nous avons ensuite, sur cette base, examiné comment RSE (responsabilité sociétale de l’entreprise) et IA peuvent se soutenir, se guider et se sécuriser mutuellement, y compris en temps de crise. Etant entendu que l’IA ne devrait jamais être qu’un outil, au service de l’entreprise responsable et de ses parties prenantes.

Ce troisième et dernier article appelle à un rapprochement (urgent) des communautés IA et RSE sur ces sujets, ainsi qu’à la création de labels « Entreprise IA- responsable » pour orienter un investissement lui aussi responsable (ISR IA-responsable). Des bases existent déjà avec (par exemple) ADELIAA ou AI Transparency Institute. Ces labels seraient adaptés aux tailles d’entreprises (PME etc.) et aux secteurs d’activité. Le but étant que l’inéluctable pénétration de l’IA dans la vie de l’entreprise et de ses parties prenantes soit non pas subie, mais gérée au service du bien commun. De même que son impact sociétal et environnemental et sur la nature et l’organisation du travail. Pour l’enseignement supérieur ou technique, une formation initiale sur l’éthique de l’IA serait également souhaitable.

Ce qui est dit pour les entreprises vaut aussi pour les autres organisations : collectivités territoriales, administrations, associations, fondations etc.

Une conclusion générale reprend ensuite l’ensemble des trois articles et est suivie d’une bibliographie sur le thème « IA & RSE ».

L'homme, l'IA et la planète

Et maintenant la troisième (et dernière) partie: Pour des labels « Entreprise IA-responsable »

1/ Rappels sur les labels et les démarches de labellisation

2/ Un cahier des charges de Label « Entreprise IA-responsable »

3/ Acteurs de l’IA et acteurs de la RSE: un rapprochement nécessaire et urgent

4/ Pour des labels « Entreprise IA-responsable », vite!

5/ Des labels sectoriels ? par taille d’entreprise?

6/ Investisseurs « IA-responsables » : ESG augmenté à l’IA ?

Conclusion générale des trois articles « Chevaucher le tigre »

Bibliographie sur le thème « RSE et IA »

Annexe : critères RSE de l’IA

Troisième (et dernière) partie

Pour des labels « Entreprise IA-responsable »

1/ Rappels sur les labels et les démarches de labellisation

1.1Généralités

 Un label n’est pas un but en soi, mais… 

Le label est seulement un moyen. Le véritable but de l’entreprise avec un produit ou un service labellisé est d’attirer l’attention sur une bonne dynamique, de bonnes pratiques, des produits et un engagement de l’entreprise sont fiables, authentiques, et constants, et aussi que que l’impact ainsi généré est positif. Et surtout, de mettre en œuvre tous ces engagements pour fournir un meilleur produit ou service. Que ce soit le Label Rouge (pionnier), le label Agriculture Biologique, le label Lucie 26000  en RSE, ou le label Initiative Remarquable pour soutenir les entreprises innovantes et RSE, tous ces labels permettent de garantir qu’un certain nombre de pratiques et d’exigences (en général de moyens) sont respectées[1]  et qu’une dynamique de progrès continu est en place. Le consommateur ou le client peut donc en attendre un certain niveau de qualité et d’engagement.

La valeur du label repose donc entièrement sur la pertinence du cahier des charges ainsi que sur la rigueur de la méthodologie d’évaluation et de progrès. On n’entrera pas ici dans la distinction entre « label d’engagement basé sur une évaluation » d’une part (Label Lucie en RSE par exemple, selon les recommandations ISO 26000), « label de certification basé sur un audit en bonne et due forme » d’autre part (Ecocert, certifications B Corp …) Retenons surtout qu’un label d’engagement comme ceux qui sont basés sur l’ISO 26000 impliquent une dynamique d’amélioration continue sans cesse renouvelée.

Quelques labels…

On peut avoir un bon niveau de maturité, une bonne dynamique de progrès et d’engagement, sans pour autant être labellisé « ceci » ou « cela ». Simplement, être labellisé aide commercialement (comme la certification ISO 9001 ou 14001 dans d’autres domaines.) Je connais des entreprises qui ne sont pas labellisées RSE ou qui ne sont pas ISO 9001, et qui pourtant réussissent très bien et en conformité avec leurs valeurs et leurs engagements.

… Mais le processus de labellisation a plusieurs vertus. Il oblige à mettre en œuvre une assez grande rigueur, à suivre une méthode cohérente, à maintenir un rythme soutenu d’actions concrètes, à accepter que son activité soit passée au crible et notée par un tiers extérieur à l’entreprise. En outre, il est plus difficile de « tricher » ou se relâcher sur l’authenticité de sa démarche si l’on est labellisé que si l’on ne l’est pas. Même si « la carte n’est pas le territoire ».

En RSE, il n’y a pas non plus un label meilleur qu’un autre : tout dépend des caractéristiques de l’entreprise (ou de sa maison-mère), du secteur d’activité, des parties prenantes, de la culture d’entreprise, de son « climat » éthique, des enjeux RSE de l’entreprise et de ses parties prenantes, de l’image que l’entreprise veut projeter, de sa position dans son cycle de vie (start-up, maturité, retournement…), de l’écosystème économique et social  dans lequel elle souhaite se retrouver une fois admise dans la communauté de tel ou tel label (celle de B Corp n’est pas la même que celle de Lucie ni que celle de l’AFNOR, pour ne citer que ces trois exemples canoniques en RSE) etc.

Notons enfin que les organismes de labellisation et d’évaluation, quels que soient leurs domaines : RSE (responsabilité sociétale des entreprises), ESG (critères Environnementaux, Sociaux et de Gouvernance (ESG), ISR (investissement socialement responsable…) etc. jouent un rôle majeur dans le progrès continu des démarches, dans la méthodologie et dans le partage d’expérience et de bonnes pratiques, bref dans l’amélioration constante du domaine. Chacun cependant met en œuvre des pratiques assez différentes (formation des labellisés et des labellisateurs, visites sur site ou pas, nature et hiérarchie des critères, etc.)

Forts de ces constats, nous sommes convaincus que le développement de labels « d’ entreprises IA-responsables » constitue un  mouvement d’ensemble nécessaire et urgent. Par « Entreprise IA-responsable » nous entendons une démarche RSE d’entreprise, intégrant les enjeux IA tels que nous les avons définis dans les deux parties précédentes de l’article « Chevaucher le tigre » et que nous allons reprendre en détail ici. Comme on l’a dit plus haut, la démarche est parfaitement transposable aux autres organisations : collectivités territoriales, syndicats de communes, administrations décentralisées ou pas, associations… Dans tous les cas une mesure d’impact est indispensable.

Ce mouvement sera (espérons-le) foisonnant dans un premier temps, comme l’a été et l’est encore celui des labels RSE ou DD (développement durable), et se rationalisera ensuite de manière plus ou moins darwinienne et rapide.

© Goodwill Management – étude 02.2020 sur les labels RSE

1.2 Les grandes étapes d’une labellisation RSE

Les grandes étapes incontournables d’une labellisation RSE (mais cela vaut probablement dans d’autres domaines) sont les suivantes :

1. Etat des lieux-autodiagnostic- walking diagnostic– analyse documentaire

2. Identification des SWOR (points forts-points faibles- risques-opportunités) et des enjeux RSE

3. Ebauche de plan d’action déduit des enjeux et des SWOR – préparation de la conduite du changement

4. Approfondissements thématiques ciblés- structuration plus poussée du plan d’action – communication

5. Pré-évaluation par un tiers et actions correctives en découlant- ajustements du plan d’action

6. Validation des engagements RSE de l’entreprise

7. Intégration de la RSE dans l’entreprise (objectifs, gouvernance, management, processus…)

8. Consolidation du plan d’action, Quick Wins, communication interne et externe etc.

9. Mise en place des KPI (pilotage RSE, Impact)

Ensuite :

10. [si labellisation] Choix d’un Label, adaptation au référentiel et au cahier des charges de ce label, préparation puis Labellisation par un tiers certifié

11. [si labellisation] Intégration de l’entreprise dans l’éco-système du labellisateur (communauté de labellisés etc.)

12. Progrès continu, formations et sensibilisations, communication, adaptation aux évolutions et aléas internes et externes et aux changements importants dans/pour l’entreprise; gestion des crises etc.

13. Poursuite de l’intégration de la politique et des pratiques RSE dans la gouvernance et le management

14. Revues internes trimestrielles ou semestrielles

15. [si labellisation] Renouvellement de labellisation (en général au bout de 3 années).

2/ Le cahier des charges du Label

Le label doit donc garantir un certain nombre de choses, pour la démarche RSE en général et pour sa dimension « IA » en particulier :

– évaluation du niveau de maturité de l’entreprise (ou de l’organisation)

– identification des points forts et des points de progrès, plan d’action impliquant les parties prenantes

– prise en compte de l’impact de l’IA sur l’organisation, la nature et le sens du travail

– mise en œuvre de principes d’action pertinents et de bonnes pratiques- appropriation par les salariés et autres parties prenantes

– alignement stratégique et intégration de la démarche labellisée dans les différentes dimensions de l’entreprise

– progrès continu et pilotage de la démarche

– évaluation par un tiers indépendant

– mesure de l’impact des actions dans les différents domaines de la RSE ou de l’activité de l’entreprise.

Voyons concrètement, sur la base des analyses des deux articles précédents, ce que doit contenir le cahier des charges d’un tel label « Entreprise IA-responsable ».

2.1 Critères

Les critères d’un label « Entreprise IA-responsable » (ou d’une grille d’investissement dérivée de l’ESG par exemple) ont été identifiés au paragraphe 1.2 du  premier article, je les résume ici et renvoie à l’annexe (tout à la fin de l’article) pour les détails.

  • Transparence et accessibilité (explicabilité, biais, traçabilité etc.) (voir explications de ces termes dans le premier article)
  • Bienfaisance ou malfaisance de l’algorithme (respect du bien d’autrui, du bien commun etc.)
  • Relation homme-machine (impact de l’IA sur la nature et le sens du travail; rôle de l’humain dans les processus, consentement etc.)
  • Impact sur l’organisation du travail (métiers, responsabilités, IoT etc.)
  • Enjeux RSE et sociétaux liés à l’IA (transformation des relations, impact selon les 7 axes majeurs de l’ISO 26000 etc.)

2.2 Principales questions à traiter

Comme on l’a vu au paragraphe 2.2 du premier article, les principales questions à traiter parallèlement à l’intégration de l’IA et de ses enjeux dans la démarche RSE (notamment en PME) sont les suivants :

  • identifier ce qui  est réellement utile/efficace/éthique/rentable/sûr ;
  • la difficulté de compréhension de ce qu’est l’IA et corrélativement à imaginer une roadmap IA ;
  • les obstacles organisationnels et culturels supposés ;
  • le coût de déploiement d’une roadmap IA : c’est un investissement avec calcul de retour sur investissement probable ;
  • les compétences nécessaires en interne et /ou externe (de l’association temporaire ou durable avec une algo-entreprise, à l’assistance technique ou au recrutement, en passant par les laboratoires d’information appliquée ou d’IA, tels le LIA d’Avignon) ;
  • la question des données pour nourrir les algorithmes (apprentissage puis utilisation) ;
  • la méfiance vis-à-vis des biais et de l’opacité, le sentiment que l’application «échappe» à son utilisateur ;
  • l’impact de l’IA sur l’organisation, la nature et le sens du travail;
  • la crainte de l’intrusivité et de la malveillance ; la difficulté à évaluer les risques ;
  • s’associer les compétences nécessaires, sans forcément les internaliser ;
  • établir la roadmap (ainsi que coût et délais, risques) de conception, intégration et déploiement des applications utiles ;
  • préparer la conduite du changement, à commencer par l’appropriation/acceptation des parties prenantes notamment les salariés en place ; faire monter les salariés en compétence sur l’IA ou du moins son utilisation.

Dans certains cas l’intérêt des technologies de l’IA est évident dans le principe. Par exemple: le prédictif approvisionnement/rechanges/consommables ou bien ventes, la « vision machine » (contrôle qualité), la maintenance prédictive, l’assistance à la gestion de la relation clients, la gestion de flottes, le recours (raisonné) à l’IA dans les études de sécurité ou d’empreinte environnementale, l’optimisation de la logistique (notamment transports et expéditions), la planification, l’efficacité des processus (production, R&D, management de projets, qualité etc.) IoT (internet des objets connectés, en production et facility management notamment), la gestion documentaire et le knowledge management, prospective, résolution de problèmes, allègement des tâches administratives et répétitives, diagnostics réglementaires (ISO etc.), soutien (et seulement soutien) aux métiers du juridique etc. Jusqu’aux experts-comptables qui voient leurs pratiques (déjà largement transformées par le numérique), progressivement envahies par l’IA. Dans d’autres cas c’est moins évident, quand il s’agit de mettre de l’IA dans un CRM[2], dans les opérations de recrutements, dans le processus de production… Et la technique n’est pas la solution à tout.

La puissance transformative de l’IA sur l’organisation, la nature et le sens du travail est telle qu’il n’est pas possible de l’analyser ici. Ce sujet ressortit en tout cas clairement à la RSE.

Le déploiement d’une solution IA, comme toute solution numérique, suppose de gérer la sécurité des données (intégrité, disponibilité, actualité, confidentialité, RGPD et aspects juridiques) . Toutes les entreprises disposent de données de par leur activité : ventes, production, finance, RH… Encore faut-il qu’elles soient à jour, intègres et accessibles. Les données peuvent souvent être complétées par acquisition (données synthétiques).

L’impact de l’IA est évident par exemple dans le domaine environnemental : il est massivement négatif, plus que la moyenne des applications numériques, du fait de la puissance de calcul qu’elle mobilise (modulo le green coding?) Il doit donc être compensé par les apports positifs de l’IA, à commencer dans le domaine des outils de maîtrise et prévision de l’empreinte environnementale de l’entreprise, mais aussi dans tous les autres domaines. On est donc en présence d’une stratégie « risques/bénéfices » et/ou « retour sur investissement ».

On voit ici comment la politique RSE et la stratégie d’entreprise sont intégrées (conformément aux recommandations de l’ISO 26000) dans le cas particulier de l’IA.

2.3 Vérifications de la RSE sur l’IA

Je reprends ici la synthèse des analyses menées au paragraphe 2/ du second article. Ces analyses fournissent tout naturellement des points de vérification à réaliser dans le déploiement d’une politique IA de l’entreprise. Sans prétention à l’exhaustivité.

La première des vérifications touche le bilan environnemental de l’IA : l’impact de cette technologie numérique est fortement négatif comme on vient de le voir. Sa contribution à des impacts positifs, par la puissance d’analyse, de prédiction et d’aide à la décision qu’il apporte, dont largement compenser cet impact environnemental négatif direct.

  1. Gouvernance responsable : implication et mise à niveau du COMEX dans les questions d’IA – revues d’enjeux critiques (selon les critères présentés dans le premier article en 1.2) – connaissance et suivi des parties prenantes (dans le respect des lois…) – aide à la maîtrise des risques d’entreprise et à la résilience – évaluation  de la façon dont les responsabilités (internes et vis-à-vis des tiers) sont identifiées et gérées – connaissance et maîtrise de l’impact des algorithmes utilisés sur les processus de décision, de management et de pilotage stratégique ou opérationnel.
  2. Droits des personnes : évaluation des pratiques RH utilisant l’IA – audits de biais, discriminations etc. (dans les limites de la légalité… et du respect des droits des personnes) – actions positives utilisant l’IA en faveur de la prise en compte de cet axe – vigilance sur la prise en compte du contexte par les algorithmes implémentés – confidentialité des données personnelles (cas spécifique des algorithmes).
  3. Relations et conditions de travail responsables : revues d’impact de l’IA dans l’entreprise – veille sur l’équilibre humain – machine – aide à l’analyse et à la résolution de conflits – audits de bienfaisance/malfaisance des outils IA utilisés dans les domaines RH, QVT, QSE, SST… – optimisation de l’employabilité – optimisation des plannings (projets, travail, charge…) – impact de l’IoT (Internet des Objets connectés) sur l’équilibre homme-machine dans les processus – gain ou perte d’autonomie des salariés dans leur fonction – influence sur la capacité d’initiative et d’innovation- vigilance sur la prise en compte du contexte par les algorithmes.
  4. Préservation de l’environnement : applications analytics favorisant réellement l’environnement et améliorant les outils existants et les bilans à date ou prévisionnels (carbone, déchets, énergie, eau…) – outils d’aide à la décision (déplacements etc.) – aide à l’optimisation de la consommation de ressources – outils prévisionnels et leviers d’efficacité. Le levier réside dans la quantité de données traitées et interprétées. Impact environnemental très négatif des applications IA (du au volume/débit de données traitées).
  5. Relations d’affaires éthiques (notamment fournisseurs) :  identification d’anomalies, de biais… aide à l’évaluation des fournisseurs, de la satisfaction client – aide à l’identification des risques dans les relations d’affaires – mise en œuvre d’algorithmes dans le domaine contractuel.
  6. Intérêts des clients et des consommateurs/utilisateurs finaux : pratiques algorithmiques bien connues des GAFAM, à condition d’être orientées convenablement.
  7. Engagement territorial : mise en œuvre d’outils d’IA partagés – algorithmes de « matching » – contribution à l’émergence et à l’efficacité d’initiatives d’intérêt général.

Sans omettre la mesure d’impact.

Redisons ici l’enjeu majeur que représente la puissance transformative de l’IA sur l’organisation, la nature et le sens même du travail humain.

On touche ici plus précisément du doigt la manière dont la méthodologie RSE permet l’appropriation responsable de l’IA par l’entreprise. Je ne reviens pas ici sur la prise en compte (qui ne concerne pas que l’IA) des situations de crises, majeures type COVID-19 ou « ordinaires » comme celles qui émaillent la vie quotidienne des entreprises,  COVID-19 ou pas (voir paragraphe 4/ du second article). Cette prise en compte est indispensable, en termes de maîtrise des risques et de résilience.

Enfin, la démarche RSE incluant l’IA dans son champ d’analyse et d’action, devra s’assurer que la méthodologie de déploiement des applications IA dans l’entreprise ou l’organisation, est bien menée selon les principes éprouvés, tels que ceux que nous recommandons au 2.2.2. de l’article « Chevaucher le tigre: l’intelligence artificielle, l’entreprise et la RSE » 1. L’entreprise et l’IA.

2.4   Les 4 leviers de l’IA au service de la RSE

Ils sont évidemment à prendre en considération dans la démarche RSE. Rappelons-les ici (cf. paragraphe 1/ du second article).

  • direct en rendant plus efficace, plus sûre et plus prédictible la démarche RSE de l’entreprise (voir le paragraphe suivant) et la mesure d’impact.
  • indirect en contribuant à améliorer les processus et l’organisation, ainsi que les conditions de travail, dès lors que tout est aligné sur une stratégie d’entreprise incluant la RSE.
  •  troisième levier de soutien de l’IA à la RSE : via la mise en œuvre d’algorithmes dans la construction et le déploiement, puis le suivi de la démarche RSE : diagnostic/évaluation/plan de progrès/alignement/pilotage, etc. L’IA est en effet en train d’investir des domaines comme l’ingénierie des systèmes, la conduite de projets complexes, la coordination de chantiers, etc. Il n’y a aucune raison pour qu’elle ne puisse se rendre utile dans le domaine des démarches RSE, et plus globalement dans la méthodologie et les pratiques de conduite du changement. On ne perdra cependant pas de vue que la mise en œuvre des algorithmes doit se nourrir de données pertinentes, à jour, légales et accessibles.

Un exemple concret concerne les relations avec les parties prenantes: avant d’engager la relation pour établir ensemble une matrice de matérialité[4], une approche analytics de la partie prenante en question sera utile pour mieux cerner ses enjeux RSE et ainsi mieux ouvrir le dialogue.

Ceci vaut aussi bien pour la démarche RSE elle-même que pour la mesure et le pilotage de l’impact des actions et (bonnes) pratiques RSE. Là aussi, le traitement massif de données s’avèrera d’une puissante utilité. Nul doute que les spécialistes de l’impact management et de l’impact investing ne travaillent déjà sur ce sujet. L’entreprise pourra bénéficier de ce savoir-faire pour mieux prévoir les impacts de ses actions RSE.

  • enfin, quatrième levier: l’approche RSE de l’entreprise est un outil très performant d’identification et de prévention des risques d’entreprise, ainsi que de construction et amélioration de la résilience.  L’IA peut apporter un renfort précieux dans ces deux domaines, par le traitement massif de mégadonnées. Détection de « signaux faibles », de dérives, de biais (même si les algorithmes sont souvent suspectés de biais).

—oooOOOooo—

Avec ces quatre dimensions (critères spécifiques à l’IA, traitement des questions-clés et vérifications de la RSE sur l’IA, enfin IA mise au service de la RSE) nous avons couvert les principes d’une bonne labellisation « Entreprise IA-responsable ».

3/ Acteurs de l’IA et acteurs de la RSE: un rapprochement nécessaire et urgent

Pour que les pistes esquissées aux paragraphes 1 du second article (IA au service de la RSE) et 4.3 (conjuguer IA et RSE en temps de crise) se concrétisent (et d’autres aussi), il faut donc que les applications IA utiles à l’entreprise et à la RSE, existent ou soient rapidement développées. Et donc que les deux communautés coopèrent. Il en est de même pour la création et la mise en œuvre de labels « Entreprise IA-responsable ».

Trois types d’acteurs nous paraissent en mesure d’apporter les expertises nécessaires (sans pour autant ignorer le principal acteur: l’entreprise!)

  1. Les algo-entrepreneurs[6] : ces « entrepreneurs de l’algorithme » sont capables, s’ils estiment qu’il y a un marché et/ou une utilité sociale, environnementale ou économique à cela, de développer des applications algorithmiques ad hoc, intégrables dans la démarche RSE ou utiles directement à l’entreprise, démarche RSE ou pas. C’est exactement ce qui se passe dans le domaine de l’environnement, avec les démarches et outils opérationnels « bilan carbone » par exemple (dont beaucoup s’appuient d’ailleurs sur les algorithmes, comme https://www.axionable.com/ déjà évoqué, mais bien d’autres aussi. Nous avons déjà mentionné dans le premier article demain.ai et AI for Better, à titre d’exemples capables d’accompagner des entreprises dans des démarches IA.

Une mention particulière pour les data scientists et les programmeurs qui sont d’ores et déjà dans une optique « Ethical by design ».

2. Les consultants et experts en RSE, de préférence ceux qui conjuguent vision globale de la RSE (donc « conseil ») et expérience opérationnelle (donc « certifications », labellisations, diagnostics etc.) et qui savent manier les outils de la RSE, pas seulement les concepts. Ils seront en mesure d’orienter les algo-entrepreneurs. Des partenariats entre les deux communautés semblent d’ailleurs souhaitables, c’est ce que nous appelons de nos vœux. Là aussi, le parallèle avec les démarches écologiques (notamment empreinte GES) est évident. Ou encore avec les associations « experts en IA – entreprise notamment PME » que nous préconisons dans la première partie de l’article, en 2.2.2.  L’amélioration des démarches « RSE assistée par IA » serait également une piste prometteuse, dès lors que l’entreprise dispose de données accessibles en quantité et qualité suffisantes et pas trop biaisées, pour « nourrir » les algorithmes.

3. Enfin, les concepteurs et utilisateurs d’outils ESG (crible Environnement- Social- Gouvernance utilisé par les investisseurs pour cibler les entreprises à profil RSE et à fort potentiel.) Ils utilisent pour eux-mêmes l’IA (ranking, due diligence etc.) Autant la mettre aussi au service de la RSE (y compris en temps de crise). Les algo-investisseurs que je connais sont d’ores et déjà confrontés au problème, puisqu’ils traversent la crise aux côtés de leurs participations. Ceci vaut également pour l’Impact Investing.

Sans omettre cependant dans le cercle des acteurs, les instances publiques ou les sociétés de conseil ou d’audit ou les think tanks qui s’efforcent d’orienter l’usage de l’IA à des fins aussi vertueuses et utiles que possible. On peut citer, dans le désordre et sans prétention à l’exhaustivité:

Noter que dès 2017, un collectif dirigé par Etienne de Rocquigny a consacré un livre blanc à l’IA en PME: Livre Blanc « Modèles, data et algorithmes, les nouvelles frontières du numérique », sous la direction d’Etienne de Rocquigny (collectif AREMUS, BPI France, AMIES, GENCI)_03.2017.

N’oublions pas enfin une partie prenante fondamentale: la nouvelle génération. Dans la mesure où les acteurs de demain sont aujourd’hui sur les bancs (réels ou virtuels) des écoles (d’ingénieurs, de commerce…) de l’enseignement dit technique et des universités, il me paraît indispensable de mentionner le besoin d’un enseignement sur les enjeux moraux, économiques, sociétaux etc. de l’IA dans ces temples du savoir. J’ai découvert l’assurance qualité et le maniement pratique des statistiques à mes débuts d’ingénieur dans l’industrie (dans les ‘80ies…) Autant éviter de faire la même erreur avec l’IA (notamment). Les étudiants d’aujourd’hui expliquent aux dirigeants des CAC40 qu’ils ne travailleront pas chez eux si leurs entreprises n’ont pas des démarches sincèrement responsables et durables (voir par exemple les mouvements Pour un réveil écologique et REFEDD).  Alors pourquoi pas des enseignements systématiques sur l’IA responsable ?

4/ Pour des labels « Entreprise IA- responsable », vite!

Parmi les rares démarches structurées à ce jour pour évaluer les enjeux éthiques d’une « IA responsable », les plus avancées que je connaisse sont celles de l’ADELIAA et d’AI Transparency Institute, qu’on peut compléter par les travaux d’Impact-AI.

4.1 ADELIAA

Une initiative pionnière et originale, très structurée, initiée par Jérôme Béranger (auteur du livre : Quand l’Intelligence Artificielle s’éveillera (Le Passeur, 2020). L’ADELIAA promeut un label multisectoriel de l’ensemble du projet digital : Label ADEL. C’est à ma connaissance ce qu’il y a de plus abouti sur l’éthique de l’IA (entre autres en entreprises, mais aussi aux collectivités, Smart Cities etc.)  Le Label ADEL ne couvre pas l’ensemble de la RSE mais traite bien de la RNE (responsabilité numérique de l’entreprise). Il faudrait donc l’intégrer dans une méthodologie RSE plus large.

Rentrons un peu plus dans le détail. La labellisation ADEL basée sur l’évaluation éthique d’une IA s’effectue à deux niveaux complémentaires :

  • un Label ADEL – Basic illustré par une évaluation éthique systémique sur la conception, la mise en place, et l’usage du projet digital relatif à l’IA : Ethique de la Donnée – Ethique de l’Algorithme – Ethique des Systèmes – Ethique de l’Environnement – Ethique des Pratiques – Ethiques des Décisions (Audit systémique).
  • un Label ADEL – Premium qui teste l’IA et de sa base de données pour évaluer le niveau d’engagement éthique algorithmique (Fiabilité, Interprétabilité, Qualité/Robustesse, Discrimination Sociale). Il s’agit donc d’un Audit systémique complété par une Evaluation algorithmique des Modèles d’IA.

Ces labellisations (en conformité avec le RGPD) reposent sur le concept de l’Ethics by Evolution[3] ainsi que sur des analyses menées sur un grand nombre de guides ou chartes éthiques de l’IA[4] que nous avons déjà évoquées dans le premier article.

Elles s’appuient sur une plateforme en ligne, qui permet l’édition d’un rapport d’évaluation incluant des tableaux de bord de supervision, du scoring, des préconisations, …). On est donc bien dans la méthodologie utilisée par ailleurs par la plupart des labels RSE.

Il nous a paru utile de développer un peu le cas d’ADELIAA, pour toucher du doigt la mise en œuvre pratique d’une démarche « Entreprise IA-responsable » intégrée dans une démarche RSE globale.

4.2 AI Transparency Institute

L’AI TI s’aligne sur le document « Guidelines for Trustworthy AI » du groupe d’experts de haut-niveau de la Commission européenne. Cette fois-ci, on couvre le champ complet de la RSE, comme on peut le constater ici :

https://aitransparencyinstitute.shinyapps.io/ResponsibleAIIndex/

En revanche, l’analyse purement « éthique de l’IA » est probablement moins approfondie que dans le cas d’ADELIAA ci-dessus.

4.3 Impact-AI (collectif d’entreprises françaises)

https://www.impact-ai.fr/wp-content/uploads/2019/10/Livre-blanc-Impact-AI-1-1.pdf

https://www.impact-ai.fr/outils-de-gouvernance/

https://www.impact-ai.fr/outils-techniques/

Le lecteur se fera par lui-même une idée de l’approche et des outils proposés, qui couvrent un champ assez large de la RSE.

4.4 OPTIC et Espérance&Algorithmes

Le réseau OPTIC et la fondation  Human Technology Foundation oeuvrent activement dans le sens d’une meilleure (aux deux sens du terme) maîtrise des orientations, des effets et des externalités des technologies du numérique en général et de l’IA en particulier. Ils semblent être plus des “influenceurs” que des pourvoyeurs possibles de référentiels opérationnels, pour ce qui est de l’éthique de l’IA en tout cas.

Même commentaire pour Espérance&Algorithmes.

4.5 Vigeo Eiris (Moody’s)

https://vigeo-eiris.com/wp-content/uploads/2019/09/20190909_CP_VE_lance-nouveau-crit%C3%A8re-Intelligence-artificielle_.pdf

On attend des nouvelles concrètes.

© Goodwill Management – étude 02.2020 sur les labels RSE

 4.5 IA et justice sociale

Dans un ordre d’idées un peu différent, signalons l’action de la fondation Abeona, pour mettre l’IA au service de l’inclusion et de la justice sociale : https://www.fondation-abeona.org/

4.6 Labels numériques

Il ne semble pas que la communauté « Numérique responsable » ait mis la priorité sur l’IA, qui relève nominalement du champ du numérique. On ne saurait le lui reprocher, étant donnée l’importance cruciale et urgente de l’empreinte environnementale (énergétique et carbone notamment) du numérique, hors IA pour l’instant. Dans certains cas, les outils Carbone recourent à l’IA, au moins au niveau macro-économique. Mais nul doute aussi que le développement de l’IA viendra abonder spectaculairement l’impact environnemental du numérique: revers de la médaille, bilan global à faire… À noter cependant que l’Institut du Numérique Responsable a créé un groupe de travail « IA responsable » .

Par ailleurs, Green IT a publié un Livre Blanc « IA et protection de l’environnement ».

5/ Des labels sectoriels? Par taille d’entreprise?

5.1 Labels sectoriels

On notera que des labels sectoriels (selon les domaines d’activité des entreprises) se justifieraient. En effet, les enjeux de l’IA et de la RSE ne sont pas les mêmes selon qu’on est une banque, une entreprise de soins à domicile, de restauration ou de mécanique.

Pour mémoire, Label Lucie propose (hors considérations sur l’IA) des labels sectoriels dans les domaines suivants :

© Label Lucie

La « Plateforme RSE » a également travaillé le sujet :

https://www.strategie.gouv.fr/actualites/experimentation-de-labels-rse-sectoriels-6-nouvelles-federations-selectionnees

5.2 Labels adaptés à la taille de l’entreprise

Les démarches d’appropriation de l’IA, dans une démarche responsable, ne sont pas les mêmes pour une PME, une ETI et un grand groupe international. Même si les enjeux sont les mêmes, en termes d’impact sur la gouvernance, le management, les conditions de travail, la nature même du travail, ainsi que sur l’environnement et les diverses parties prenantes, notamment sociétales. De plus la PME « classique » est probablement plus démunie, sauf exception, que la filiale de grand groupe international. Nous avons vu au paragraphe 2.2 du premier article quel fil directeur peuvent suivre des PME, en suivant les orientations et pratiques de sociétés spécialisés comme demain.ai ou d’autres. Cela pourrait constituer une base pour une démarche et des labels pragmatiques adaptés aux PME.

6/ Investisseurs « IA-responsables » : ESG augmenté à l’IA?

© Ethisphere

L’ISR (investissement socialement responsable), investit selon des critères ESG (miroir des critères RSE) dans des entreprises engagées dans des démarches RSE ou à impact positif sur le développement durable. A ceci près qu’il détient un portefeuille de participations, en vue d’obtenir un impact dans le domaine qui l’intéresse. Beaucoup d’évaluateurs ESG recourent d’ailleurs aux algorithmes (évalués selon quels critères ?) pour traiter les masses considérables de données permettant de réaliser les due diligence et les évaluations (dans les rapports annuels et autres données disponibles en ligne, ou directement auprès de l’entreprise.) Par exemple :  https://www.esganalytics.ai/ .  Cela soulèvera d’ailleurs la question de la certification par tiers de confiance (européen, français…), qui est légèrement différente de celle des labellisations que nous étudions ici.

Quoi qu’il en soit, le monde de l’ISR dispose de compétences et de moyens utiles à la création de labels IA-Responsable », que ce soient pour les entreprises ou pour les fonds ou autres investisseurs (banques etc.)Et aussi pour la mesure d’impact des démarches « Entreprise IA-Responsable ». Encore une fois, l’impact IA ou autre de l’investisseur ou du banquier est le résultat de l’ensemble de son portefeuille de participations ou d’investissement, pas celui d’une seule des participations.

Il existe un mouvement croissant d’investissement dans les start-ups et licornes[7] de l’IA (souvent rachetées ensuite par de plus gros opérateurs), mais pas d’investissement spécialisé dans l’IA « responsable ». Je n’ai pas trouvé non plus sur le web de réponses à la question « ESG et IA » ou « prise en compte de l’IA dans l’ESG » à part le communiqué de presse prometteur de Vigeo Eiris en… 2019.

https://www.businessinsider.fr/startups-intelligence-artificielle-europe-a-suivre-selon-serena

https://www.decideo.fr/Serena-publie-son-analyse-annuelle-des-levees-de-fonds-europeennes-en-Intelligence-Artificielle_a10577.html

https://www.actuia.com/tag/fonds-dinvestissement/

https://www.lerevenu.com/placements/sicav-et-fcp/placements-deux-fonds-pour-miser-sur-lintelligence-artificielle

https://fr.allianzgi.com/fr-fr/conseillersfinanciers/nos-opcvm/allianz-global-artificial-intelligence

La France en tête des investissements européens dans l’IA en 2019

https://demeter-im.com/2019/07/17/parkoview-la-plateforme-dintelligence-artificielle-pour-la-ville-leve-18-millions-deuros-aupres-de-demeter/

https://www.bpifrance.fr/A-la-une/Appels-a-projets-concours/Appel-a-projets-L-intelligence-artificielle-pour-une-experience-amelioree-du-systeme-de-sante-48517

https://www.bpifrance.fr/Toutes-nos-solutions/Accompagnement/Conseil/Diagnostic-Data-Intelligence-Artificielle

https://www.bpifrance.fr/A-la-une/Actualites/Les-start-up-francaises-de-l-intelligence-artificielle-se-multiplient-47611

Conclusion générale des trois articles « Chevaucher le tigre »

Simone Weil (philosophe) : « Les choses jouent le rôle des hommes, les hommes jouent le rôle des choses : c’est là qu’est la racine du mal » (Expérience de la vie d’usine, 1936-1941)

[NB: en 2021, des robots demandent à des humains de prouver qu’ils ne sont pas des robots… avec le dispositif CAPTCHA de validation de messages.]

Gorgias (maître de rhétorique): «Toutefois, Socrate … ce n’est point l’art… qui est responsable de ces écarts et qui est mauvais, c’est, à mon avis, ceux qui en abusent. » (Platon, Dialogues, Gorgias, XI). Passage parfois cité pour argumenter que la technique est moralement neutre, mais que l’usage qu’on en fait ne l’est pas. La technique ayant usurpé le rôle social de l’art.

La question n’est pas de savoir s’il faut monter dans le train de l’IA ou pas. Pas plus qu’elle n’était de savoir s’il fallait monter dans le train de l’informatique.  On nous y embarque manu militari, de même que pour la 5G (probablement couplée aux besoins de capacités de transmissions de l’IA). La seule question est comment, quand et quels discernements opérer pour subir le moins possible et entretenir des espaces d’applications « vertueuses » de l’IA en entreprise. Ce que j’ai appelé « chevaucher le tigre [de l’IA] » dans cette série d’articles.

Comme on l’a vu dans le premier article, l’IA présente en effet deux spécificités redoutables par rapport aux autres applications numériques :

  • d’une part, l’antagonisme entre efficacité/précision d’une part, et explicabilité/intrusivité d’autre part[5]: plus l’algorithme est performant, plus il est opaque;
  • d’autre part, la question de la responsabilité en cas de conséquence néfaste de la mise en œuvre d’un algorithme, plus aigüe que pour les applications numériques « classiques » du fait du déficit d’explicabilité.

Une troisième spécificité est son impact environnemental fortement négatif (du fait des volumes/débits de données traitées), qui doit absolument être compensé par une contribution de l’IA à des impacts positifs.

Enfin une quatrième spécificité est la puissance transformative de l’IA sur l’organisation, la nature et le sens du travail humain et sur les processus de l’entreprise, très difficile à prédire aujourd’hui au sein d’une organisation complexe.

Il est urgent que la communauté RSE s’empare de la question, comme elle a su le faire pour d’autres enjeux majeurs (environnementaux notamment, sociétaux aussi, numériques hors IA également), en mettant l’IA à son service et en intégrant les enjeux spécifiques et inédits de l’IA dans ses pratiques d’évaluation, de progrès ainsi que dans la mesure et le pilotage de l’impact des pratiques RSE. Un rapprochement entre experts RSE/ESG et experts IA est pour cela indispensable, de la même façon que ce qui se produit déjà dans le domaine environnemental et des bilans Carbone ou de l’inclusion sociétale (par exemple).

L’émergence rapide de quelques labels « Entreprise IA-responsable » est souhaitable, pour faire le tri – là aussi !– entre le window dressing[8], l’ethical washing[9] et les réelles bonnes pratiques, de même que pour attirer les capitaux (« ISR IA-responsable ») vers les applications vertueuses (ou s’efforçant de l’être) de l’IA en entreprise. Il faut soutenir les pionniers, comme l’ADELIAA ou l’AI Transparency Institute. Ces labels doivent garantir la prise en compte dans le cadre de la RSE, de l’impact de l’IA sur l’entreprise (ou l’organisation) ainsi que la mise en œuvre de l’IA au service de la démarche RSE. Ils doivent également garantir que cet impact est mesuré, dans les 7 dimensions de la RSE telles que l’ISO 26000 les recommande.

Enfin, n’oublions pas la génération qui sera bientôt aux manettes : un enseignement bien ciblé dans l’enseignement supérieur et technique sur l’IA responsable en entreprise, est indispensable.

Bibliographie sur le thème « RSE & IA »

Si j’en crois la revue de presse sur Internet faite dernièrement (voir la Bibliographie en fin d’article), la « rencontre » entre IA et RSE n’a pas franchement été analysée en profondeur pour l’instant. Deux exceptions cependant :

Les travaux substantiels d’Impact-AI semblent focalisés sur les questions éthiques mais ne pas couvrir l’ensemble du champ de la RSE.

Voici pour finir quelques références bibliographiques générales.

https://www.pwc.fr/fr/assets/files/pdf/2019/11/fr-france-pwc-how-ai-can-enable-a-sustainable-future.pdf

https://culture-rp.com/marketing-com/lintelligence-artificielle-au-service-de-la-rse/

https://www.lesechos.fr/idees-debats/cercle/opinion-rse-et-intelligence-artificielle-mariage-damour-ou-de-raison-998971

http://www.obsdesrse.com/wp-content/uploads/2018/06/Etude-OBSDESRSE-IA-Comp%C3%A9tition-ou-coop%C3%A9ration-VF3.pdf

https://www.rse-magazine.com/Intelligence-artificielle-beaucoup-d-entreprises-mentent-ou-exagerent_a3135.html

https://www.vie-publique.fr/sites/default/files/rapport/pdf/275573.pdf

https://www.strategie.gouv.fr/sites/strategie.gouv.fr/files/atoms/files/fs-rse-2020-avis-responsabilite-numerique-entreprises-juillet.pdf

https://vigeo-eiris.com/wp-content/uploads/2019/09/20190909_CP_VE_lance-nouveau-crit%C3%A8re-Intelligence-artificielle_.pdf

Annexe :  Critères RSE applicables à l’IA (cf. 2.1)

Transparence et accessibilité : Intelligibilité des algorithmes (et de leur évolution par apprentissage) par les utilisateurs (volontaires ou pas) ; Explicabilité des décisions ou recommandations; Traçabilité; Transparence dans la mise en œuvre d’IA par des tiers (finalités réelles et biais); Existence de biais ; Effets discriminants ou marginalisants ; Ambiguïtés; Gouvernance et maîtrise des données (intégrité, sécurité, pertinence, actualité…);Domaine de validité de l’IA : horizon (des prédictions, des conclusions…) souvent tronqué etc. Autonomie de l’IA par rapport à l’entreprise (possibilité qu’elle s’active et qu’elle « agisse » sans la décision ou le consentement préalable de l’entreprise); Accessibilité de l’entreprise à la mise en œuvre des algorithmes qui lui sont utiles, et contrôle de cette mise en œuvre; Nécessité de disposer de données en quantité statistiquement significative ; biais dans les jeux de données commercialisés

Bienfaisance et malfaisance :  Propension à la bienfaisance ou à la malfaisance de l’algorithme (pour qui ; dans les conditions et la finalité de sa mise en œuvre); Légalité dans la mise en œuvre par des tiers ; par l’entreprise (pas seulement RGPD, mais aussi propriété intellectuelle, respect de l’image etc.); Capacité de l’IA à tenir compte (ou pas) du contexte; Vulnérabilité de l’application

Relation homme-machine :  Déshumanisation possible des relations dans l’entreprise ou avec ses parties prenantes ; ou effet inverse; Respect de la dignité et de l’intégrité des personnes ; Renforcement ou dissolution du lien social; Consentement et autonomie de l’entreprise ; des salariés, des autres parties prenantes; « Man in the loop », et comment?

Impact sur l’organisation de l’entreprise et du travail :  Implication et formation du COMEX, des managers, des salariés, des parties prenantes aux fondamentaux de l’IA- Rôle de l’humain dans les processus impliquant de l’IA ; Répartition des rôles et « responsabilités » avec la machine; L’IA fait apparaître une nouvelle répartition des rôles dans le numérique, et des nouveaux métiers (Chief Data Scientist, Chief Data Architect etc.) ; elle oblige les métiers et fonctions existantes à intégrer la dimension « algorithmique » dans leurs pratiques et compétences; impact de l’IoT (internet des objets connectés) sur l’équilibre homme/machine dans les processus, la sécurité… Maîtrise par l’entreprise, de l’impact sur l’organisation, les processus (de direction, de production et de soutien au sens ISO 9001), les rôles, la nature et la valeur des tâches, la créativité, le travail en équipe, le système d’information de l’entreprise et le knowledge management ; sur les relations de travail, les processus de décision, le pilotage de l’entreprise; Impact de l’introduction (subie ou voulue) de l’IA sur la stratégie d’entreprise ; Maintien de l’alignement sur la raison d’être, la vision, les valeurs, les objectifs RSE

Enjeux RSE et sociétaux :  Impact RSE de l’introduction (subie ou voulue) de l’IA : impact direct et indirect, positif et négatif, dans les domaines environnemental, humain, gouvernance, éthique, sociétal, territorial, supply chain, etc. Transformation des relations sociales et des relations avec les parties prenantes sous l’effet des algorithmes; Implication des parties prenantes dans la conception/le déploiement de l’algorithme; Répartition des responsabilités dans la mise en œuvre de l’IA et ses conséquences (concepteur, éditeur, utilisateur, pourvoyeur de données…)


[1] Donc de jouer un rôle économique et non financier, sans stimuler artificiellement des besoins accessoires ou superflus pour maximiser la production et les profits et les dividendes.

[2] smart production : production « intelligente » (i.e. à l’aide d’outils connectés à Internet) ; smart design : design « intelligent » ; smart manufacturing : fabrication « intelligente ».

[3] Décret n° 2020-356 du 27 mars 2020 portant création d’un test du traitement automatisé de données à caractère personnel, dénommé « DataJust », entré en vigueur en pleine période de pandémie de Covid-19.

________________________________________

[4] La matrice de matérialité met en regard les enjeux RSE de l’entreprise et ceux de telle ou telle partie prenante. S’ils sont corrélés, tout va bien, si un enjeu est important pour l’une et pas pour l’autre, il faut faire quelque chose…

[5] 17 ODD= Objectifs de Développement Durable de l’ONU (déclinés par la France dans sa Feuille de route pour l’ Agenda 2030)

[6] On pourra consulter cette interview dans laquelle je reviens sur ce nouveau type d’entrepreneurs : https://www.ajrconseil.com/interview-du-mois-zoom-sur-l-actu-positive/

[7] Le terme licorne (en anglais : unicorn) est employé pour désigner une startup, principalement de la Silicon Valley, valorisée à plus d’un milliard de dollars.

[8] Habillage avantageux des comptes et du bilan d’une entreprise.

[9] De même que l’on parle de « green washing » lorsqu’une organisation met en avant des actions écologiques tout en maintenant des actions qui vont à l’encontre de la biodiversité, on parle d’ ethical washing lorsqu’il s’agit d’utiliser l’éthique pour mieux vendre alors qu’en réalité ces actions « vertueuses » en masquent d’autres qui le sont beaucoup moins.


[1] Conformément à un cahier des charges bien défini, voir L115-21 à 26 du Code de la consommation

[2] Customer Relationship Management (System)

[3] Approche qui incorpore des recommandations et des règles éthiques, de manière évolutive dans le temps, tout le long du cycle de vie des NTIC, c’est-à-dire jusqu’à sa mise en place, son utilisation évolutive.

[4] IEEE, IETF, Future of Life Institute, Fondation Future Society, Commissions européennes, OCDE, Université de Montréal, d’Oxford, de Toronto, Partnership on AI, Lords Artificial Intelligence Committee, Impact AI, CEPEJ, OPECST, CNIL, ICDPPC, UNESCO, COMEST, CERNA, CIGREF, etc.

[5] Explicabilité d’un algorithme : ses objectifs, sa conception, les modèles et méthodes utilisés, sa complexité, son fonctionnement, ses critères, sa précision, ses incertitudes, les relations entre données d’entrée et données de sortie, son évolution par apprentissage etc.)- Intrusivité  d’un algorithme : accès plus ou moins massif aux informations intimes de l’entreprise ou de la personne.

Soyez le premier à commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *