« Chevaucher le tigre : l’intelligence artificielle, l’entreprise et la RSE » 1. L’entreprise et l’IA

Les différentes approches de la RSE (responsabilité sociétale des entreprises) ne se sont pas, jusqu’à présent, réellement emparées de la question de l’intelligence artificielle (IA) dans l’entreprise. Cette question fait pourtant dorénavant partie des réalités quotidiennes de l’entreprise quelle qu’elle soit, tout comme la transition numérique qui est, elle, désormais totalement intégrée comme un incontournable de l’entreprise. La RSE, en tant qu’approche globale, doit apporter des éléments d’appréciation sur ce qui est positif ou néfaste (eu égard aux pratiques comme aux impacts). Elle a toute sa légitimité à orienter l’appropriation –voulue ou subie– de l’IA par l’entreprise et ses parties prenantes.

L’IA soulève en effet des problèmes inédits, tant du point de vue de sa compréhension, du contrôle des données, de l’éthique que de la dilution de responsabilité ; elle est également porteuse d’opportunités prometteuses et parfois déjà concrétisées. La responsabilité (sociétale) de l’entreprise de fournir des biens et des services répondant à des besoins légitimes (personnes, familles, autres entreprises, territoires…) dans des conditions respectueuses d’un certain nombre de critères tels que définis par l’ISO 26000 par exemple. Mais il est également de son devoir de faire preuve de prudence et de discernement dans l’emploi des moyens qu’elle subit ou de ceux qu’elle choisit. Elle se doit de préserver au mieux, et de façon éthique, son efficacité, sa sécurité ainsi que son autonomie.Dans ce premier article, nous traitons des enjeux de l’IA en entreprise. Dans un second article à venir, nous parlerons des relations entre IA et RSE: comment elles peuvent se soutenir et se guider mutuellement. Et dans un troisième article , nous reviendrons sur l’urgence de rapprocher les communautés IA et RSE, notamment en vue de labels « IA responsable » qui orientent l’investissement du même nom.

Sommaire :

Première partie : L’entreprise et l’IA

1/ Les principaux enjeux de l’IA en entreprise

2/ L’IA au service de l’entreprise et de ses parties prenantes

3/ Comment l’IA transforme l’entreprise et ses relations

S.-Taheri-edited-by-Fir0002_Creative Commons

Deuxième partie : IA et RSE (parue le 4 février 2021):

1/ L’IA au service de la RSE

2/ Prendre en compte les enjeux IA dans les évaluations et démarches RSE

3/ La méthodologie RSE au service de l’appropriation responsable de l’IA par l’entreprise

4/ IA et RSE en temps de crise (COVID-19 par exemple)

Troisième partie (à paraître): Pour des labels « Entreprise IA-responsable »

1/ Rappel sur les labels et les démarches de labellisation

2/ Acteurs de l’IA, acteurs de la RSE: un rapprochement nécessaire et urgent

3/ Pour des labels « Entreprise IA- responsable », vite!

4/ Conclusion des trois articles « Chevaucher le tigre »

5/ Bibliographie « RSE & IA »

PREMIERE PARTIE: L’entreprise et l’IA

Pour la rédaction de cet article, si imparfait soit-il, je suis grandement redevable au think tank Espérance & Algorithmes, fondé par Etienne de Rocquigny algo-entrepreneur engagé, et dont je fais partie depuis 3 années.

1/Les principaux enjeux de l’IA en entreprise – brève définition (algorithmes, méga-données)

1.1 Subir ou agir

Par intelligence artificielle on entend ici les algorithmes et le traitement massif de données par ces algorithmes, en vue d’en extraire des informations utiles à valeur statistique, ainsi que de prédire, optimiser ou réguler des activités ou des événements et aider à la prise de décision. On ne rentrera pas dans le détail des différentes méthodologies algorithmiques ni des techniques d’apprentissage, ni dans les débats sur la fiabilité comparée des algorithmes et des humains, encore moins dans ceux portant sur une hypothétique « Singularité ».

                Les applications d’IA sont spécialisées, elles ne sont pas universelles. Les grandes catégories d’algorithmes sont les suivantes :

–              détection de structures (patterns) dans de grandes masses de données, qui échappent aux méthodes classiques (nuage d’expérience, régression linéaire etc.)

–              aide à la prévision et à la décision par analyse de données de situation et inductions logiques ;

–              décision automatique basée sur l’analyse rapide d’un nombre très élevé de données ;

–              reconnaissance automatique d’images, de formes, de parole ;

–              analyse et génération de texte, de sons, d’images en vue de la communication ; traduction automatique et texte/parole parole/texte;

–              matching dans toutes sortes d’applications possibles

à quoi l’on ajoute en général les systèmes experts (à règles fixes).

Random Forest?

Sans entrer dans le débat (dont les soubassements sont en réalité métaphysiques, et non pas simplement scientifiques) sur l’utilisation du mot « intelligence » à propos d’une machine spécialisée, si complexe et rapide soit-elle, la réalité est là : l’IA telle qu’elle est renforce, de plus en plus puissamment, en bien ou en mal, les capacités humaines de connaissance, de compréhension, de raisonnement, de prévision, de communication, de discernement et de décision. Dans certains cas, elle les remplace déjà, à tort ou à raison. Pas besoin de spéculer sur la « singularité » (spectre de la prise du pouvoir de la machine sur l’homme) pour le constater.

L’entreprise (quelle qu’elle soit) comme le particulier, subit les algorithmes, dans pratiquement tous les domaines. Elle voit des données la concernant exploitées par des tiers sur lesquels elle n’a pas ou peu de contrôle. Cette exploitation peut-être ouvertement agressive et illégale (cybercriminalité), à vocation commerciale (mieux connaître l’entreprise pour mieux lui vendre ; faire commerce de données acquises sur l’entreprise), ou bienveillante (faciliter la vie quotidienne ou stratégique de l’entreprise, en lui communiquant des informations qui lui sont utiles). Il est parfois difficile de démêler les trois. Une caractéristique majeure de l’entrée en scène de l’IA est la vitesse des transformations qu’elle induit, bien supérieure à celle déjà impressionnante du numérique en général. Et l’IA soulève encore plus de questions éthiques (transparence) ou légales que les blockchains, par exemple.

Il s’agit donc de subir le moins possible, et de mettre l’IA et ses opérateurs au service de l’entreprise et du bien que l’entreprise contribue à fournir. Il ne s’agit pas de baisser les bras devant la puissance redoutable et intrusive des GAFAM[1], BATX[2] ou autres : des start-ups françaises acquièrent une dimension internationale et montrent qu’il est possible sinon de les contrer (dans leurs pratiques douteuses) du moins de les faire évoluer en les bousculant un peu. Exemples (qui m’ont été soufflés par un bon connaisseur de l’algo-entrepreneuriat):

ManoMano (achats en ligne bricolage, rénovation et jardinage) fait mieux qu’ Amazon sur ce segment;

Alan est en passe de devenir un géant de l’assurance santé en Europe;

Doctolib connaît un essor exceptionnel (aidé certes par le confinement, mais pas seulement)

Ynsect dans la foodtech, bientôt sans doute Innovafeed

OVH vs AWS encore Amazon…

Plutôt encourageant, non ? C’est à mettre au crédit de l’offre alternative et de qualité apportée par ces entreprises, mais aussi à celui des clients qui dans certains cas n’ont pas choisi la facilité ou le conformisme et ont trouvé du sens à leur choix.

Il s’agit donc d’évaluer lucidement les rapports de force et d’utiliser au mieux le terrain et les moyens accessibles: ce que j’appelle « chevaucher le tigre », plutôt que se laisser dévorer tout cru. La question concerne les PME « non-expertes en IA » avec une acuité particulière, car elles sont sans doute moins bien armées que les grands groupes ou ETI pour s’emparer de ce sujet: voir 2.2.

1.2 Les principaux enjeux

Un des paradoxes de l’IA, non le moindre, c’est que plus un algorithme est puissant et efficace, moins il est explicable (ses objectifs, sa conception, les modèles auxquels il recourt, sa complexité, son fonctionnement, ses critères, sa précision, ses incertitudes, les relations entre données d’entrée et données de sortie, son évolution par apprentissage etc.) et plus il est intrusif (dans l’accès aux informations intimes de l’entreprise -gestion des affaires- ou de la personne- données personnelles-). C’est une caractéristique avec laquelle on est bien obligé de composer, sauf à revenir aux bonnes vieilles régressions linéaires ou moindres carrés. Un autre enjeu épineux est la question de la responsabilité dans la mise en œuvre de l’IA (concepteur, intégrateur, fournisseurs de données, utilisateurs etc.) qui occupe bien juristes et assureurs, y compris à Bruxelles.

Transparence et accessibilité Intelligibilité des algorithmes (et de leur évolution par apprentissage) par les utilisateurs (volontaires ou pas) ; Explicabilité des décisions ou recommandations; Traçabilité; Transparence dans la mise en œuvre d’IA par des tiers (finalités réelles et biais); Existence de biais ; Effets discriminants ou marginalisants ; Ambiguïtés; Gouvernance et maîtrise des données (intégrité, sécurité, pertinence, actualité…);Domaine de validité de l’IA : horizon (des prédictions, des conclusions…) souvent tronqué etc. Autonomie de l’IA par rapport à l’entreprise (possibilité qu’elle s’active et qu’elle « agisse » sans la décision ou le consentement préalable de l’entreprise); Accessibilité de l’entreprise à la mise en œuvre des algorithmes qui lui sont utiles, et contrôle de cette mise en œuvre; Nécessité de disposer de données en quantité statistiquement significative ; biais dans les jeux de données commercialisés
Bienfaisance et malfaisance Propension à la bienfaisance ou à la malfaisance de l’algorithme (pour qui ; dans les conditions et la finalité de sa mise en œuvre); Légalité dans la mise en œuvre par des tiers ; par l’entreprise (pas seulement RGPD, mais aussi propriété intellectuelle, respect de l’image etc.); Capacité de l’IA à tenir compte (ou pas) du contexte; Vulnérabilité de l’application
Relation homme-machine Déshumanisation possible des relations dans l’entreprise ou avec ses parties prenantes ; ou effet inverse; Respect de la dignité et de l’intégrité des personnes ; Renforcement ou dissolution du lien social; Consentement et autonomie de l’entreprise ; des salariés, des autres parties prenantes; « Man in the loop », et comment?
Impact sur l’organisation de l’entreprise et du travail Implication et formation du COMEX, des managers, des salariés, des parties prenantesRôle de l’humain dans les processus impliquant de l’IA ; Répartition des rôles et « responsabilités » avec la machine; L’IA fait apparaître une nouvelle répartition des rôles dans le numérique, et des nouveaux métiers (Chief Data Scientist, Chief Data Architect etc.) ; elle oblige les métiers et fonctions existantes à intégrer la dimension « algorithmique » dans leurs pratiques et compétences; impact de l’IoT (internet des objets connectés) sur l’équilibre homme/machine dans les processus, la sécurité… Maîtrise par l’entreprise, de l’impact sur l’organisation, les processus (de direction, de production et de soutien au sens ISO 9001), les rôles, la nature et la valeur des tâches, la créativité, le travail en équipe, le système d’information de l’entreprise et le knowledge management ; sur les relations de travail, les processus de décision, le pilotage de l’entreprise; Impact de l’introduction (subie ou voulue) de l’IA sur la stratégie d’entreprise ; Maintien de l’alignement sur la raison d’être, la vision, les valeurs, les objectifs RSE
Enjeux RSE et sociétaux Impact RSE de l’introduction (subie ou voulue) de l’IA : impact direct et indirect, positif et négatif, dans les domaines environnemental, humain, gouvernance, éthique, sociétal, territorial, supply chain, etc. Transformation des relations sociales et des relations avec les parties prenantes sous l’effet des algorithmes; Implication des parties prenantes dans la conception/le déploiement de l’algorithme; Répartition des responsabilités dans la mise en œuvre de l’IA et ses conséquences (concepteur, éditeur, utilisateur, pourvoyeur de données…)

On voit à l’énumération de ces enjeux[3], que les questions soulevées par l’IA vont bien au-delà de celles, déjà fort complexes, découlant de la numérisation des entreprises et de la société. On voit également que ces questions s’adressent principalement aux entreprises n’ayant pas d’expertise ni de vocation particulière à l’IA. Mais elles concernent aussi les algo-entreprises [4], aussi bien dans leurs pratiques internes et l’usage pour leur propre compte de l’IA, que dans leur responsabilité quant à l’impact des algorithmes et applications IA qu’elles commercialisent. Par exemple ce qu’on appelle les « Legaltech ».

1.3 Quelques pistes de lecture sur les enjeux éthiques de l’IA

Tous ces sujets (sauf peut-être ceux concernant directement la RSE) ont été abordés par de très nombreux think tanks, institutions, associations etc. et ont en général débouché sur des chartes éthiques (plusieurs centaines à l’heure qu’il est). Le lecteur intéressé pourra par exemple se reporter aux livres suivants : Marie David et Cédric Sauviat, « L’IA nouvelle barbarie » ou Yannick Meneceur « L’IA en procès » notamment l’annexe qu’il consacre à énumérer la litanie des chartes et autres codes de déontologie de l’IA (Asilomar, OpenAI, IEEE, Trustworthy AI de l’Union européenne , AI Principles de l’OCDE et bien d’autres). En France, l’ADELIAA est en pointe sur la question de l’éthique opérationnelle de l’IA, mais l’INRIA et d’autres y travaillent. Sans compter la vaste bibliothèque d’ouvrages à charge ou à décharge sur les perspectives générales ouvertes par l’IA, qu’on trouvera sans peine sur Internet ou dans le Livre Blanc Espérance & Algorithmes . Assez logiquement le Vatican s’intéresse de près à la question de l’éthique des algorithmes : colloque The Good Algorithm, 02.2020  et va jusqu’à s’engager aux côtés de … Microsoft et IBM. Les grands cabinets de conseil (PwC, BCG , EY, Deloitte, Grand Thornton etc.) s’intéresse à la question de l’IA « responsable » mais pas de façon méthodologique opérationnelle, plutôt en restant au niveau général de la gouvernance, me semble-t-il.

Il n’est jusqu’aux notaires qui ne se soient emparés de la question, avec la Charte éthique du numérique du Notariat.

Ajoutons que la puissance publique (nationale, européenne) s’efforce d’encadrer le mieux possible ces évolutions, à travers la Loi République Numérique (sur l’open data), le rapport Villani et ses suites attendues, Datajust pour le test du recours aux algorithmes pour réduire l’aléa judiciaire (et les biais…) sans effets collatéraux négatifs etc. L’envahissement de la sphère juridique (toutes professions et fonctions confondues) : droit pénal, administratif, commercial, des affaires etc. impactera nécessairement, en bien ou en mal, la vie de l’entreprise. Si les algorithmes permettent une justice « plus juste », plus rapide, plus accessible, plus fiable etc. tant mieux.

2/L’IA au service de l’entreprise et de ses parties prenantes

Au-delà de cette vision très générale et qui peut paraître pessimiste[5] , il s’agit de voir :

  • les aspects positifs de l’IA pour l’entreprise ;
  • les moyens pour l’entreprise de se servir de l’IA, plutôt que de subir ou servir autre chose que le bien commun à travers les intérêts souvent opaques des entreprises dominantes de l’IA.

2.1 L’IA au service de l’entreprise et de ses parties prenantes

Nombreux sont les domaines dans lesquels les algorithmes et le traitement de méga-données simplifient et optimisent le travail de l’entreprise et des salariés. On peut citer, à titre d’exemple :

– agriculture et la viticulture (optimisation de l’exploitation et des soins selon la météo et d’autres     paramètres historisés) : https://www.thegreendata.com/

– tri des fruits ou légumes : https://www.calibrex.fr/

– décarbonation des bâtiments par l’IA :  https://www.accenta.ai/accueil

– traitement de mégadonnées pour optimiser l’impact environnemental (maîtrise des risques physiques, efficacité énergétique des processus industriels et des bâtiments par exemple) : https://www.axionable.com/ (certifiée B Corp)

–  prévention du gaspillage alimentaire et solidarité contre la précarité : https://www.verteego.com/

–  dépistage et prévention du cancer du sein : https://www.predilife.com/

– lien social avec les plus démunis :  https://www.entourage.social/

– évidemment la gestion d’actifs financiers ou d’actifs tout court, y compris les capitaux immatériels de l’entreprise

– etc. (voir davantage d’exemples pages 47 et suivantes du Livre Blanc Espérance & Algorithmes)

demain.ai propose une série de podcast sur des cas variés d’application de l’IA en entreprise: https://www.demain.ai/nos_publications/le-podcast-lintelligence-artificielle-pour-le-business/

2.2 S’approprier l’IA sans la subir (cas des PME)

NB : ce paragraphe est redevable à mes entretiens en 2020 avec Gaëtan Fron, co-fondateur de demain.ai    ainsi qu’avec le Professeur Jean-François Bonastre, directeur du LIA (Laboratoire informatique d’Avignon, CERI, Université d’Avignon), notamment sur la question « IA en PME ».

La question qui se pose est de ne pas laisser partir le train de l’IA sans avoir réfléchi à l’intérêt d’y monter, pour éviter d’être marginalisé ou de subir l’IA au lieu de l’utiliser. A condition qu’il y ait une réelle utilité à recourir à l’IA, ce qui n’est pas toujours vrai.

2.2.1 Les entreprises et l’IA

Les enquêtes récentes[6] montrent que l’appropriation (défensive ou offensive) de l’IA par les entreprises françaises, notamment ETI et TPME, reste faible.

D’après Keyrus, 27% seulement des entreprises interrogées dans le Vaucluse envisagent de recourir à l’IA. 13% l’utilisent déjà peu ou prou, dans un but de productivité et/ou d’efficacité (d’après Keyrus 74% des entreprises mondiales l’utilisent déjà). Autrement dit 60% ne l’envisagent pas. Les principales réticences ou obstacles à un engagement sont :

•             la difficulté de compréhension de ce qu’est l’IA et corrélativement à imaginer une roadmap IA

•             le coût supposé de déploiement d’une roadmap IA

•             les obstacles organisationnels et culturels supposés

•             le manque de compétences en interne

•             la question des données pour nourrir les algorithmes (apprentissage puis utilisation)

•             la méfiance vis-à-vis des biais et de l’opacité, le sentiment que l’application «échappe» à son utilisateur

•             la crainte de l’intrusivité et de la malveillance

•             si on ne comprend pas, on ne peut pas évaluer les risques.

L’ enquête menée par Impact-AI complète utilement cette étude Keyrus.

Noter que dès 2017, un collectif dirigé par Etienne de Rocquigny a consacré un livre blanc à l’IA en PME: Livre Blanc « Modèles, data et algorithmes, les nouvelles frontières du numérique », sous la direction d’Etienne de Rocquigny (collectif AREMUS, BPI France, AMIES, GENCI)_03.2017.

2.2.2 Un peu de méthodologie

Examinons le cas d’une entreprise « non-spécialiste de l’IA », ne disposant pas en son sein d’experts (data scientist, data architect, chief data officer…) Il lui faut aussi utiliser des outils prêts à l’emploi : services SaaS et/ou API Cloud à greffer sur son système d’information. Comment, et pourquoi, pivoter pour intégrer l’IA, en défensif et en offensif, subi et voulue ? de même que l’entreprise pivote sur la RSE, la transition écologique, la transition numérique, la robotisation, la dématérialisation, la transition sociétale…

En général, l’intérêt potentiel est bien perçu : attirer des talents, accéder aux bases de données, améliorer l’agilité, améliorer la productivité et l’efficacité par la « smart production » ou plus globalement les « smart process » etc.

Elle devra, pour s’approprier l’IA qui peut lui être utile, et pour identifier ses vulnérabilités envers les algorithmes encapsulés dans les software qu’elle installe, ou avec lesquels elle est en permanence en interface, surmonter plusieurs obstacles, notamment :

  • s’associer les compétences nécessaires, sans forcément les internaliser (ça va de l’association temporaire ou durable avec une algo-entreprise, à l’assistance technique ou au recrutement, en passant par les laboratoires d’information appliquée ou d’IA, tels le LIA d’Avignon) ;
  • identifier ce qui lui est réellement utile ;
  • établir la roadmap (ainsi que coût et délais, risques) de conception, intégration et déploiement des applications utiles ;
  • gérer la conduite du changement, à commencer par l’appropriation/acceptation des parties prenantes notamment les salariés en place ; faire monter les salariés en compétence sur l’IA ou du moins son utilisation ;
  • maîtriser l’impact de l’IA sur l’organisation du travail et la nature de celui-ci, ainsi que sur les processus;
  • piloter le déploiement, corriger le tir, etc.

Des entreprises comme demain.ai sont spécialisées dans ce type d’opération de transition, qui relève à la fois d’une expertise technique pointue, de la conduite de projet et de la conduite du changement.

Dans certains cas l’intérêt des technologies de l’IA est évident dans le principe. Par exemple: le prédictif approvisionnement/rechanges/consommables ou bien ventes, la vision machine (contrôle qualité), la maintenance prédictive, l’assistance à la gestion de la relation clients, la gestion de flottes, l’optimisation de la logistique (notamment transports et expéditions), la planification, l’efficacité des processus (production, R&D, management de projets, qualité etc.) IoT (internet des objets connectés, en production et facility management notamment), gestion documentaire et knowledge management, prospective, résolution de problèmes, allègement des tâches administratives et répétitives, diagnostics réglementaires (ISO etc.), soutien aux métiers du juridique etc. Jusqu’aux experts-comptables qui voient leurs pratiques (déjà largement transformées par le numérique), progressivement envahies par l’IA. Dans d’autres cas c’est moins évident, quand il s’agit de mettre de l’IA dans un CRM, dans les opérations de recrutements, dans le processus de production… Et la technique n’est pas la solution à tout.

On pourrait également citer l’utilité du recours (raisonné) à l’IA dans les études de sécurité ou d’empreinte environnementale.

La question de l’impact rapide de l’IA sur l’organisation et la nature même du travail est un sujet en soi, qu’il n’est pas possible de traiter ici.

Dans le contexte post-COVID, un gain de productivité par l’automatisation sera absolument nécessaire, avec un équilibre difficile avec l’emploi et les conditions de travail. Ou encore pour compenser en partie les contraintes du télétravail, dans certains cas.  

Le déploiement d’une solution IA, comme toute solution numérique, suppose de gérer la sécurité des données (intégrité, disponibilité, actualité, confidentialité, RGPD et aspects juridiques) ; de faire monter en compétence les métiers et IT sur les sujets IA. S’entourer des prestataires adaptés. Toutes les entreprises disposent de données de par leur activité : ventes, production, finance, RH… Encore faut-il qu’elles soient à jour, intègres et accessibles. Les données peuvent souvent être complétées par acquisition (données synthétiques).

La question de l’entraînement des algorithmes apprenants et la surveillance des biais doit être traitée.

Pour maîtriser ou au moins connaître l’intrusivité des GAFAM ou des éditeurs, on peut imaginer de faire procéder à un audit de risques et de points de vulnérabilité.

On l’a déjà dit, mais il est utile de le rappeler : une caractéristique majeure de l’entrée en scène de l’IA est la vitesse des transformations qu’elle induit, bien supérieure à celle déjà impressionnante du numérique en général. Autrement dit, elle est encore plus « disruptive ».

Comme on l’a vu, il est nécessaire d’établir une roadmap (technique, coût, délais, aléas, risques, organisation, validation…) et réaliser un POC pour la valider. (cf. L’intelligence artificielle pour le business de demain.ai, p.124 et sq). Mentionnons pour faire bonne mesure AI for Better fondée par Frédéric Oru, qui propose le même genre de services.

Citons parmi d’autres deux ouvrages assez pragmatiques, qui peuvent être utiles :

–              Gaetan Fron- Olivier Mégean : L’intelligence artificielle pour le business – 2019

–              Emmanuelle Blons : L’entreprise disruptée, les défis de l’IA pour les ressources humaines, Dunod, 2019

ainsi que la méthodologie du Livre Blanc de l’ADEL.

David et Sauviat, dans « L’IA nouvelle barbarie« , consacrent un chapitre plus macroscopique et qualitatif aux enjeux de l’IA en entreprise.

Raphaël, l’Ecole d’Athènes_ Platon (à gauche) et Aristote (à droite)

3/ Comment l’IA transforme l’entreprise, les métiers, les organisations, les processus, les décisions

Revenons sur l’enjeu déjà signalé au début de cet article : l’impact de l’introduction des algorithmes et du traitement massif de données, sur l’organisation et la structure de l’entreprise, sur les métiers et sur la nature même du travail. Cet impact est d’une autre nature que celui des innovations techniques « habituelles », parce que l’IA n’agit pas seulement sur « faire » mais aussi sur « comprendre et décider » autrement dit « agir ». De plus sa vitesse de transformation de l’entreprise, de l’économie et de la société est extrêmement rapide. On savait déjà que PowerPoint[7], ou les suites CAO 3D, ou encore les workflows dans les ERP influençaient (pas forcément en bien) la façon de raisonner et de décider. Avec les algorithmes, la machine prend une autorité bien plus grande, puisqu’elle est réputée mieux réfléchir et analyser que l’être humain : pas d’émotions, pas de préjugés, pas de fatigue, pas d’étourderies ou trous de mémoire, pas d’imagination, pas de recours à l’intuition… bref elle n’a que les défauts et biais que son concepteur y a introduits, volontairement ou pas, et ceux qu’elle a élaborés en apprentissage plus ou moins profond.

La question de l’impact accéléré de l’IA sur l’organisation, la nature et même le sens du travail, est un sujet en soi qu’on ne peut pas traiter ici (quand bien même nous en serions capables).

Il est probable que le recours accru aux algorithmes dans l’entreprise favorisera certains types de management (holacracy, management agile etc.) plutôt que d’autres.

Il est facile de montrer qu’il n’y a pas un seul domaine de l’activité d’entreprise où le recours à l’IA ne puisse se justifier au moins en principe, des RH à la maintenance en passant par la communication et la stratégie ou l’ingénierie et… la RSE. Sans compter le juridique et le système d’information. Cela va jusqu’à une transformation du modèle économique de l’entreprise qui devient « data driven ». A chaque fois, se pose la question de l’autorité respective de l’humain et de la machine, dans le processus d’appréhension du réel, d’analyse, de jugement, de délibération, de discernement, et de préparation de la décision. C’est comme si on ajoutait un humain infatigable et toujours disponible, ultra-rapide dans son activité… et supposé infaillible, en tout cas moins faillible que l’être humain.

Le crible général pour l’introduction (quand on a le choix de ne pas subir) de l’IA est donc :

  • est-ce utile (débat pas vraiment clos pour les véhicules autonomes…)
  • est-ce efficace
  • est-ce éthique (selon quels critères…)
  • est-ce rentable
  • est-ce sûr (données, personnes, intégrité de l’entreprise et de ses capitaux matériels et immatériels)
  • quel est l’impact sur l’organisation et la nature, et même le sens du travail.

[1] GAFAM : Google- Amazon – Facebook- Apple – Microsoft auxquels on ajoute parfois IBM.

[2] BATX : Baidu- Alibaba- Tecent- Xiaomi, pendant chinois des GAFAM américains.

[3] Pour une analyse plus approfondie des enjeux éthiques de l’IA en entreprise, on pourra se reporter au Livre Blanc Espérance & Algorithmes dont je suis un des contributeurs.

[4] Algo-entreprise, algo-entrepreneur : terme emprunté au think-tank Espérance & Algorithmes.

[5] L’intrusivité, le manque de transparence et d’explicabilité des algorithmes que nous subissons quotidiennement dans notre vie privée et professionnelle – difficiles à démêler en période de confinement pour ceux qui sont soumis à/bénéficient du télétravail…- n’incitent pas à l’optimisme ; en revanche les services incontestables rendus, sur smartphone, dans les recherches d’information, de localisation etc. ou autrement, par les algorithmes, incitent à contempler autre chose que la face obscure de l’IA et des GAFAM.

[6] Par exemple :

o             Keyrus 2018 : https://www.keyrus.com/fr/post/?post_pk=5574  

o             IDC France 2018 : https://www.blog-idcfrance.com/infographie-lia-en-france-tendances-et-chiffres-cles/   

o             Figure Eight 2018 : https://visit.figure-eight.com/WC-2019-StateofAIReport_RegLP2018GTM.html?source=Web&medium=FEResourceCenter  

o             Collectif Impact-AI :   https://www.impact-ai.fr/wp-content/uploads/2019/10/Livre-blanc-Impact-AI-1-1.pdf

[7] Voir par exemple How PowerPoint Makes You Stupid de Frank Frommer

Soyez le premier à commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *