à propos du livre « L’IA nouvelle barbarie »

 Je reproduis ici un article dernièrement mis en ligne sur le site de l’AFCIA (Association Française Contre l’Intelligence Artificielle) à propos du livre tout à fait intéressant et bien documenté de Marie David et Cédric Sauviat : L’intelligence artificielle, nouvelle barbarie, Editions du Rocher, 2019.

Le contexte étant différent j’ai apporté quelques retouches de forme. Le fait que j’aie publié sur le site de l’AFCIA ne signifie pas pour autant que j’adhère à un rejet pur et simple de l’IA (qui de toute façon est impossible car « you can’t push the genious back into the bottle » comme on l’a dit en son temps du nucléaire (militaire en particulier). Je n’adhère pas non plus à un optimisme béat qui resterait aveugle à l’usage déjà courant de l’IA au service de la volonté de puissance, de la cupidité et de la mainmise marchandisée sur la vie privée des gens. Entre les deux, il y a place pour le discernement et l’action positive, ainsi qu’une certaine régulation, comme nous en sommes convaincus à Espérance & Algorithmes.

Certaines dérives et dangers actuels des oligopoles leaders de l’IA, qu’ils soient privés (GAFAM) ou directement sous tutelle étatique (BATX en Chine ou DARPA aux USA)[1]. L’IA, développée de façon opaque, peut sans doute plus efficacement que beaucoup d’autres technologies, devenir un moyen injuste de domination et d’enrichissement ainsi que l’instrument privilégié des totalitarismes y compris ceux peints aux couleurs de démocraties. De même les robots tueurs autonomes ou certaines applications médicales apparaissent clairement inadmissibles. Cependant plus des entrepreneurs de bonne volonté s’approprieront les algorithmes et les mégadonnées à des fins servant le bien commun, plus les dérives néfastes dominantes seront contrées. La régulation des puissances économiques relève d’organismes politiques ou économiques mondiaux. Elle ne dispense pas de l’action positive des entrepreneurs et des fonds d’investissement. On retrouve ici le vieux principe selon lequel l’inaction des hommes de bonne volonté fait la force de ceux qui ne servent pas le bien commun, dont la forme New Age est « Sois au monde ce que tu voudrais qu’il soit pour toi » et la forme chrétienne « Qu’est-ce qui ne tourne pas rond dans le monde ? – Moi et vous, cher Monsieur » (Mère Teresa).

La page 62 résume bien le livre

 (sans compter ses nombreux aspects didactiques, qui mêlent réflexions personnelles ou à deux voix, et bibliographie approfondie) :

 « En fait, et c’est la thèse de ce livre, les problèmes que pose l’intelligence artificielle ne sont absolument pas liés, comme le fait croire la Silicon Valley, à l’émergence d’une intelligence artificielle forte. L’invasion de notre quotidien par des algorithmes qui s’insinuent dans de multiples domaines, l’anthropomorphisation de la technique, et le changement de rapports [humains] qui s’ensuit posent des questions fondamentales. Une grande partie de notre capacité à vivre des expériences humaines s’érode déjà dangereusement. Les problèmes théoriques dénoncés par un Elon Musk [ou un Stephen Hawking ou un Bill Gates] masquent la domination des produits de la Silicon Valley ainsi que leurs effets pernicieux dans nos vies. »

HAL, dans 2001 l’Odyssée de l’Espace, de Stanley Kubrick

Les [ ] sont de moi.

A quoi j’ajouterai tout de même l’utilisation délibérément malfaisante de l’IA (cyberattaques, SALA= systèmes d’armes létaux autonomes…)

Le passage p.98 sur le double pouvoir des GAFAM et des BATX m’a paru très éclairant: Amazon/AWS, Google Cloud et Azure fournisseurs privilégiés (oligopolistiques) d’infrastructures d’IA et de machine learning et pas seulement utilisateurs massifs d’algorithmes dont ils détiennent les clés.

Un point important également, bien mis en évidence par David et Sauviat :  le « back office » des entreprises est probablement plus vulnérable à l’IA (Robotic Process Information et AI) que le « front office ».

Des passages très intéressants sur la difficulté à contester le « jugement » de la machine si son « raisonnement » n’est pas explicable, du fait qu’elle est réputée plus fiable, car pouvant brasser davantage d’informations, sans rien oublier, sans émotion, sans préjugés (à part ceux qu’on y a introduits), sans biais (à part ceux qu’on y a introduits), sans se tromper.

A propos des SALA :


Au début du XXème siècle, l’Amirauté britannique a refusé de concevoir et de construire des sous-marins (malgré les inventions de Bushnell, Fulton… dans le monde anglo-saxon) au motif que c’était une arme de voyous et non de gentlemen… Ce n’était pas faux à l’époque et même pendant WWII, mais les Britanniques ont fini par s’y mettre, faisant de nécessité stratégique, vertu militaire. On verra s’il en est de même pour les SALA et pas seulement en Grande-Bretagne.

Haine du corps, haine du temps, haine de l’incarnation, haine du risque

Ces passages m’ont paru bien vu et font effectivement écho à une tendance ancestrale de l’esprit humain : penser que l’âme seule est bonne, engluée dans la matière qui elle est mauvaise. Le rêve de transférer l’esprit sur un support matériel pour acquérir l’immortalité, relève de cette aberration.


 La technique a-t-elle une pente ou est-elle neutre ?

Ingénieur moi-même, je ne suis pas franchement convaincu par le fait que la « neutralité de la technique » soit juste un mantra d’ingénieur (p.142 par exemple). N’en déplaise à Ellul, Heidegger, Anders et quelques autres, je pense qu’un ingénieur normalement constitué est parfaitement conscient de la finalité de ce qu’il conçoit/réalise/exploite, que ce soit en médecine nucléaire ou en armement nucléaire, en utilisation de la chimie ou de la biologie à des fins thérapeutiques ou de destruction massive de vies humaines etc. Il me semble que ce qu’il y a derrière ce débat c’est la question de la morale des actes humains: nature de l’acte, advertance (conscience ou pas de ce qu’on fait, délibérément et avec obstination ou pas), finalité et circonstances. Il est d’ailleurs intéressant de voir comme la casuistique si critiquée (à juste titre du fait de ses excès, à tort du fait de sa logique) revient en force dans l’éthique de l’IA…

Page 159 « Le progrès technique procède par améliorations incrémentales plutôt que par ruptures » : discutable à mon avis. Le nucléaire, la miniaturisation de l’électronique, les découvertes médicales etc. sont plutôt des ruptures ? Demain l’ordinateur quantique, l’anti-gravitation quand on y arrivera… L’impression 3D me paraît être une rupture, de même que le sera (ou l’est déjà ?) l’usine délocalisée et déserte du futur à cause du numérique.

Subjectivités croisées

« Dans la relation humaine il y a engagement réciproque de subjectivités. » (tout le chapitre 10 « Imitation Games ») : bien vu. Le terme « pensée artificielle » couvrirait d’ailleurs mieux le sujet que celui d’« intelligence artificielle ». Mais c’est un autre livre, qui traiterait d’intuition, de réflexivité, de relation au réel, capacité d’abstraction, des autres puissances de l’âme, du rêve, de la fabrication mentale des images pour nourrir la raison, des universaux et du nominalisme (vieux débat) …

Quid du langage et de la délibération entre personnes pour préparer une décision ?

 IA, humanisme et christianisme

On s’attendrait à ce qu’après avoir précisé ce qu’on entend par « humanisme » (au-delà de la définition très large p.278), on nous propose une grille d’appréciation de ce que devrait être une IA éthique selon cette vision humaniste (qui n’est visiblement ni celle d’Asilomar[2] ni celle du christianisme). J’ai lu récemment (je ne sais plus où !) que l’humanisme c’est « En avant, pour la plus grande gloire de l’homme » et le christianisme c’est « En haut, pour la plus grande gloire de Dieu ». Quant à Asilomar et aux autres « chartes éthiques de l’IA » des GAFAM, je laisse le soin aux experts de les qualifier. « Tous connectés et supervisés, pour la plus grande gloire de qui ? »

Interpellé par le passage sur la vision de l’IA et des mégadonnées par l’Eglise catholique (pp.283 et suivantes), j’ai fourni aux auteurs quelques commentaires et éléments d’information complémentaires, que je développe ici.

Saint Thomas d’Aquin

Le catholicisme romain est la seule religion convoquée dans le livre, comme témoin à la barre du procès de l’IA (sauf très rapidement le shintoïsme à propos des tamaguchi).

Rome a en effet pris l’habitude depuis le XVIIIème siècle de prendre position sur les aspects religieux et moraux des problèmes du temps, mêmes temporels et profanes.

Dès 1745 Benoît XIV résume, dans l’encyclique sur les contrats et l’usure Vix pervenit, la doctrine thomiste qui privilégie l’association en société (affectio societatis) au prêt d’argent impersonnel et de surcroît usuraire. C’est le coup d’envoi de la doctrine sociale de l’Eglise, qui est plus facile à manier par le commun des mortels que la doctrine thomiste, même si cette dernière a traité du sujet (et n’a sans doute pas dit son dernier mot, y compris sur la pensée humaine et la pensée artificielle). Tout le monde connaît ensuite :

Rerum Novarum de Léon XIII sur la condition ouvrière et les garde-fous à mettre au capitalisme (le socialisme était récusé sans appel. Léon XIII est le seul avec Marx à avoir apporté une pensée structurée sur la question ouvrière, n’en déplaise aux disciples de Proudhon et Sorel) ;

Quadragesimo Anno de Pie XI en 1931 sur le capitalisme financier et la crise de 1929;

Mater & Magistra de Jean XXIII, Octogesimo Anno de Paul VI sur la mondialisation (déjà) ;

Centesimo Anno/Laborem Exercens/ Sollicitudo Rei Socialis de Jean-Paul II qui revient sur le capitalisme et ses excès possibles après la chute du socialisme ;

Caritas in Veritate de Benoît XVI, qui aborde les dérives financières du capitalisme (crise de 2008) et commence un peu à s’occuper d’environnement et de développement durable;

Evangelii Gaudium et surtout Laudato Si de François sur l’écologie…

Bref, selon l’heureuse formule de Benoît XVI, « La doctrine sociale de l’Église éclaire d’une lumière qui ne change pas les problèmes toujours nouveaux qui surgissent » (Caritas in Veritate, n° 12).

Il est donc normal d’attendre de Rome quelque chose qui se tienne sur l’IA, ou même plus largement sur la numérisation de la société et même la numérisation de l’économie (le texte romain le plus récent étant Oeconomicae et Pecuniae Questiones de 2018.

Je crains toutefois qu’il ne soit audacieux d’écrire, comme le fait le livre, que Laudato Si condamne sans appel l’IA « en tant que projet et en tant que système ». François condamne à l’emporte-pièce et sans nuance les dérives financières et hyperlibérales, mais pas le capitalisme en tant que tel. Cela s’applique à mon avis de la même façon à l’usage malveillant de l’IA ou simplement à des fins d’accumulation frénétique de capital (ce qu’Aristote appelait la chrématistique pour la distinguer de l’économie, qui, elle, est au service de l’homme).

Cependant, contrairement à ce qui est écrit, l’Eglise catholique n’est pas muette à ce stade sur la question de l’IA, et, pour avoir étudié d’assez près la littérature ouverte sur l’éthique de l’IA (y compris le rapport Villani, celui bien meilleur de la CNIL et pas mal d’autres), je pense qu’elle n’a pas à rougir des quelques pages qu’elle a pu commettre sur le sujet.

Voici plusieurs exemples illustrant une véritable préoccupation et réflexion de l’Eglise concernant les enjeux de  l’IA:

En décembre 2016, s’est tenue au Vatican une conférence intitulée dans un latin irréprochable “ Power and Limits of Artificial Intelligence”.

L’académie Centesimus Annus a diffusé en 2018 les actes d’un colloque “Catholic Social Teaching in action: Facing the Challenges of Digital Age

L’Académie Pontificale pour la Vie a tenu un séminaire en février 2019 sur la robo-éthique dont on attend d’ailleurs la publication des actes.

Le Père Salobir, dominicain, président fondateur d’OPTIC – Ordre des Prêcheurs pour les Technologies, l’Information et la Communication– créé en 2012 – a lancé de nombreuses initiatives sur le numérique et l’IA.

La COMECE (Commission des Episcopats de la Communauté Européenne) a diffusé un texte en janvier 2019 sur “La robotisation de la vie”.

L’Eglise Catholique de Paris a publié en 2018 deux fiches dans le contexte des débats bioéthiques nationaux, l’une sur l’intelligence artificielle et l’autre document sur les mégadonnées

Les auteurs le soulignent avec raison, même si l’Eglise catholique a jusqu’à présent l’habitude de tourner sept fois sa plume dans l’encrier avant de s’exprimer sur les questions sociales ou économiques de l’époque, il devient maintenant urgent qu’elle fasse entendre sa voix sur le « numérique » et sur l’IA dans la mesure où cette dernière a directement à voir avec l’anthropologie (catholique en l’occurrence) et avec la sociologie. Sur un enjeu tel que l’utilisation massive des algorithmes dans la vie sociale et économique, il y a effectivement matière à une encyclique ou quelque chose d’approchant. Il en va de la place et de la valeur de l’être humain dans la Création, capax Dei comme le résume saint Augustin, donc par nature radicalement différent des machines aussi extraordinaire que soient les simulations (y compris de sentiments ou d’émotions) qu’elles réalise(ro)nt.

Source:Wikipedia


[1] Une nouveauté majeure concernant l’IA est que la capacité d’innovation, en effectifs et en $, est probablement définitivement du côté des entreprises privées et non du côté des Etats sauf en Chine. Ce qui change considérablement la donne par rapport aux ruptures technologiques (notamment militaires) du passé.

[2] https://futureoflife.org/ai-principles/

Soyez le premier à commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *