À l’occasion de la journée de l’écoconception numérique, j’ai pris le temps d’approfondir le sujet de l’impact psychosocial de l’intelligence artificielle sur nos métiers du numérique. Je vous propose donc une version enrichie de ce que j’ai pu raconter lors de cette présentation.

Vous pouvez retrouver le support de la présentation. La première partie (1 à 11) est d’Anne Faubry et la deuxième (12 à 17) est d’Anaëlle Beignon, dont le travail est disponible sur limites numériques. Pascal Courtois et Stéphanie Vachon ont travaillé sur la conclusion.

Déjà, je n’étais pas super chaud pour aborder le sujet de l’IA. Je pense sincèrement qu’on peut très bien se passer de cette technologie de par son coût écologique, comme l’a évoqué Anne dans le début de la présentation. J’assimilerai bien l’IA à la vague des cryptomonnaies, avec sa mode puis son effondrement, à l’instar d’autres technologies zombie qu’on voit revenir régulièrement comme la réalité virtuelle. Mais il me faut bien reconnaitre que la bulle a tendance à durer déjà trop longtemps.

Donc j’ai commencé à chercher des études dans le champ de l’ergonomie qui portent sur le sujet de l’intégration des intelligences artificielles dans des métiers. Pour tout dire, ça ne court pas les rues. Il y a quand même quelques personnes qui travaillent sur le sujet, notamment Tamari Gamkrelidze qui a fait une étude portant sur la place de l’IA dans un service de radiologie.

Dans ce service de radiologie, l’IA est utilisé pour détecter des fractures sur les clichés radio et pour la reconnaissance vocale afin de retranscrire les comptes-rendus oraux des médecins. Donc les secrétaires médicales ne retranscrivent plus les comptes-rendus, c’est automatisé, mais c’est donc au médecin de vérifier l’exactitude de la retranscription.

Si je résume très vite, pour la reconnaissance vocale, en positif on note le gain de temps dans la production et en négatif, un appauvrissement du rôle de la secrétaire qui ne relie plus les comptes rendus et pouvait éviter des erreurs aux radiologues. Pour l’usage de la détection de fractures, le gain de temps est mitigé. La détection joue un rôle de vérification et permet de guider les internes en radiologie. Dans les conséquences négatives, il y a plusieurs risques. Le premier est lié à l’apprentissage qui peut être ralenti en s’appuyant trop sur la détection automatique. Paradoxalement, il y a un risque de perte de temps et enfin un risque de surconfiance. Pour contrecarrer ces deux risques, il faut que le médecin garde le contrôle dans la discussion avec le patient et l’établissement du diagnostic.

Dans cet exemple, il est intéressant de voir que l’intelligence artificielle remplace une tâche fastidieuse, la transcription, mais qu’elle pose des limites. Il faut un humain et son expertise pour vérifier le résultat de l’IA, avec le risque de trop s’appuyer dessus notamment pour les utilisateurs novices.

Un parallèle peut être fait entre l’arrivée de l’IA et l’arrivée de la robotisation dans les années 70 ou 80. Les robots industriels, ça marche bien pour les tâches répétitives dans un environnement dangereux. Mais les tâches demandant de l’adaptabilité ne sont pas robotisées. Il y a toujours des petites mains pour monter les iPhones en Chine ou des femmes de ménage.

Le consentement

J’ai un peu trainé dans des conférences Agiles ces derniers temps. Ça parlait donc souvent d’organisation du travail et d’intelligence artificielle, avec des projections sur un futur fantasmé pour les métiers du numérique. Ce futur « désirable » ressemblait à ça : Un backlog trié par IA, avec une attribution automatique et une évaluation de la complexité. Il n’est pas très compliqué d’imaginer l’étape suivante qui sera le contrôle du travail dès que le salarié sortira de la prédiction.

Un exemple concret envisagé est l’usage de l’IA Albert (une IA développée par l’état) pour piloter la phase de mobilité des enseignants et « éviter les contentieux ». Je vous laisse imaginer les conséquences de l’usage d’un algorithme dans ces conditions et la réponse qui sera apporté à ceux qui ne sont pas contents de leur affectation.

Donc, je vous pose la question, vous consentez à ce que votre travail soit organisé avec votre équipe ou par une intelligence artificielle ?

La productivité

C’est le grand argument qui va avec l’IA, la productivité ! Vous allez gagner du temps, encore et encore.

Alors quand j’ai commencé à travailler comme ergonome IHM à l’époque un mentor m’a dit « Si tu conçois un logiciel qui permet de faire le travail deux fois plus vite, combien restera-t-il d’utilisateur 6 mois plus tard ? » Probablement deux fois moins, même si on peut trouver l’excuse qu’ils vont avoir des choses plus intéressantes à faire. Oui, mais quoi ? Un traducteur va faire quoi de plus intéressant que de traduire ? Certes, une solution serait de passer le temps de travail à 17h30 par semaine pour tout le monde. Plus globalement, pourquoi chercher toujours plus de productivité dans un monde où il faudrait viser la décroissance ?

Toujours dans le concret, les impôts avec l’aide de l’IGN ont mis en place un système de détection des piscines, pour vérifier les déclarations des particuliers. Conséquence, les fonctionnaires passent plus de temps sédentaire et au final c’est l’équivalent de 300 temps pleins qui vont être supprimés ou “déplacé”. L’objectif est de limiter la fraude, mais est ce qu’on gagne en qualité de vie au travail pour les fonctionnaires et en qualité de service pour les citoyens ?

Du côté du design, je constate qu’il faut toujours un temps de maturation avant d’arriver à une solution élégante. La première solution est souvent médiocre, c’est-à-dire qu’elle va satisfaire le client, mais elle ne sera probablement pas pérenne et créera à terme une dette design ou technique.

Donc vous préférez :

• Passer du temps à écrire du code propre, de qualité, documenté et maintenable ?
• Ou corrigé du code de piètre qualité produit par une IA et dont vous n’avez aucune idée de la manière dont il fonctionne ?

L’expertise

On l’a vue dans le cas de la radiologie, un des risques c’est l’expertise et comment l’acquérir et la maintenir.

Qu’est qui fait la différence entre un novice et un expert ? C’est les métaconnaissances, c’est-à-dire les connaissances sur les connaissances. Bien sûr si vous prenez une IA, elle n’a aucune connaissance et encore moins des métaconnaissances. Elle a juste absorbé des données pour en faire une immense matrice de valeurs.

Donc l’expertise, dans la vraie vie, ça s’acquiert par différents moyens :

• Par l’apprentissage. Pour dessiner un personnage, on apprend les proportions, et l’anatomie. C’est justement ce qu’une IA générative ne connaît pas et qui donne des personnes bizarres.
• L’expérience, c’est de l’imitation quand on est bébé, des essais, des erreurs et des réussites professionnelles.
• La collaboration avec ses collègues, ses pairs : Regarder et comprendre comment les autres font, échanger, critiquer et être critiqué. Pour résoudre un problème, vous préférez demander à collègue ou à une intelligence artificielle ?
• Et dernier point, la transmission de ces connaissances qui oblige à les rendre explicites et structurées.

Si ces différents moyens sont remplacés par une IA qui va donner directement une solution, le processus cognitif de créations des connaissances et des métaconnaissances va être perturbé. La conséquence, c’est qu’il va être plus difficile de devenir expert et donc d’être en capacité de trouver des solutions innovantes pour répondre à des situations nouvelles ou complexes.

Donc vous préférez :

• Partager vos connaissances entre humains ?
• Ou éduquer des intelligences artificielles ?

La médiocrité by design

Un dernier point important. Je lis souvent des commentaires sur la créativité des IA évoquant quelques images spectaculaires issues d’une IA générative d’images à partir d’un texte. Mais revenons aux fondamentaux, par conception l’IA n’a pas d’imagination, c’est même le contraire.

Petit rappel, l’ « I.A. », c’est comme dans C.I.A. l’agence centrale du renseignement et non de l’intelligence. En français c’est les renseignements généraux, les flics, et non l’intelligence générale. Donc l’IA est basé sur un corpus d’informations. Elle n’est pas capable de produire un résultat en dehors de ce corpus.

Mais donc ça a un impact très concret, si je vous demande d’imaginer une licorne ou un éléphant rose ? Vous avez l’image en tête, vous pouvez imaginer plusieurs versions possibles, les faire tourner. Maintenant je vous dis la même licorne, le même éléphant avec des ailes sur le dos ? Vous avez l’image ? Oui. Maintenant, demander la même chose à une IA générative d’image ? Il est très probable qu’elle y arrive pour la licorne et pas pour l’éléphant. Certes, ça va dépendre du modèle et de son apprentissage. Elle fera un éléphant rose, mais sans ailes, même si vous le précisez explicitement dans le prompt. Juste parce que sur internet, il y a peu d’éléphants roses avec des ailes. C’est valable aussi pour les verres de vin, qui vont être toujours à moitié remplis même si vous précisez la quantité « à ras bord ».

Donc ne comptez pas sur l’intelligence artificielle pour sa créativité, par contre, pour vous refourguer du « déjà vu », c’est parfait !

Description du fonctionnement d’un réseau de neurones

Il faut bien comprendre que derrière toutes les intelligences artificielles, il y a un réseau de neurones. Ce n’est absolument pas nouveau, ça date des débuts de l’informatique dans les années 60. Chaque neurone va avoir des valeurs en entrée qu’il va pondérer pour donner le résultat le plus probable en sortie. Et cela, maintenant dans des proportions gigantesques. Donc par conception, ces modèles sont bons, voire très bons quand ils sont dans la zone “médiane”. Plus on s’éloigne de cette zone médiane, moins les résultats vont être bons ou pertinents, plus ça risque d’halluciner.

Donc l’IA est performante pour aller d’un domaine connu à un autre, de l’oral au texte, d’une langue à une autre. Elle est performante pour distinguer et classer des schémas connus : détecter des fractures, des cancers sur des radios (6,7 pour une IA contre 5,7 pour un humain pour 1000 femmes sur la détection du cancer du sein).

Schéma en double diamant version IA

Elle est aussi très performante pour vous proposer des résultats très probables, donc des stéréotypes et des biais. Donc quand je vois des designers qui se servent de l’IA pour explorer des pistes créatives, non, ce n’est pas des pistes, c’est des autoroutes ! Une fois sur ces autoroutes, ça va être très difficile d’en sortir.

un futur désirable

Parlons d’un futur désirable pour nos métiers.

Je rêve d’une IA génératrice de maquettes haute fidélité, capable de s’interfacer avec un Design System et de digérer un brief complet de type « contenu + data + interactions » de chaque écran d’une application.

J’avais croisé ce post sur LinkedIn (oui, je sais c’est mal de perdre son temps sur LinkedIn). Concrètement si je traduis, ça veut dire j’écris un cahier des charges exhaustif pour chacune des pages et ça me produit les maquettes ou mieux le logiciel… Sauf que écrire un cahier des charges exhaustif, c’est qu’on faisait au dernier millénaire et aujourd’hui c’est n’est pas très agile. Donc, perso, je ne rêve pas d’écrire des cahiers de charges, je préfère aller taper la discute avec des utilisateurs, sur le terrain, au cul du camion.

Donc concrètement nous faisons quoi avec l’IA ? Je propose de l’utiliser avec discernement, pour les tâches chronophages notamment. En sélectionnant des petits modèles spécialisés, dont il est possible de vérifier les résultats en cas de doutes et qui peuvent tourner sur un ordinateur perso, voir un smartphone. Ça permet aussi de voir et d’entendre combien ça demande de ressources !

Je conseille de limiter les usages de l’IA :

• Aux tâches chronophages : Transcription, Sous-titrage (et l’accessibilité), reconnaissance d’écriture (oui les post-its à saisir) ou la classification de contenus
• Basé sur des petits modèles spécialisés : Détection, optimisation, en appui à une expertise humaine
• Des résultats vérifiables : Dont on connaît le domaine de départ et celui d’arrivée
• Qui tourne sur votre ordinateur : Et pas sur celui de quelqu’un d’autre dans les nuages !

Pour que le futur reste désirable, notons que :

• Le risque psychosocial est réel. Imposer de l’IA partout sans le consentement des utilisateurs va nécessairement créer des tensions. Cela aura des conséquences qu’il est difficile de prévoir en l’état actuel de nos connaissances.
• Nos tâches qui nécessitent un poil de réelle intelligence, une réelle créativité, une réelle adaptabilité ne sont pas en danger.
• Les relations entre les humains doivent rester centrales.

L’IA ne vous fournira qu’un rêve médiocre,

prenez le temps de rêver les vôtres.