Les risques de l’intelligence artificielle

par Denis Bismuth

L’émergence d’une nouvelle technologie porte toujours l’espoir d’un monde meilleur. L’intelligence artificielle atteint un niveau de puissance qui fait supposer qu’à court terme elle va pouvoir remplacer l’intelligence humaine dans certains processus de décision et dans ses compétences de communication : ce que met en scène le système Watson d’IBM. Mais derrière cette opportunité bien tentante se profile le risque d’une perte d’engagement et d’éthique pour les acteurs. Denis Bismuth, fondateur du cabinet Métavision, s’interroge sur le mariage (contre nature ?) de l’intelligence artificielle et de l’agriculture : quand l’expertise cherche à remplacer l’expérience.

Que ce soit dans les systèmes d’aide à la décision pour le pilotage des avions ou dans le monde agricole avec l’« agriculture climato-intelligente » (smart agriculture), l’intelligence artificielle se propose de fournir aux agents des systèmes de décision permettant de faire l’économie de l’expérience. Un agriculteur se verra remettre une tablette qui lui fournirait toutes les informations nécessaires pour savoir où semer, que semer, à quel moment arroser, ou encore, quel engrais utiliser. En échange de cette assistance, il doit bien évidemment s’obliger à utiliser les produits de la compagnie qui lui offre ce service. Celle-ci propose, en outre, une assurance en cas de mauvaise récolte si l’agriculteur a bien respecté ce qui a été prescrit.

Plus que l’expérience d’un métier dans lequel un humain construit son identité professionnelle, s’engage avec toute son éthique et sa morale, l’expertise machine permet d’obtenir un résultat avec une personne peu compétente et surtout peu engagée, peu motivée.

Faire l’économie du professionnalisme et de l’engagement était un des fondements du projet de l’organisation scientifique du travail de Taylor. La particularité du taylorisme est de faire le choix d’éliminer autant que possible le facteur humain, l’acteur et son professionnalisme, pour faire dépendre son activité d’une expertise techno-scientifique « hors sol » élaborée dans les bureaux d’étude. Cette expertise détermine à la fois les processus de travail et les procédures de contrôle de l’activité d’exécution. Comme dans les usines Ford du début du 20e siècle, l’acteur opérationnel n’a pas besoin d’être compétent et engagé par l’amour du métier pour pouvoir produire. Il est transformé en une sorte d’exécutant sans identité professionnelle, facilement interchangeable, incapable de se donner des limites et de percevoir les risques et les dangers de ce qu’on lui demande de faire : ce qui est plus pratique quand on veut lui faire faire quelque chose de dangereux pour lui et son environnement.

L’idée de smart agriculture renvoie à une conception très réductrice du mot « intelligent » (smart). Elle renvoie à la capacité de collecte et de traitement automatique et rationnel de l’information au travers de systèmes artificiels. La légitimité à décider est dévolue à une machine capable de traiter une masse d’informations rationnelles qu’aucun être humain ne pourrait gérer. Ces systèmes « d’intelligence » artificielle sont d’une puissance telle, qu’ils sont capables de battre un champion du monde d’échecs ou de vaincre tous les humains à un jeu complexe comme le jeopardy (Jeu télévisé qui consiste à retrouver la question à partir de la réponse).

Mais l’intelligence n’a que peu à voir avec la puissance de traitement de l’information. Notre société valorise la puissance cognitive au détriment de la capacité à être en relation. Etre en intelligence avec soi et son environnement c’est être capable d’entretenir des relations constructives ou non destructives avec son environnement. En ce sens l’« intelligence artificielle » peut conduire à l’inintelligence sociale.

Le Big data et l’intelligence artificielle ont permis d’atteindre un niveau de division du travail jamais atteint. Si le fordisme avait permis de déposséder l’acteur de la propriété de ses actions, l’intelligence artificielle permet de déposséder l’acteur de sa légitimité à prendre des décisions sur ses actes. Il est ainsi dépossédé de toute possibilité de juger d’évaluer ses actes et donc de toute possibilité d’avoir une éthique et de se donner des limites. On voit déjà les dégâts auxquels conduisent ces stratégies de séparation de l’acteur et de ses actes dans l’agriculture industrielle « moderne » : dégâts sur la santé des individus, sur les collectifs humains et sur la biodiversité. L’acteur est rendu aveugle aux conséquences à long terme de ses actes et ne peut donc plus agir avec une éthique et une morale. C’est peut-être là un des grands dangers de la dépendance à l’intelligence artificielle. Ne plus avoir à gérer l’ensemble des informations nécessaires à ses actes et décisions, nous dépossède aussi de la capacité à agir selon une éthique personnelle, non pas que nous soyons dépourvus de sens moral, mais parce qu’on n’a pas les informations nécessaires à l’élaboration de cette éthique. L’intelligence artificielle nous empêche de prendre la distance nécessaire, englobant l’information suffisante pour prendre des décisions sur notre éthique. Débarrassé du besoin de faire des choix, l’acteur est définitivement dépossédé de la propriété de ses actes. La mécanisation taylorienne avait déjà commencé à déposséder l’acteur de son activité en remplaçant la force de travail par la machine et en ne laissant à l’homme que la possibilité de la conduire, et donc de décider de son fonctionnement. L’intelligence artificielle comme « aide à la décision » finit d’enlever à l’humain sa dernière parcelle de liberté de décision et le prive ainsi de toute possibilité de prendre du recul et d’avoir un regard à long terme sur ce qu’il fait et les conséquences de ses actes.

L’automatisation en général a pour l’acteur un effet de désappropriation de son activité. Même si l’on peut ne pas regretter le temps où des milliers d’ouvriers creusaient à la pelle et à la pioche la terre pour construire de grands ouvrages comme les tunnels ou les ponts, on peut se poser la question de la limite de la dépossession du travail.

La dépossession de l’éthique de son action rend l’acteur incapable d’intervenir dans le projet auquel il appartient. On le voit bien, l’agriculture française est dans une impasse industrielle qui semble définitive. Les paysans qui pouvaient avoir une éthique parce qu’ils étaient propriétaires de leurs actes en étant propriétaires de la connaissance et de la légitimité à décider de leurs actions et de leurs choix ont été remplacés par des exécutants spécialisés, dépossédés de leurs actes et à la merci de ceux qui se sont approprié la chaîne de valeur du travail agricole : les financiers. L’hégémonie des critères économico-financiers sur la qualité de la vie conduit à une situation de déséquilibre écologique qui, avec la même inertie que le réchauffement climatique, risque de nous mettre devant une situation ingérable le jour où ce sera trop tard.

Il n’est bien sûr pas souhaitable de mettre fin aux avancées technologiques. Il s’agit de réexaminer le rapport à la technique.

En étant dépossédé de son activité, l’acteur ne peut plus percevoir clairement les limites de son action. Il a donc du mal à se donner des limites. Fasciné par la magie de la technique qui occupe son esprit, il a du mal à regarder du côté des conséquences. Il abandonne assez facilement ce qui peut paraître ingrat et peu satisfaisant : sa responsabilité sociale.
La nature ayant horreur du vide, la technoscience occupe un espace laissé vacant par la faillite de l’éthique et de la conscience. L’expansion des trusts agro-industriels vendeurs de produits « phyto-insanitaires » ne sont que l’écho de la tendance naturelle des individus à abandonner leurs engagements et à préférer la sécurité et la facilité, au risque de s’engager pour vivre. Ce n’est pas la première fois qu’on rêve de voir la technologie remplacer l’homme. On le voit tous les dix ans en éducation ou à chaque nouvelle technologie, on réactive le rêve impossible de l’école sans enseignant.

On le voit entre autres au travers du courant post-moderne, post industriel, post managérial, ou post tout ce que l’on veut, qui suppose que l’automatisation de la gestion de l’information va libérer l’acteur et lui permettre de s’autonomiser. Que les modes de recrutement ou de décision informatisés vont permettre d’échapper à la rationalité limitée de l’homme. Tous ces espoirs déçus qui nous font vérifier que le pluriel d’un espoir c’est bien désespoir ! On peut se demander ce qui se cache comme peur derrière les attentes que suscitent les machines. Quel sentiment d’impuissance habite l’homme pour qu’il mette toute son énergie à développer des outils puissants qui l’enferment dans sa quête de pouvoir et le séparent du monde ?
Quand va-t-on arrêter d’avoir peur du vivant, de son aléatoire et du risque d’échec. Quand va-t-on cesser de vouloir se réfugier dans ces golems technologiques qu’on reconstruit inlassablement ? C’est cette peur de ne pas pouvoir contrôler le vivant qui nous jette dans le labyrinthe de la technique et nous absout de notre peur en nous privant de notre responsabilité avec notre assentiment.

L’idée n’est pas de se défaire de toute technologie. Mais bien que nous mettions ces techniques à notre service. Pour plagier la phrase de Roger l’Estrange on peut dire qu’il en est de la technique comme l’eau et le feu : c’est un bon serviteur, mais un mauvais maître.
L’espace de la décision pour soi ne peut pas devenir un espace socialisé et technologisé. Car si la science pouvait résoudre les problèmes, nous n’aurions pas besoin de démocratie. Et pas non plus de notre capacité à décider d’une manière intuitive. Tous les travaux sur la décision (voir le livre de Christian Morel : Les Décisions absurdes) montrent que les décisions les plus intelligentes ou celles qui ont le moins de risques de conduire à des absurdités ne peuvent venir que d’une confrontation d’intelligences humaines. L’intelligence n’est pas la puissance cognitive contrairement à la croyance populaire. Etre en intelligence avec les autres ou son milieu c’est d’abord et avant tout savoir créer des relations harmonieuses et respectueuses avec les humains et l’environnement. Si la machine peut réaliser des performances extraordinaires dans la gestion des informations et constituer une assistance de puissance cognitive, elle n’a pas pour vocation à produire des relations harmonieuses parce qu’elle ne peut être pourvue d’une éthique ou d’une conscience, du moins pas encore !