Le véritable risque, c’est la bureaucratisation de l’IA.

Publié dans Les Echos.

Le microprocesseur a été inventé en 1969. Des années avant, Fernand Raynaud tentait de joindre « le 22 à Asnières », peu aidé par une opératrice dépassée par un standard téléphonique bureaucratique. En 1949, Georges Orwell s’inspire en partie de la réalité pour décrire dans « 1984 » une société régie par la surveillance, la propagande et la désinformation. Chaque année, des patients décèdent parce qu’ils sont pris en charge trop tard mais conformément aux règles et on note actuellement une hausse des décès en parallèle d’une difficulté croissante d’accès à un spécialiste.

intelligence artificielle

A l’autre bout du monde, des voix s’élèvent dans la Silicon Valley sur le risque d’une perte de contrôle sur l’intelligence artificielle, la créature imposant à ses créateurs ce qu’ils n’ont jamais souhaité ou prenant des décisions avec des conséquences imprévues en dehors des missions pour lesquelles elle a été conçue. On pointe le risque de voir l’intelligence artificielle filtrer l’information ou de faciliter la diffusion d’informations biaisées. On note l’absence de conscience de cette technologie, capable d’horreurs que tout individu refuserait de commettre.

Mais comme l’a dit Rabelais, « Science sans conscience n’est que ruine de l’âme » : il ne faut pas freiner la science mais accélérer la conscience. Si des risques existent en théorie, des bureaucraties rigides les ont réalisés avant l’apparition des ordinateurs et sans pétition pour un contrôle éthique de ce mode d’organisation. La définition de Max Weber de la bureaucratie porte en elle-même ces risques : une forme d’organisation impersonnelle et hiérarchique, basée sur l’application de règles strictes. Chacun s’y limite au rôle qui lui a été imparti, sans pouvoir faire preuve de jugement. Comme l’opératrice du 22 à Asnières, personne n’a les moyens de régler des problèmes imprévus ou de faire preuve d’initiative pour interrompre l’exécution des tâches demandées, et trouver une solution à un cas anormalement complexe.

On identifie à tort l’administration à la bureaucratie. Ceux qui en doutent essayeront de résilier un abonnement auprès d’un opérateur téléphonique ou d’obtenir un remboursement complexe auprès de leur assurance complémentaire. Une administration peut être humaine, innovante et efficace, tout comme une entreprise privée peut ne pas l’être, et ce d’autant que ses clients ont un choix limité. La technologie n’a rien à voir avec cela : on se sent aussi seul face à un opérateur de centre d’appel mal formé que face à un chatbot qui ne sait répondre que ce que contient sa base de connaissance. Une intelligence artificielle entraînée sur des données partielles ne fera pas pire qu’une bureaucratie rigide confrontée à un cas non prévu dans son règlement. Hollywood nous a montré des robots tueurs mais les pires horreurs ont été commises par des bureaucraties dont chaque membre estimait ne faire que son boulot.

La bureaucratie des autres nous semblera toujours moins supportable que la nôtre – une partie des problèmes de support informatique renvoie à une « bureaucratie inverse » par laquelle des utilisateurs impatients et rigides refusent de prendre le temps d’expliquer leur problème, d’appliquer les modes d’emploi ou de traiter leurs interlocuteurs avec empathie et respect. Rendons au passage hommage à la tâche de ceux qui se situent ainsi en « bout de chaîne » : quand la bureaucratie dysfonctionne, c’est toujours entre leurs mains qu’apparaîtront les problèmes et sur eux que retomberont les blâmes. Il est plus facile de critiquer l’Etat profond que de questionner l’adéquation des objectifs et des moyens, ou d’accabler un service support débordé que d’allouer les ressources pour former les utilisateurs à la complexité de leur équipement.

La France a eu un rôle historique dans la création de la bureaucratie, créée en Egypte et en Chine mais perfectionnée sous Louis XIV et portée par un modèle centralisé et hiérarchique. Et si en complément de ses ambitions légitimes en matière d’intelligence artificielle, la France devenait le champion de la lutte contre la bureaucratie et pour éviter que l’intelligence artificielle ne vienne en augmenter les dommages ?

Vincent Champain est dirigeant d’entreprise et président de l’Observatoire du Long Terme, think tank dédié aux enjeux de long terme (https://longterme.org)

À propos

Dédié à l'analyse des questions économiques, sociales et environnementales de long terme, L'Observatoire du Long Terme se fixe pour objectif de donner davantage de visibilité à ces enjeux dans le débat public. Dans ce contexte, il donne la parole à des contributeurs variés, avec pour seul critère le caractère étayé des arguments présentés.

L'Observatoire est indépendant, ne reçoit aucune aide financière et repose sur le volontariat de ses contributeurs, de son bureau, présidé par Vincent Champain et Bruno Fuchs.

Sur le même sujet

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici

Du même auteur

Simplifier dans la durée

Publié dans Les Echos le 8 février 2024. Le coût de la complexité administrative est estimé à près de 5 points de PIB, et il...

Soyons optimistes pour l’optimisme.

Publié dans Les Echos le 11 janvier 2024 L’année 2023 s’est achevée sur des risques de guerre, de terrorisme, de chômage, de perte de pouvoir...

Victimes de crimes violents : que disent les statistiques?

Les homicides ne sont évidemment qu'une dimension de l'insécurité, mais c'est celle qui se prête le mieux aux comparaisons internationales...Source ici : https://dataunodc.un.org/dp-intentional-homicide-victims (décès...

Interview BFM sur les évolutions de l’IA

https://www.bfmtv.com/economie/replay-emissions/01-business/open-ai-le-retour-de-sam-altman-est-synonyme-de-changements-au-conseil-d-administration-25-11_VN-202311250391.htmlhttps://www.bfmtv.com/economie/replay-emissions/01-business/open-ai-le-retour-de-sam-altman-est-synonyme-de-changements-au-conseil-d-administration-25-11_VN-202311250391.html