Les enjeux de l’IA au sein des collectivités territoriales

Dans un discours prononcé le 29 mars 2018 sur l’Intelligence Artificielle, le Président Emmanuel Macron a déclaré qu’il fallait « penser la capacité à en définir les règles et la stratégie qui suppose un moment de synthèse et de décision démocratique dans ce mouvement perpétuellement pensé par la multiplicité des acteurs et cette arborescence permanente qui passe par l’innovation de ce multiple »[1]. Cette intervention, qui s’inscrit dans la continuité du rapport Villani pour mettre en œuvre une stratégie française et européenne autour de l’intelligence artificielle (IA), jette les bases de la stratégie nationale pour l’IA.

Son arrivée progressive au sein de la sphère publique, que ce soit au niveau de l’État ou des collectivités territoriales, soulève des enjeux[2] – juridiques, éthiques et économiques – et des conditions de déploiement devant respecter les contrôles mis en place par les pouvoirs publics. Au sein des collectivités territoriales, l’expansion de l’IA est obstruée par le contrôle prévu par la loi de décentralisation du 2 mars 1982, notamment le contrôle de légalité qui s’assure de la conformité des actes entrepris par les collectivités territoriales[3].

On voit donc que même si l’IA ne cesse de se développer dans un contexte macroéconomique qui lui est plutôt favorable, son déploiement au sein des services publics est encore en pleine période de structuration sur le long terme. Elle continue de soulever des enjeux à mesure que d’autres innovations apparaissent. Aussi, dans cet article, nous essayerons d’identifier quel rôle majeur est amené à jouer l’IA au sein du secteur public et plus spécifiquement, quels sont ses enjeux au niveau des collectivités territoriales. Entre état des lieux et analyses juridiques, nous verrons de quelles ressources doit se doter l’État pour mettre en place un tel projet et quel type de gouvernance il doit adopter pour arriver à ses fins.

Le choix de l’Intelligence Artificielle pour des objectifs propres aux collectivités territoriales

La politique volontariste lancée par la France autour de l’IA, par le biais de ses ministères et des opérateurs de l’État, est l’objet d’une réflexion où prime la dimension stratégique.

L’IA au service des collectivités territoriales

Bien que le côté interdisciplinaire de l’IA ne soit plus à prouver et que ses domaines d’application soient multiples, ses bénéfices substantiels en termes de productivité et de compétitivité sont un facteur d’attractivité pour les es organisations, institutions et entreprises qui en profitent. Une étude réalisée par McKinsey prévoit que l’IA augmenterait de 10 000 milliards d’euros le PIB Mondial d’ici l’année 2030[4]. Avec 5,5% en poids du numérique dans le PIB en 2013, la France se devait de saisir cette opportunité pour ne pas être laissée en marge des pays novateurs et rentrer, comme l’a évoqué le Président Emmanuel Macron, dans la « cour des grands de l’IA »[5].

Face à ce contexte international où les innovations prédominent et permettent aux États de se démarquer, la France a renforcé sa position dans le secteur grâce aux travaux du député Cédric Villani. Dans son rapport parlementaire « AI for Humanity », l’ancien lauréat de la Médaille Fields a proposé une stratégie dans l’optique de placer la France comme l’un des leaders mondiaux de l’IA. En se basant sur un état des lieux de l’IA en France, il a suggéré 4 secteurs spécifiques dans lesquels le développement de l’IA serait porteur d’espoir : la santé, les transports, l’environnement et la défense couplée à la sécurité[6]. C’est sur la base de ce rapport que le Gouvernement a pu fonder la stratégie nationale pour l’IA. Cette stratégie se fonde sur 3 axes principaux :

• le développement d’un écosystème de talents ;
• la promotion d’un modèle éthique assurée par l’innovation et la protection des droits fondamentaux ;
• et le troisième axe qui nous intéresse plus spécifiquement dans le cadre de cet article, la diffusion de l’IA et la donnée dans l’économie et l’administration[7].

Dans le cadre de la transformation publique, l’IA peut constituer un élément majeur de l’économie française en ce qu’elle se rend indispensable dans un monde où l’ensemble des processus de production tendent à se digitaliser. Tout en permettant la diffusion de données et la création d’innovations de rupture, elle participe à la modernisation des administrations et des services publics qui s’incarne par une rénovation des services rendus aux citoyens, toujours plus personnalisés et rapides.

Afin de faciliter la diffusion de l’IA, le ministère de la Transformation et de la Fonction Publique (MFTP) incite les administrations à l’expérimenter au sein d’un périmètre qui leur est propre. Avec le soutien de la Direction interministérielle du numérique (DINUM) et de la Direction interministérielle de la transformation publique (DITP), l’objectif est d’associer cette expérimentation à un accompagnement approfondi, notamment en développant des outils techniques qui visent à analyser l’efficacité de l’IA et son impact sur les métiers[8].

Pour les collectivités territoriales, les avantages de l’IA sont de plusieurs natures. Au-delà de proposer une amélioration du service rendu qui passe par une nouvelle automatisation des processus administratifs, permettant ainsi de libérer du temps aux agents pour d’autres missions plus chronophages, l’usage de l’IA favorise une meilleure prise de décision en termes de politiques publiques locales. En effet, l’analyse des données publiques fournit une meilleure instruction des besoins des administrés et donc, en implémentant l’IA au sein des collectivités territoriales, on s’autorise une vision affinée sur la manière de dépenser les finances publiques en fonction des besoins du contribuable.

Le recours à l’IA pour atteindre des objectifs à travers des actions concrètes

Pour des entités comme les collectivités territoriales, la transformation publique a plusieurs objectifs qui ont nécessité des actions concrètes. Le premier objectif est l’accompagnement des administrations à expérimenter l’IA. Ont été ainsi mis en place des Appels à Manifestation d’Intérêt (AMI) où les lauréats ont bénéficié d’un accompagnement personnalisé sur des tâches techniques et des métiers. Entre 2019 et 2020, plus de 21 administrations ont eu l’opportunité d’expérimenter l’IA et de développer des outils techniques dans des domaines variés comme l’environnement, l’économie ou encore la santé. Ces AMI ont notamment permis de rendre compte des effets de l’IA sur le travail des agents, leurs métiers et leurs relations avec les administrés[9].

Le deuxième objectif est de soutenir les administrations, avec le Fonds de Transformation de l’Action Publique (FTAP), pour financer l’intégration de l’IA. Le FTAP vise à favoriser l’éclosion de projets novateurs et soutenir par le financement les collectivités locales dans leur désir de transformation. Parmi les nombreux projets qu’a pu financer le FTAP, on peut relever un projet foncier pour fiabiliser les bases de la fiscalité directe locale. Avec près de 1,5 milliards d’euros qui vont être investis dans le cadre de la Stratégie nationale pour l’Intelligence Artificielle, la France prouve que ces financements font de l’IA une nouvelle priorité nationale tant sur le point économique, stratégique ou d’évaluation de ses politiques locales[10].

Il existe de nombreux exemples d’application de l’IA au sein des collectivités territoriales. Ainsi, dans le cadre de l’automatisation du suivi de vidéosurveillance, les villes de Marseille et Nice ont voulu implémenter des solutions de surveillance automatisée dont le but est de reconnaître une forme, un objet, des comportement anormaux, des individus, etc. et de les suivre automatiquement[11].

Afin de reconnaître une occupation irrégulière des sols, la Direction Départementale des Territoires et de la Mer (DDTM) du département de l’Hérault a voulu mettre en place un projet visant à détecter automatiquement des hangars, épaves, et autres bâtis illicites dans des milieux sensibles[12].

Pour mettre en place un traitement automatique des demandes, la Métropole Aix Marseille Provence a souhaité des agents conversationnels pour répondre aux différentes questions des citoyens et les réorienter en cas de problème.

Quant à la Métropole Rouen Normandie, elle a voulu mettre en place des véhicules autonomes en quartiers périphériques afin de pouvoir transporter des usagers sur des infrastructures ad hoc[13].

Les domaines d’application de l’IA pour servir les collectivités territoriales sont donc assez vastes ; ces quelques exemples montrent cependant que le recours à l’IA peut se heurter à des règles d’ordre public.

Les limites au recours à l’Intelligence Artificielle pour les collectivités locales

Cette intégration de l’IA au sein des processus des entités du secteur public reste cependant timide, très progressive, inégal selon les administrations et souvent expérimentale.

Le cas de l’intégration de l’IA appliquée au contrôle de légalité

Prenons l’exemple de « l’échec » de l’intégration de l’IA appliquée au contrôle de légalité[14]. Dans le cadre du projet Aide au contrôle de légalité par intelligence artificielle (ACLIA) et entrepris mi-2019 par la direction interministérielle du numérique (DINUM) et de la direction interministérielle de la transformation publique (DITP), la DGCL devait tenter de mettre au point une solution automatisée de tri des documents soumis au contrôle de légalité. Le contrôle de légalité des collectivités territoriales relève de la compétence des préfets en vertu de l’article 72 de la Constitution. Ce dernier s'assure de la conformité à la loi des actes pris par les collectivités territoriales[15].

Plus précisément, le projet avait pour but de développer un module intégrant de l’IA, capable d’améliorer le routage des actes mal-nommés et d’identifier les actes non-transmissibles. Dans le cadre de ce projet, des traitements d’IA ont bien été développés et portaient sur 3 domaines d’actions :

• aider à classifier les actes en fonction de leur nature et thématique ;
• rechercher en leur sein les informations clés ;
• déterminer leur transmissibilité.

L’objectif final était d’apporter à l’agent contrôleur une aide pour analyser le contenu de l’acte telles que les irrégularités sur les visas ou les signatures. Un contrôle plus ciblé et plus efficace devait permettre un gain de temps considérable et faciliter le travail des 1400 agents en préfecture.

Fin 2021, ce projet fut abandonné par la DGCL, qui a admis échouer à déployer un algorithme national. Dans un rapport, la Cour des Comptes[16] indique que cet abandon est notamment dû à des difficultés dans la conduite de projet. Cela malgré une assistance à maîtrise d’ouvrage (AMOA) sur l’aspect métier.

La Cour des Comptes relève alors 3 facteurs qui ont mené à l’arrêt de ce projet :

• la crise sanitaire et les confinements qui sont venus entraver le déploiement du projet.

• L’annotation des actes : un problème lié à la technologie qui se traduisait par une non-compatibilité de l’outil avec les différents navigateurs utilisés dans les préfectures.
• La diversité des pratiques rédactionnelles des collectivités, jugée incompatible avec le développement d’un algorithme national.
• Finalement, une non-compréhension du projet par certains agents, combiné à un manque de connaissances sur cette technologie d’IA dû à un manque de formation et de communication ; le manque d’expert n’a pas permis le bon déroulement de ce projet. On rappelera d’ailleurs que le succès d’une technologie dépend en large partie de la qualité de son implémentation et de son intégration par les équipes concernées.

Ce rapport soulève un défaut d’accompagnement de la part de l’assistance à maîtrise d’ouvrage et un manque de moyens du secteur public.

L’intégration de processus d’IA au sein des collectivités territoriales - et plus globalement dans le secteur public - semble difficile à mettre en place.

Grâce aux différents exemples ainsi qu’à un rapport de la banque des territoires[17], divers freins venant ralentir l’appropriation de l’IA par les collectivités territoriales semblent se dégager :

• l’aspect technique que nécessite l’IA. Des systèmes informatiques avancés sont notamment nécessaires.
• Les compétences particulières à ce domaine, nécessaires à l’utilisation de ce type de technologie très technique. Les équipes utilisant l’IA ont effectivement un besoin fort d’accompagnement afin de comprendre, utiliser et intégrer cette technologie afin de limiter le risque de rejet en interne.
• L’acceptabilité du déploiement de l’Intelligence Artificielle de la part des administrés. Un manque de confiance des administrés du à un faible niveau de connaissances et d’informations peut également entraîner un rejet de leur part.
• L’investissement est également un frein important. En effet, l’utilisation de l’IA dans le secteur privé est plus répandue et plus ambitieuse car les acteurs sont plus aptes à supporter les coûts d’acquisition et de développement de cette technologie.
• Le fonctionnement même de la technologie nécessite une vision transverse au sein de l’administration territoriale ainsi qu’une approche différente des métiers traditionnels. Un accompagnement par des experts doit alors être envisagé.
• La qualité des données à exploiter. Une mauvaise qualité de ces dernières peut entraîner une exploitation erronée et pas exploitable.
• La fracture numérique. La digitalisation et l’utilisation de technologies d’IA dans le secteur public soulèvent un risque d’isolement vis-à-vis des services publics pour une frange de la population présentant des difficultés de maîtrise des nouvelles technologies ou située en zone blanche.

Finalement, c’est le manque de moyens des collectivités territoriales qui semble donc être le principal frein au développement de l’IA dans ce secteur : le manque de temps, de formations, de crédits budgétaires en sont les principaux facteurs.

Des pistes pour surmonter ces difficultés

Afin de remédier à ces freins, la banque des territoires[18] identifie certains axes :

• cultiver la donnée et faire un état des lieux des données disponibles afin de mieux appréhender leur exploitation ;
• travailler de manière transverse afin de bénéficier de l’ensemble des compétences métiers et de partager les données (méthode AGILE notamment) ;
• utiliser des algorithmes ou processus d’IA trop poussés n’est pas systématiquement nécessaire. L’optimisation des processus semble être un bon point de départ pour les collectivités ;
• accompagner le changement : avec les agents, mais aussi avec les utilisateurs.

Dans cette continuité, le conseil d’État a livré le 30 août 2022 une étude[19] concernant l’usage de l’IA dans la sphère des administrations publiques. Cette étude détaille comment mettre en place d’une IA publique de confiance.

Des principes généraux, au nombre de 7, sont détaillés :

• Principe 1 : la primauté humaine. L ’intérêt général doit primer ; les droits et les libertés fondamentaux ne doivent pas être négligés au profit des bénéfices attendus. L’humain doit rester un facteur-clé de succès du processus.
• Principe 2 : la performance. Le service rendu au public doit être maintenu ou amélioré, mais ne doit en aucun cas baisser le niveau de la qualité en raison de son automatisation. Maintenir la confiance des utilisateurs est alors essentiel.
• Principe 3 : l’équité et la non-discrimination. Un système de gestion des risques doit être mis en place et il est aussi important de sensibiliser les agents chargés des SIA afin de prévenir les discriminations involontaires.
• Principe 4 : la transparence. La transparence du système est la clé permettant la confiance des utilisateurs. Leur permettre de comprendre le processus contribue à les rassurer. Ainsi, garantir droit d’accès à la documentation du SIA et informer les utilisateurs quant à l’utilisation du SIA est nécessaire. Le fonctionnement du système doit être expliqué dans un langage simple et l’objectif poursuivi pour son usage doit pouvoir être clairement donné.
• Principe 5 : la sûreté (cybersécurité). L’utilisation d’un SIA nécessite généralement le traitement de données et engendre la nécessité de prévention des attaques informatiques. Anticiper des potentielles vulnérabilités particulières telles que le vol de données doit également être pris en considération.
• Principe 6 : la soutenabilité environnementale. Les SIA sont des technologies qui peuvent avoir un réel impact négatif sur l’environnement dû à la pollution numérique. Évaluer et prendre en compte ces conséquences dans la stratégie de déploiement et d’implantation est nécessaire.
• Principe 7 : l’autonomie stratégique. Les SIA doivent répondre à la réduction de dépendance. Ils doivent ainsi garantir l’autonomie de la Nation.

Ces principes ont alors pour objectif de permettre l’instauration de la confiance non seulement chez les agents utilisateurs mais également chez les citoyens dont les données sont exploitées par ces nouvelles technologies. Cette confiance permettra alors d’abaisser les possibilités de rejets en interne et en externe des projets d’IA au sein des administrations.

Finalement, pour avoir recours à l’IA dans les administrations, il est primordial d’investir dans les ressources humaines et techniques afin de développer des SIA fiables et utiles. Pour favoriser et optimiser l’usage de ces SIA au sein des administrations publiques, les dirigeants publics tout comme les agents publics ont pour responsabilité d’acquérir des connaissances sur le numérique ainsi que de se sensibiliser aux enjeux du numérique. La construction d’une IA publique de confiance vient alors compléter ce processus d’implémentation de l’IA grâce à la mise en place de principes tels que la transparence de ces technologies. Ces principes, mis à exécution, doivent permettre de rassurer et de favoriser l’adhésion des utilisateurs (agents et citoyens). Tout en gardant à l’esprit que les implémentations d’IA dans les démarches doivent à terme servir les administrations et non les desservir.

Pour implanter cette IA publique de confiance, il est nécessaire d’étudier préalablement l’opportunité du recours à un SIA. La définition d’objectifs, l’analyse et l’évaluation des freins potentiels tels que l’acceptabilité sociale du type d’IA souhaité, les besoins en termes de ressources humaines, financières et techniques, s’inscrivent alors dans une étape préparatoire essentielle et nécessaire au déploiement d’un projet d’IA. Évaluer méthodiquement l’opportunité et la nécessité de développer un SIA reste un enjeu crucial pour un déploiement durable d’un projet intégrant de l’IA.