Pour des choix éclairés et responsables de l’IA au service des territoires, présentation d’une étude dédiée.
Lors du Forum annuel des Interconnectés, qui a rassemblé cette année plus de 1300 personnes à Rennes, l’association livre les résultats de son étude « mythes et enjeux de l’utilisation de l’intelligence artificielle, présentation des points d’attention pour une IA responsable ».
Pour accompagner l’arrivée rapide de l’IA dans les différents métiers des collectivités territoriales, la Commission numérique commune des Interconnectés, France urbaine et Intercommunalités de France a confié la rédaction d’un rapport à Soizic Pénicaud, chercheuse et co-fondatrice de l’Observatoire des algorithmes publics (ODAP). Ce travail s’inscrit directement dans l’un des axes de travail de la feuille de route de l’association ; « stratégie des intelligences associées ».
Cette étude vise à aider les élus et agents pour une appropriation responsable et éclairée des effets induits par l’usage des IA par l’administration publique et les services aux citoyens. Elle permet de se poser les bonnes questions avant et pendant tout déploiement d’un service ayant recours à l’intelligence artificielle.
Découvrir cette étude : http://www.interconnectes.com/wp-content/uploads/2025/03/202503-web-mythe-enjeux-IA-final.pdf
Quels enjeux, et quels mythes ?
La déconstruction des mythes qu’emportent l’IA vise à nuancer leur intégration systématique et la nécessité d’anticiper des garde-fous.
A travers différents exemples et l’analyse de la littérature scientifique, ce rapport démontre en quoi ces systèmes ne sont ni neutres, ni objectifs, ni infaillibles. Il pose aussi la question de la place de l’humain dans l’utilisation et le contrôle de ces systèmes ; risques d’accroissement de la responsabilité des agents, risques pour l’emploi et la qualité du travail ...
En complément, 3 enjeux de l’intelligence artificielle au service des collectivités sont étudiés dans cette étude. Ils sont liés aux impacts :
- environnementaux et sociétaux,
- de cybersécurité et de protection des données personnelles,
- de transparence et de redevabilité de l’action publique
Pour adresser en partie ce point, Les Interconnectés ont lancé la Bibliothèque d’IA territoriales qui vise à collecter et partager les usages de l’IA des collectivités mais aussi, à aider aux engagements de transparence de ces projets.
Pour une IA responsable et maîtrisée ; vers une communauté apprenante
Cette publication se poursuivra dans les prochains mois par un second chapitre qui, sous la forme d’un carnet d’inspiration, permettra de mettre en avant les leviers pour les collectivités à déployer des IA responsables et utiles.
L’association, dans la continuité des travaux abordés au sein de ses Territoir'Prod IA, souhaite que Les Interconnectés puissent aussi être un espace de mise en commun de différentes démarches visant à cadrer l’usage de l’intelligence artificielle. Des territoires expérimentent des grilles et méthodes d’évaluation et d’expérimentation, ou encore des gouvernances internes de ces projets. Un atelier animé lors du Forum et plusieurs rencontres en ligne ont permis d’amorcer l’identification de bonnes pratiques pour aider à la maîtrise du recours de l’IA par les collectivités.
Si vous souhaitez contribuer à ces prochains séquences, rejoignez les Territoir'Prod, notre programme de formation et d’accompagnement !
