les usagers participent à cette conception et tout particulièrement à la sélection des critères d’évaluation
les séminaires SEA réguliers permettent de faire vivre la participation et la consultation, de réorienter l’action, d’alimenter la mémoire institutionnelle afin de ne pas refaire éternellement les mêmes erreurs
la pérennité/durabilité est le point faible des projets et programmes, attention à l’intégrer dès la phase d’écriture
Parallèlement, nos formations et accompagnements à la mise en place de systèmes de suivi et évaluation s’enchainent, sur des dizaines de projets et programmes souvent déjà en phase opérationnelle. Les problématiques se suivent et se ressemblent :
le système n’a pas été formalisé au démarrage
les usagers n’ont été ni inclus ni consultés dans la sélection des critères sur lesquels repose le système
une insuffisance d’échanges réguliers et ouverts, le SE souvent réduit à une séquence brève pendant les comités de pilotage
des équipes d’évaluation composées par des consultants externes qui ne sont jamais invités à partager entre eux : sur quelle base ainsi d’accorder ou comparer ?
…
Ces constats pourraient être plus présents dans les guides et manuels d’évaluation. Une occasion de tout remettre à plat, d’admettre ses erreurs, de sortir des incantations. Ces manuels n’ont probablement été effleurés que par des aficionados déjà dans des dynamiques transparentes et participatives. Les inscrits aux formations en évaluations sont également déjà des convaincus. Les participants déclarent souvent être venus chercher des outils, mais les difficultés ou les blocages premiers sont rarement d’ordre méthodologique. Peaufiner la méthodologie est la cerise sur le gâteau lorsque tous les autres paramètres sont dégagés pour permettre une mise en application effective du système (voir un environnement propice à l’évaluation : quels leviers ?).
Mais encore, l’image d’en-tête de ce site, la même depuis 2010, représente des archives qui s’empilent et qui ne sont jamais consultées…
Heureusement, même si l’on fait souvent remonter l’origine de la discipline évaluative aux années 1960, Lev Semionovitch Vygotsky1 aurait pu nous donner quelques tuyaux dès 1933.
Par exemple en s’intéressant aux motivations culturelles et aux valeurs qui ont présidé à la conception du programme, et à la manière dont ces motivations influencent les processus d’apprentissage et de développement qu’il vise à soutenir. Analyser la cohérence entre les objectifs déclarés, les outils socioculturels mis en œuvre et les résultats observés en termes de transformation des capacités cognitives et sociales des participants.
Selon Vygotski, le développement d’un individu est inséparable de sa culture et de ses interactions sociales. Tout programme est une création culturelle. Il n’est pas neutre. Il est conçu par des personnes qui ont une certaine vision du monde, de la réussite, de l’apprentissage. Ces valeurs sont le « code source » invisible du programme. Il s’agit alors d’identifier la culture de l’organisation qui a créé le programme. De détecter ou de confronter des incohérences fondamentales entre les pratiques culturelles et les mécanismes de mises en oeuvre.
Une préconisation serait ainsi de renverser complètement la vapeur. De pousser des expérimentations où tout le poids et les moyens dédiés à l’évaluation seraient déployés en phase de montage et dans l’évaluation des processus plutôt que des résultats. Et comparer avec les dizaines de systèmes dysfonctionnels dont nous disposons déjà.
Le Langage et la pensée, Lev Semionovitch Vygotsky, 1933 ↩︎
Le projet SLICKS (Sustainable, Learning and Inclusive Cities), fruit d’un partenariat entre deux municipalités, Kampala et Strasbourg, porte une ambition de transformation des territoires structurée autour de 3 axes : agriculture urbaine, éducation et paysages (espaces verts, biodiversité,…).
Ce projet de coopération décentralisé a été financé par l’AFD et opérationnel d’octobre 2023 à décembre 2024.
Ce retour d’expérience fait suite à l’évaluation finale externe contractuelle réalisée par EVAL entre novembre 2024 et mars 2025. Ce texte comme une goutte d’eau à apporter à la mémoire institutionnelle des organismes et institutions de développement.
Axé sur le partage d’expertise et la recherche de synergies, SLICKS a la particularité d’avoir actionné, sans le vouloir ou le rechercher explicitement, l’ensemble des objectifs de développement durable. Modestement, en interaction avec les 17 ODD !
Si le projet est unanimement reconnu comme un succès, une autre spécificité est sa clôture définitive, malgré les soutiens, malgré toutes les pistes de renouvellement explorées, illustrant l’incapacité des acteurs à s’extraire des mécanismes institutionnels et cadres de financement existants, afin de dimensionner et poursuivre une vision stratégique. De construire ou adapter le véhicule en fonction de la destination. Comme la poursuite d’une diplomatie d’influence1. Car si SLICKS a avant tout bénéficié à la ville de Kampala, il a créé des émulsions à Strasbourg et surtout permettait à toute entité française d’enrichir ou de développer un lien privilégié peu à peu tissé avec l’Ouganda. A un moment où la carte des coopérations est à reconstruire et où fument encore les cendres des échecs sahéliens2. Qu’avons-nous appris ?
« SLICKS » désigne également, dans le jargon des sports mécaniques, un modèle de pneu de course, réputé pour son adhérence. Une adhérence qui pourrait s’inscrire comme un critère d’évaluation à part entière : un alliage d’acceptation, d’appropriation et de pérennité.
Or la pérennité demeure, encore et toujours, le b.a.-ba, le point faible des projets, comme répété depuis des décennies dans les études de développement et rabâché dans les masters divers et variés en gestion de projets. La grande inconnue tellement prévisible dans ce type de format de coopération3.
Bien qu’adaptant des recettes connues (participation, flexibilité, démarche concertée et transformation des acquis en stratégie municipale,…), l’approche SLICKS a dépassé le cadre théorique pour se matérialiser de manière effective sur le terrain. SLICKS faisait figure de projet modèle. Une opportunité pour en souligner quelques limites et en extraire certaines préconisations, notamment dans le champs du suivi évaluation.
si la phase opérationnelle est « surmonitorée » (plus d’une centaine d’indicateurs de réalisations), la phase de montage n’est que peu documentée, la phase ex-post est complètement absente du cycle de projet
les retards initiaux, quelles qu’en soient les causes, récurrents au points d’en devenir systématiques, SLICKS ne faisant pas exception, sont insuffisamment compensés – lorsque la date de démarrage recule, la date de clôture à tendance à rester relativement fixe
la phase de montage est disproportionnée par rapport à la phase de mise en oeuvre (44 mois pour l’identification, l’instruction et la contractualisation, 27 mois d’opérationnalisation)
l’énergie consacrée à suivre la performance du projet réduit voire empêche de se concentrer et d’observer l’évolution des contextes, de voir se lever les vents contraires
les critères du CAD (pertinence, cohérence, efficacité, efficience, impact, durabilité) sur lesquels sont construits les termes de référence sont définitivement insuffisants, par exemple, ils n’intègrent pas l’évaluation de la gouvernance, qui était le point saillant de ce projet. S’attaquer à l’ensemble des critères du CAD oblige alors à faire le tour du propriétaire sans même savoir qui est le propriétaire…
une absence ou insuffisance d’espaces de concertation officiels afin d’évoquer les enjeux stratégiques. Les comités de pilotage sont avant tout considérés comme des espaces d’affichage des résultats.
la catégorie « population les plus vulnérables » reste générique et insuffisamment catégorisée
plus que les autres, les projets de coopération décentralisée sont rythmées par des échéances électorales multiples (deux municipalités, deux gouvernements, etc.) générant des accélérations, ralentissements et rebondissements multiples… Si ces écueils sont bien connus, ils restent relativement peu documentés à l’échelle des projets pour accompagner les équipes de mise en oeuvre dans la conduite dans « zones de turbulence » et de transition.
➡ Elargir la gamme de critères du CAD par des critères complémentaires et transversaux. Le système de suivi et évaluation doit également exposer comment ont été sélectionnés et hiérarchisés ces critères, permettant ainsi d’éclairer les valeurs du projet et ses priorités
➡ Programmer des rencontres régulières afin d’actualiser les questions évaluatives. Le SE devient partie prenante du déroulé de l’action et de la gouvernance. Les séminaires SEA jouent un rôle d’adjuvant en en soutenant la démarche en continu, en marge des évaluations contractuelles (mi-parcours, finale).
➡ Valorisation des compétences en suivi-évaluation issues de la coopération pour la transition des territoires :
Au fil des années, les coordinateurs de projets de coopération ont acquis des compétences solides en suivi et évaluation. Ces savoir-faire, développés dans le cadre de la coopération internationale ou décentralisée, représentent un atout qui pourrait être mobilisé pour l’évaluation des projets de transition des territoires, et plus largement pour l’évaluation des politiques publiques à l’échelle nationale. Voir les métiers de l’évaluation.
➡ Mobiliser les compétences en gestion de projets des RRMA (réseaux régionaux multiacteurs)
Les forces et faiblesses de la coopération décentralisée soulignent les besoins des collectivités en gestion de projets. Les expertises des RRMA pourraient être mutualisées au service des projets de territoires ou de toute politique publique.
➡ Identifier les acteurs clés nationaux de la formation continue et systématiser des partenariats. Organiser un transfert des acquis (propriété intellectuelle, processus de mise à jour, utilisation à long terme) vers ces organismes nationaux.
Les projets de coopération investissent massivement dans le renforcement des capacités, mais omettent fréquemment de créer des liens structurés avec les institutions nationales responsables de la formation professionnelles.
➡ Intégrer systématiquement des expertises en ingénierie de formation à tout projet de coopération reposant sur du renforcement de capacité (notamment pour l’analyse des contextes d’apprentissage et l’évaluation des acquis)
Le renforcement des capacités est une expertise à part entière, qui ne saurait être laissée à la bonne volonté, si sincère soit-elle, des responsables de projets. Ce projet qui disposait par essence d’expertises pédagogiques embarquées (la participation du rectorat de Strasbourg) expose des mécanismes didactiques insoupçonnés et une rigueur méthodologique implacable.
➡ Engager une évaluation interne transversale, « au long-cours » avec toute la latitude permise par le département évaluation du bailleur de fonds, sur les causes fréquentes de retards en phase de montage. Proposer des outils d’anticipation et des parcours alternatifs en cas de blocage (quand bien même le bailleur n’est pas en cause dans ce retard). Diagnostiquer les points faibles récurrents qui freinent le lancement des projets. Développer des outils de prévention des retards, formaliser des plans B,…
Notamment, il existe un décalage entre le suivi évaluation du projet souvent très documenté et celui de la phase de montage. Il s’agira d‘harmoniser et renforcer le suivi-évaluation de la phase de montage pour qu’il soit au niveau de celui des projets (en terme d’outils, de manuel, de support,…).
➡ Intégrer dans le dispositif de financement un suivi post projet systématique d’environ 2 ans – un suivi à minima même si l’équipe projet n’est plus présente, la responsabilité de maintenir un lien entre responsables des institutions concernées pour suivre l’évolution des produits et services générés
➡ Systématiser dès le lancement du projet un partenariat avec une formation en gestion de projet d’un établissement d’enseignement supérieur. Une collaboration visant à partager les retour d’expérience du projet (difficultés, avancées) avec les étudiants et à créer, en lien avec le corps enseignant, des exercices pratiques fondés sur le projets
Ce type d’exercice d’évaluation finale externe, contractuelle, est surtout attendu pour servir la redevabilité : une justification de la bonne utilisation de fonds publics. Si tel est le cas, l’ensemble des rapports d’évaluations devrait être rendu public. ➡ vérifier la disponibilité et accessibilité des évaluations à travers une base de données simple d’utilisation et contribuer à développer la mémoire institutionnelle du développement
Des évaluations d’avantage axées sur l’apprentissage permettraient à des équipes d’évaluation mixte (interne/externe) d’accompagner tout au long du cycle de projet en endossant différentes casquettes, notamment celle de la facilitation ➡ orienter les ToR vers plus d’équilibre entre apprentissage et redevabilité pour un accompagnement SE itératif
L’intégration de la phase suivant la validation du rapport d’évaluation dans l’apprentissage institutionnel se fait par le double levier du suivi des recommandations/orientations de l’évaluation et de la capitalisation/mutalisation des enseignements tirés d’autres projets, programmes et composantes. ➡ les équipes d’évaluation doivent être impliqués au-delà de la validation du rapport
En conclusion, à trop vouloir réduire le suivi évaluation à des cadres de performance, les effets inverses sont obtenus. Le suivi évaluation enferme les projets dans leurs ambitions de départ. Des objectifs qui se cristallisent au moment où le contexte d’intervention et les montants budgétaires sont encore flous ; au lieu de les aider à monter en puissance et à réajuster le tir en permanence.
SLICKS, de par des diagnostics de départ approfondis, une rigueur méthodologique stricte, un alignement avec les politiques nationales, des liens forts avec la recherche, via la volonté de transformer ses expériences pilotes en plan d’action et stratégie des politiques municipales, et/ou plus simplement via la création des liens professionnels et amicaux évite ses écueils.
Mais encore grâce à une certaine souplesse du bailleur de fond permettant de saisir des opportunités localement. Sans oublier des équipes supports engagées, maitrisant parfaitement les rouages de l’instrument de financement. Enfin des compétences parfois disparates mais souvent solides en « project management » à Kampala à l’instar d’autres environnements anglophones.
Des qualités qui confère à SLICKS des allures de de projet modèle.
Un projet pourtant dorénavant clôturé, classé, sans opportunité de suivre ou de poursuivre les dynamiques engagées. Certains usages et ancrages perdureront probablement. D’autres non. Nous ne sommes plus en situation de le mesurer. As usual.
Si la mayonnaise ne prend pas toujours, la recette est pourtant connue.
La consultation, la participation, la réciprocité, l’adéquation au contexte, l’alignement avec les politiques nationales sont partie intégrante de tout manuel de suivi évaluation.
Une dernière recommandation alors qui vise un effet sur toute les autres :
➡ La création d’un pool d’accompagnement, multidisciplinaire, hébergé au niveau du bailleur
Ce type de structure (pôle d’expertise, centre d’assistance, facilité d’accompagnement,…) dans tout fond de subventions, vise des objectifs variés :
apporter un appui technique aux équipes opérationnelles pour le montage et la gestion de projet
contribuer et donner forme à la mémoire du développement
production de supports méthodologiques
favoriser activement les synergies entre la multitude de projets exécutés de manière isolée
établir un caractère permanent au lien avec la recherche
De nombreuses « facilités » existent déjà, néanmoins de manière isolées. Dans son absence, reste la perception ou le style de management de chaque responsable de programme : dans le contrôle ou l’accompagnement ?
Pour finir, constatons que les recommandations ci-dessus sont récurrentes depuis des décennies. Les lacunes, persistent. L’évaluation reste finale, contractuelle, inexploitée : pourquoi ? Dans le cadre de projets, suivre les facteurs favorables ou limitants est aussi cruciale que mesurer les effets. Il s’agira d’insérer systématiquement dans toute évaluation une partie liée à l’analyse du contexte propice ou non à l’évaluation. Le positionnement de l’évaluation dans l’organigramme. Analyser puis relier contribution directe des données et apprentissages SE à la prise de décision stratégique au plus haut niveau.
L’œuvre de Muramuzi explore la nature et la vie rurale-urbaine ougandaise, de la flore et la faune de son village à la vie animée de la ville, incluant les marchés, les habitants, les modes de transport ainsi que les paysages urbains ou plutôt architecturaux de la dynamique Kampala. Il a cultivé son talent en participant aux projets artistiques et initiatives de son école primaire, notamment en réalisant des illustrations artistiques sur tableaux noirs.
Village of flowers. John Bosco Muramuzi. L’œuvre de Muramuzi explore la nature et la vie rurale-urbaine ougandaise, de la flore et la faune de son village à la vie animée de la ville, incluant les marchés, les habitants, les modes de transport ainsi que les paysages urbains ou plutôt architecturaux de la dynamique Kampala. Il a cultivé son talent en participant aux projets artistiques et initiatives de son école primaire, notamment en réalisant des illustrations artistiques sur tableaux noirs.
En bref
L’expérience SLICKS permet d’entrevoir diverses recommandations pragmatiques applicables à tout projet de transformation urbaine.
Une recommandation néanmoins permettrait un effet levier sur toutes les autres : la constitution de pools d’accompagnement des projets au niveau du bailleur de fonds. Pour se faire, l’évaluation doit également être positionné à un niveau stratégique et non plus une simple mesure de la performance des équipes opérationnelles.
1. Formalisation du SSE en phase de montage
Définir et formaliser le système de suivi-évaluation dès la phase de montage, avec validation du comité de pilotage, tout en tenant compte de son caractère évolutif.
2. Accompagnement de la phase de montage
Au niveau du bailleur, engager une analyse transversale des blocages en phase de montage, et combler le déficit de littérature existante concernant l’appui à l’écriture de projet (vs manuel de mise en oeuvre). Réallouer les ressources pour renforcer la phase de montage, solliciter des scénarios alternatifs systématiques.
3. Dépasser les critères du CAD
Intégrer des critères d’évaluation spécifiques (gouvernance, consultation, participation, la réciprocité, adéquation au contexte, alignement avec les politiques nationales,…)
4. La maintenance du SSE comme outil de pilotage stratégique
Organiser des séminaires SEA périodiques, pour partager les apprentissages, libérer la parole, ajuster les questions évaluatives et les méthodes, renforcer les capacités des acteurs impliqués en SE
5. Organiser le transfert d’expérience et de compétences en SE, des programmes de coopérationvers les politiques publiques
Reconnaître et valoriser les compétences structurées en suivi évaluation des coordinateurs de projets de coopération ; établir des passerelles afin de transférer l’expérience en suivi-évaluation de la coopération vers l’évaluation de politiques publiques
6. Embarquer une ingénierie pédagogique
Associer aussi systématiquement que possible une expertise interne en ingénierie de formation à tout projet de coopération incluant du renforcement de capacités
7. Embarquer les organisations de formation professionnelle
Approcher systématiquement les organismes nationaux de formation professionnelle continue dans les projets de coopération pour assurer le transfert et la durabilité des actions de renforcement des capacités.
8. De la coopération décentralisée à la transition des territoires
Favoriser une dynamique d’échanges réciproques entre agents des collectivités locales et opérateurs des RRMA afin de mutualiser les expertises et renforcer les capacités de tous les acteurs territoriaux.
9. Un pont entre théorie et pratique : les partenariats universitaires
Établir dès le lancement de chaque projet un partenariat avec une formation universitaire en gestion de projet pour le partage d’expériences et la création de supports de formation basés sur le projet.
10. Mémoire institutionnelle Vérifier et garantir la publication systématique des évaluations finales externes et leur accès via une base de données simplement accessible afin de renforcer la redevabilité et consolider la mémoire institutionnelle.
11. Des termes de référence évolutif pour ajuster l’évaluation et répondre à des besoins opérationnel émergents
Ajuster les Termes de Référence (ToR) pour assurer un équilibre entre apprentissage et redevabilité, où l’évaluateur externe peut également jouer un rôle de facilitation et participer à prolonger les effets d’un projet clôturé
12. Poursuivre la relation au-delà de la remise du rapport d’évaluation
Impliquer les équipes d’évaluation après la validation du rapport pour assurer le suivi des recommandations et la capitalisation des enseignements.
Par exemple, en 1973, Schumacher en prônant des solutions à petite échelle, des technologies appropriées et l’autonomisation locale, dans son ouvrage « Small Is Beautiful : A Study Of Economics As If People Mattered » fournit un cadre conceptuel pour concevoir des projets dont les bénéfices sont susceptibles de perdurer grâce à l’appropriation et aux capacités locales, rejoignant ainsi l’essence du critère de durabilité du CAD de l’OCDE (1991.) ↩︎
Ce post informel vise à comparer deux évaluations de projets finales, réalisées en 2024/2025, la première sans recours à l’IA et la seconde avec un recours partiel à l’IA.
En terme de contexte, il s’agit d’évaluations externes de projets de coopération décentralisée, dans le domaine de la transition urbaine et de la transformation des territoires.
La première en Tunisie sur les thématiques de la mobilité douce et de la participation citoyenne (projet Autrement : Aménagement Urbain du Territoire pour REinventer les Mobilités et ENgager les Tunisiens). La seconde en Ouganda sur des thématiques multiples (éducation, agriculture urbaine, développement de corridors écologiques, réhabilitation de zones humides,…) : le projet SLICKS (Sustainable, Learning and Inclusive Cities).
L’IA n’a pas été utilisée pour des phases d’écriture. Plutôt pour éclaircir et analyser le contexte, résumer des documents, retrouver des informations éparpillées, très peu pour de la compilation de données.
Chatbot arena est à l’origine un projet de recherche, très pratique, il permet sans compte et sans identification préalable de comparer les réponses de 2 modèles de IA, choisis de manière aléatoire, avec pour objet de voter pour la meilleure réponse.
Ce retour d’expérience sur l’utilisation de l’IA en évaluation de projet est par essence déjà partiellement obsolète : l’interface de Perplexity pro a par exemple en l’espace de quelques mois déjà évoluée à de multiples reprises.
Etude documentaire
Dans le cadre de Autrement, moins d’une dizaine de documents avaient été fournis initialement, essentiels, et environ une demi-douzaine ont été sollicités en cours d’évaluation. En terme de bonne pratique, un dossier avait été préparé à destination de l’évaluateur avec un mémo présentant les différents documents.
Sur fonds européens, une énorme attention avait été portée à la communication dont la production contractuelle d’une stratégie et d’un plan de communication. Très populaire en Tunisie, l’actualisation régulière de la page facebook du projet en était le vecteur principal.
Aseptisés, les rapports semestriels de suivi ne permettaient que trop vaguement de retracer le cycle de vie du projet. Détourné de leur usage, seule la relecture des posts facebook souvent bi-hebdomadaires sur une durée de 3 ans a permis de saisir un certain quotidien du projet dans sa chronologie. S’imprégner des commentaires, analyser les images mises en avant ou comprendre en regardant les arrières plans (kakémonos, buffets, feuilles de présences,…) l’immense charge opérationnelle sur une équipe tout à fait réduite qui a organisé des centaines d’évènements. Une ré-appropriation tardive (le projet était alors déjà clôturé) mais nécessaire pour l’évaluateur, sans doute inaccessible via l’utilisation de l’IA.
A l’inverse, sur SLICKS, le projet avait produit et transmis près d’une centaine de documents, tous aussi intéressants les uns que les autres, mais encore en vrac, à l’approche de sa clôture.
L’avantage de Perplexity pro était justement de pouvoir télécharger des documents. L’usage de l’IA a alors permis de compiler/résumer chaque document pour ensuite les intégrer manuellement dans un tableur avec le titre et la date de la production, les auteurs et une note de commentaire.
L’avantage de la lecture directe – sans appui de l’IA – est cependant en bout de course, c’est à dire en fin d’évaluation, cette impression de connaitre « intimement » chaque document, parcouru des dizaines de fois, savoir où trouver une information précise, avoir détecté parfois en lisant à travers les lignes les sources de motivations, les déceptions, une appréciation sur la qualité des partenariats, les conflits larvés, les modes de travail, les grains de sables dans les rouages de la machine. Cette double lecture, déjà souvent rendue difficile en raison du discours policé des formats de reporting, devient alors totalement insaisissable avec l’IA, avec une masse uniforme des documents, ne reste plus qu’un tout impersonnel.
A l’inverse, j’ai le souvenir de rapports semestriels tellement imbuvables (« le 12 janvier nous avons eu une réunion avec x, le 26 février se tenait le séminaire avec y,… ») que la fonction de résumé, d’extraction des idées clés, de simplification grâce à l’IA est tout autant extrêmement louable. Mais encore, il faut savoir paramétrer son IA car lui demander de lire « entre les lignes » peut être tout simplement bluffant.
Collecte de données
Analyse du contexte
En ce qui concerne le contexte tunisien, étaient systématiquement évoquées des lourdeurs et complexités administratives. Néanmoins, les entretiens individuels n’ont jamais permis de reconstituer – dans le détail ou dans le temps imparti – la réalité de cette complexité. L’IA aurait sans doute été précieuse pour aider à reconstituer précisément chaque procédure administrative et identifier les principaux points de blocage.
En ce qui concerne l’évaluation ougandaise, l’IA a tout d’abord servi de béquille, toujours via l’accès aux documents (lorsque comme moi vous avez une mauvaise mémoire…) permettant surtout un gain de temps :
Comment s’appelait tel agent de la municipalité ? Et le nom de la zone humide ? L’acronyme de l’agence de l’environnement ? La date du deuxième comité de pilotage ?
Mais encore d’effectuer directement quelques calculs : quelle est la répartition du temps de projet entre la phase de développement et la phase de mise en œuvre ?
En ce qui concerne l’analyse du cadre logique, l’IA a peu été sollicitée. Quelques questions comme « quelle est la proportion d’indicateurs atteint/non atteint » ou « quels indicateurs potentiellement pertinents sont absents ? » ont bien été posées. Mais le format du cadre logique, avec de multiples notes qualitatives permettant d’apporter des nuances ou de mieux interpréter les résultats rendait périlleuse toute délégation qui n’aurait pas été vérifiée « manuellement. »
Astuce : le prompt « trouve les indicateurs qui étaient présents dans le cadre logique initial et qui ne sont plus présents dans le cadre logique final » est bien plus éclairant pour identifier les objectifs abandonnés en cours de route que la seule analyse des indicateurs non atteints !
Par contre, en ce qui concerne l’analyse des contextes, l’IA permet sans doute d’aller droit au but dans ses recherches : « quel est le montant des investissements français en Ouganda ?y’a-t-il eu des cas d’expropriation sur des projets de restauration de zone humide soutenus par des bailleurs de fonds ? Quelle est la proportion de l’aide française allouée à la coopération décentralisée ? Quelle est l’ampleur de la coupe budgétaire de l’APD française sur le budget 2025 ? », etc.
C’est sans doute à double tranchant car répondre à ces mêmes questions par tâtonnement tout en consultant de multiples sources permet d’obtenir progressivement et même involontairement d’autres éléments de contexte pertinents.
Phase d’écriture
Comme indiqué plus haut, l’IA n’a pas été utilisée pour générer du texte qui aurait été incorporé à l’évaluation. Des textes générés, à titre d’essais, pour reproduire le déroulé chronologique des actions n’étaient pas satisfaisants et devaient systématiquement être repris.
D’autres textes, toujours à titre d’expérimentation, étaient bluffants mais nécessitaient un travail préalable de génération de prompt aussi conséquent en terme de temps que le travail direct d’écriture…
L’IA aurait éventuellement pu permettre une fois l’écriture achevée, manuellement, de tout reformuler dans le language attendu, plus direct, des phrases moins alambiquées que celles que vous subissez ici, des clarifications pour des acteurs ayant des connaissances variables du projet. Décliner plusieurs versions en un simple clic, etc. Cela demande néanmoins un certain détachement de l’évaluateur pour considérer son texte comme un objet purement administratif mais aussi une phase de travail complémentaire, afin d’exclure toute perte de sens du texte initial. Une nouvelle phase chronophage et non prise en compte dans les termes de référence initiaux.
En bref
J’ai souvent été pris entre 2 feux : entrer directement dans le vif du travail d’évaluation ou prendre le temps de s’en écarter pour générer des prompts de qualité, bien organiser ses espaces (les dossiers où sont rangés les documents dans Perplexity) et les subtilités toujours changeantes entre les potentialités de requête (web, documents des espaces, académiques, forum de discussion,…). Dans cette période de far west de l’IA, les mises à jour et évolutions ergonomiques étaient quasi-quotidiennes.
Priorisant la première option, avec des requêtes mal formulées, sans comprendre comment s’organisait le périmètre de lecture ou la hiérarchisation des données lorsque qu’une requête recouvrait potentiellement des dizaines de documents, j’ai aussi souvent eu l’impression de perdre du temps. Ou encore, s’agacer face à des discussions qui ne suivent plus le fil de discussion et repartent de zéro. Commencer une tâche avec l’IA, pester et la finir humainement au « jus de cerveau déconfit » .
Ce n’est pas le même métier
Au final, en terme de tâches, ce n’est plus vraiment le même métier. Dans son approche traditionnelle, artisanale, il y a une certaine satisfaction d’un travail d’évaluation achevé : construire un texte, organiser des points de vue, transmettre des recommandations. Satisfaction que je ne retrouve pas forcément en tant que « dresseur d’IA ». Pas plus qu’en tant que manager d’une équipe d’évaluation par ailleurs, chacun ses appétences.
Du point de vue du bailleur ou du commanditaire
Triste constat ou non, le gain de qualité d’une approche artisanale n’en vaut pas forcément le surcoût. Tout dépend des enjeux et du contrat initial.
En ce qui concerne les enjeux, bien sûr à l’échelle d’une politique publique, ce surcoût est négligeable. Ou plutôt à coût équivalent, une approche classique pourra utiliser l’IA pour couvrir un périmètre plus vaste et générer des analyses plus profondes.
Pour l’évaluation de relativements modestes projets de développement comme ceux pris ici en exemple, visant à analyser leurs performances dans un cadre contractuel, le gain d’une mobilisation d’un consultant sur 30 jours versus un premier jet rapide de « gavage » d’IA (analyser les documents de projets grâce à un prompt fourni et détaillé) est sans doute fine – mais encore pourrait générer un gain de cohérence global de l’exercice : même pondération, même appréciation des critères,…
D’où la référence au contrat initial, et particulièrement à l’adaptation des TdR (termes de référence).
En effet, au-delà de l’approche IA ou traditionnelle, de l’inclusion de l’IA ou non, les limites de ce genre d’exercice d’évaluation perdurent au fil des années puis des décennies :
l’évaluation arrive trop tardivement dans le cycle de projet et ne participe pas à révéler les valeurs qui sous-tendent l’action
le dispositif de suivi et évaluation ne concerne que la phase opérationnelle, les cafouillages récurrents et semble-t-il systématique des phases de montage de projet ne sont pas documentés et sortent du périmètre de l’évaluation
le système de suivi évaluation n’est pas validé par le comité de pilotage sous la forme d’un document formalisé (comme peut l’être la stratégie de communication évoquée plus haut sur les projets européens)
les termes de références sont élaborés en amont et ne sont pas réactualisés tout au long de l’évaluation pour affiner les centres d’intérêt et questions évaluatives
les projets évoluent en silo sans mise en commun des apprentissages
des cycles de projets unique, trop court, ne permettant pas à l’évaluation de dégager des effets mais uniquement les impulsions générées
pas de visibilité sur le parcours de l’évaluation une fois celle-ci achevée
la perception partagée que seule la présentation powerpoint sera lue et que tout doit apparaitre dans le résumé exécutif « pour ceux qui ne lirons que le résumé exécutif »
programmer dès le démarrage la remise de l’ensemble des pièces constitutives du système de suivi évaluation : modélisation, cadre logique, présentation du SSE, évaluation à mi-parcours, évaluation finale
adopter des formats courts et itératifs (par exemple plutôt qu’un long rapport d’évaluation, une présentation type powerpoint qui va être présentée dès le retour du terrain puis évoluer à différents moments clés pour inclure les différentes perceptions qui auront émergées)
améliorer les cadres logiques initiaux en fonction d’erreurs récurrentes sur l’utilisation de la méthode (omission des phases d’analyse initiale, absence d’indicateurs permettant de qualifier et quantifier l’évolution des risques, d’apprécier les vents contraires, déséquilibre entre indicateurs de réalisations et d’effets, terminologie qui diffère dans le cadre logique d’un projet à l’autre…)
extraire et confronter les apprentissages de projets similaires comme base préalable de toute écriture de projets
Mais surtout, l’utilisation (voire l’autorisation ou non) de l’AI et sur quelles tâches doit être précisée dans les termes de références puis re-spécifié en fonction de la réponse de l’équipe d’évaluation. Un texte généré en quelques minutes ou un travail de recherche de plusieurs jours ne saurait être rémunéré de la même façon.
Un paragraphe dédié à l’utilisation de l’intelligence artificielle dans les ToR
L’utilisation et quelle utilisation de l’AI est autorisée ou attendue doit être explicité dans les termes de référence et discuté âprement avant tout contractualisation car elle modifie de manière substantielle le nombre de jours prestés.
Quelques outils IA :
Des centaines d’onglets ouverts, des questions qui tournent dans plusieurs fenêtres et vous ne savez plus ni où est votre question initiale ni comment accéder aux réponses générées ? Allez vous coucher ou essayer le lien suivant comme base de départ :
En bref : cet article présente une expérimentation d’outils IA dans le cadre d’une évaluation de projet en Ouganda, dans la foulée d’une autre évaluation menée sans IA en Tunisie (les deux phases de terrain ayant eu lieu en 2024). L’objectif était de voir concrètement ce que l’IA pouvait apporter au métier d’évaluateur.
L’IA s’est montrée particulièrement efficace pour des tâches de recherche et de synthèse d’informations factuelles :
– Clarifier le contexte : retrouver des informations sur des procédures administratives, des acronymes, des dates, etc.
– Traiter une grande masse de documents : pour le projet en Ouganda, l’IA a permis de compiler et de résumer une centaine de documents, ce qui aurait été très chronophage manuellement.
– Perte de la « compréhension intime » : l’analyse manuelle des documents, bien que plus lente, permet une immersion profonde dans le projet, des points de détails aléatoires, une compréhension des non-dits et des dynamiques humaines que l’IA ne saisit pas forcément.
L’IA a été peu utile pour analyser des éléments du cadre logique, car le risque d’hallucination et les nécessaires vérifications rendaient une analyse automatisée plus chronophage qu’une simple analyse manuelle. De la même manière, non convaincu par la qualité des textes fourni et des multiples niveaux d’adaptation nécessaires, une écriture manuelle était jugée plus rapide.
Néanmoins avec l’amélioration continue des modèles, le temps dédié à la génération de prompts est de mieux en mieux investi, avec des possibilités d’exploitation vertigineuses. En quelque secondes, il est désormais possible de faire analyser un étude de base, une évaluation à mi-parcours une évaluation finale d’un même projet et obtenir un niveau de qualité, qui même s’il est perfectible, freinera les ardeurs de tout commanditaire à mobiliser des ressources complémentaires.
