Académique Documents
Professionnel Documents
Culture Documents
Unité-Discipline-Travail
--------
MINISTÈRE DE L’ECONOMIE ET DES FINANCES
---------
Projet d’Appui à la Gestion Économique et Finan-
cière (PAGEF)
--------
Cellule Technique de Coordination
JUIN 2022
SOMMAIRE
2
LISTE DES SIGLES ET ABREVIATIONS
3
PRESENTATION DU GUIDE
Le présent guide a été élaboré en vue d'aider les auditeurs des ISCA à réaliser des évaluations
des politiques publiques de qualité élevée. Il définit les principes sous-tendant l'approche des
ISCA en matière d'évaluation des politiques publiques ainsi que les procédures à appliquer.
Il vise à aider les auditeurs à effectuer des évaluations des politiques publiques de manière
économique, efficiente et efficace.
L’évaluation des politiques publiques étant une discipline non normée au plan international, la
démarche proposée dans le présent guide s’inspire largement de celle proposée par la société
française de l’évaluation (SFE) ; une association qui a pour vocation de contribuer au
développement de l’évaluation et de promouvoir son utilisation dans les organisations publiques
et privées.
Selon les bonnes pratiques dans le domaine, en plus du présent guide, les ISCA devraient
disposer d’une charte de l’évaluation des politiques publiques laquelle, s'adresse aux personnes
participant au processus d'évaluation à titre professionnel, qu'ils soient commanditaires,
évaluateurs ou membres d'instances de pilotage. Elle constitue un guide de principes généraux,
largement reconnus dans le milieu professionnel.
Le guide contient trois chapitres, couvrant les thématiques suivantes : les généralités sur les
concepts des évaluations de politiques publiques, les prérequis nécessaires à l’évaluation des
politiques publiques et en fin, la démarche d’évaluation des politiques publiques.
4
I. GENERALITES
Les ISCA sont généralement investies de l’une, de certaines ou de l’ensemble des missions
suivantes : inspection, contrôle, audit, investigation, études et conseil des services publics et
parapublics en vue de garantir le respect des textes législatifs et règlementaires, de même que
l’optimisation des performances de ces services.
Au terme de l’Article 3 du Décret N° 2018-653 du 1er août 2018, l’Inspection Générale d’État
(IGE), assure la coordination des activités de tous les autres organes d’inspection, d’audit et de
contrôle internes administratifs en République de Côte d’Ivoire.
L’évaluation apparaît comme une appréciation périodique et objective des PPP prévus, en cours
de réalisation ou achevés. L’évaluation permet de répondre à des questions précises liées à la
conception, la mise en œuvre ou aux résultats des PPP.
5
Contrairement au suivi qui est continu, l’évaluation est périodique et effectuée à un moment
donné, généralement par des spécialistes extérieurs au PPP. La conception, la méthodologie et
le coût des évaluations varient fortement en fonction du type de question à laquelle elles
répondent. D’une manière générale, l’évaluation s’attèle à trois types de questions :
Les différentes typologies proposées conduisent à distinguer notamment (i) les évaluations «
récapitulatives » (visant à aboutir à une appréciation globale et distanciée), (ii) les évaluations «
formatives » (visant à éclairer les acteurs impliqués dans la mise en œuvre d'une politique sur le
contexte et les conséquences de leurs pratiques), (iii) les évaluations « managériales » (visant à
rendre plus efficiente la gestion publique), (iv) les évaluations "démocratiques" (ayant pour
ambition d'accroître la qualité et la transparence du débat public).
6
Les données collectées au cours de l’évaluation sont analysées afin de
produire une appréciation sur la conduite et les impacts de l’intervention
publique. La formulation d’un jugement sur la valeur de l’intervention publique
implique une prise de position des évaluateurs sur la base de faits objectivés et
le croisement des données récoltées notamment auprès des différents acteurs
aux intérêts parfois divergents, d’où l’importance du principe de pluralité des
points de vue dans la conduite de l’évaluation. La transparence quant aux
sources des données et leurs limites est indispensable à ce travail
d’objectivation. En outre, l’autonomie de l’évaluateur par rapport au processus
de gestion (principe de distanciation) garantit l’impartialité des constats posés.
L’évaluation des politiques publiques est destinée à éclairer la décision politique
ou administrative (finalité décisionnelle). Sur la base des constats posés, les
préconisations concluent la démarche d’évaluation et alimentent la décision
publique. Ces préconisations peuvent ainsi déboucher sur des décisions
d’amélioration, de prolongation, de réorientation ou d’arrêt de l’intervention
publique. L’évaluation répond ainsi aux questionnements d’un commanditaire
qui est en capacité de décider des évolutions sur la base des constats et
Aider à la décision préconisations proposés par l’évaluation.
Enfin, l’évaluation des politiques publiques permet d’améliorer l’action publique
et son pilotage (finalité démocratique). Elle permet, d’une part, une optimisation
de l’utilisation des ressources publiques en améliorant la pertinence et
l’efficience des politiques publiques menées. D’autre part, la consultation voire
Améliorer la gestion l’association des bénéficiaires et/ou citoyens aux travaux évaluatifs est
publique indissociable du processus évaluatif et permet une analyse de l’adéquation de
l’intervention publique aux besoins des publics. Par ailleurs, la fonction
démocratique de l’évaluation des politiques peut s’incarner également dans la
diffusion aux partenaires ou aux citoyens des résultats de l’évaluation afin de
contribuer au débat public sur le sujet traité.
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
8
les bénéficiaires) collaborent pour concevoir et conduire une évaluation et en
tirer les conclusions.
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
Le déclenchement de l’évaluation
Les évaluations s'inscrivant dans un cadre juridique externe ou interne à la structure publique.
L'évaluation est parfois rendue obligatoire par les textes législatifs et règlementaires nationaux
ou sous-régionaux. À titre exemple, l'UEMOA ou la CEDEAO peut demander une évaluation
des actions financées par des fonds communautaires. En interne à la structure publique,
l'évaluation peut être prévue dans des documents à la portée juridique plus ou moins forte tels
que :
10
Les évaluations résultant d'une décision politique ou managériale. Lorsque le déclenchement
d'une évaluation n'est pas lié à un cadre juridique spécifique, elle peut être décidée pour :
Quelles que soient les motivations, le déclenchement d'une évaluation doit s'effectuer au
moment opportun. La démarche évaluative enclenche, en effet, un processus de changement
dans l'intervention publique. Le contexte politique, financier, juridique ou encore organisationnel
doit ainsi être favorable à de tels changements sans quoi l'évaluation restera inutile.
11
II. PREREQUIS NECESSAIRES A L'EVALUATION DES POLITIQUES PUBLIQUES
Le contexte initial et les enjeux de l’action publique constituent une référence de base en
évaluation. Ils forment un point de comparaison pour mesurer la pertinence des objectifs définis,
l'évolution éventuelle des besoins et l'amélioration de la situation des publics visés sur le
territoire.
Le diagnostic met ainsi en lumière l'offre existante au regard des besoins du territoire et de la
population.
Pour certaines politiques publiques, la mise en place d'une démarche d'évaluation ex-ante peut
s'avérer pertinente. En effet, une évaluation ex-ante permet d'éclairer les choix effectués par les
décideurs en analysant le contexte à l'origine de l'intervention publique (éléments de contexte,
motivations de l'action, parties prenantes), le contenu des interventions prévues, les conditions
de mise en œuvre (adaptation des moyens prévus aux objectifs) ainsi que les résultats attendus
(liens de causalité entre les objectifs énoncés, les actions prévues et les effets attendus).
Dans l'optique de définition d'une action publique plus durable, les démarches de prospective
permettent, par ailleurs, d'établir un diagnostic et d'explorer les futurs possibles à moyen et long
terme.
12
À partir de la situation actuelle, la prospective dégage les forces et faiblesses pour l'avenir et
détermine les dynamiques de changement et les ruptures possibles. Le diagnostic prospectif est
généralement établi de manière participative avec les acteurs. Ce diagnostic permet ensuite la
construction de scénarios constitutifs de projets d'avenir différents.
Lors d'un diagnostic de la situation initiale, le recueil des besoins des publics doit constituer un
point d'attention particulier afin de construire une action publique adaptée et pertinente. De
nombreuses techniques de recueil des besoins, quantitatives ou qualitatives, auprès de la
population sont envisageables.
La réalisation d'une enquête par questionnaire auprès du public requiert la mise en œuvre d'une
méthodologie assez précise dont les principales étapes sont les suivantes :
Préparer l'enquête : définition des objectifs précis de l'étude et identification des cibles ;
Choisir les modalités de recueil : choix des modalités les plus adaptées en fonction de la
population cible (internet, téléphone, courrier, face-à-face...) et structuration de
l'échantillon (échantillon ouvert ou échantillon représentatif par quotas) ;
Construire le questionnaire : formulation de questions neutres et compréhensibles pour
la population cible (mixage des questions fermées et des questions ouvertes) et
détermination du profil des répondants (recueil des données sociodémographiques
constituant des variables pertinentes pour l‘étude) ;
Administrer le questionnaire : respect de règles déontologiques (principes de
l'anonymat) et maximisation de la participation (précision des enjeux de l'étude et de
l'intérêt à participer, attractivité de la présentation de l'enquête, relances etc.) ;
Analyser les résultats ;
Informer les participants des résultats de l'enquête (les modalités de diffusion des
résultats s'apprécient au cas par cas : réunion de restitution, envoi d'une lettre
d’information).
Lorsque la population cible est réduite ou en complément d'une enquête par questionnaire, des
techniques plus qualitatives peuvent être mobilisées.
Les entretiens individuels ou collectifs permettent, à partir d'un guide d'entretien plus ou moins
directif, d'aborder l'ensemble des points recherchés. Ils apportent des éléments plus qualitatifs
et compréhensifs fondés sur le ressenti et la perception de la personne interrogée.
13
2.2. Identification des objectifs
La démarche d'évaluation place au centre de son analyse les objectifs de l'intervention publique.
L'évaluation permet notamment d'apprécier la pertinence des objectifs et d'en mesurer l'atteinte.
L'évaluation est, ainsi, d'autant plus facile que les objectifs sont définis de manière précise et
hiérarchisée.
Un objectif est la formulation, généralement sous forme de verbe, de l'action qui doit être menée
afin d'atteindre un résultat souhaité ou une situation cible. On distingue :
♦ Les finalités
Les finalités sont les grands enjeux politiques qui répondent aux problématiques économiques
et sociales d'une population et d'un territoire. Elles correspondent généralement aux grandes
missions de la collectivité.
Différentes méthodes de formulation d'objectifs peuvent être mobilisées, la plus connue étant la
méthode SMART (SMARTER dans une version améliorée). Cet acronyme présente les
éléments indispensables à la définition d'objectifs opérationnels de qualité.
Exemples :
14
Tableau 4 : méthode SMARTER
L’objectif est L’objectif est L’objectif donne un L’objectif tient L’objectif est délimité L’atteinte de L’objectif est
clairement énoncé quantifié et cap et est une compte de la dans le temps et fixe l’objectif peut être adaptable si le
et précis. mesurable. source de réalité et est une échéance. évaluée. contexte
motivation. atteignable. change.
Source : http://www.sfe-asso.fr/content/ressources-sur-levaluation
L'arbre des objectifs est un outil permettant de formaliser les objectifs stratégiques et
opérationnels de l'intervention publique. Il permet ainsi de structurer l'intervention publique selon
une arborescence à plusieurs niveaux. Chaque objectif répond, ainsi, à un ou plusieurs objectifs
du niveau supérieur. L'arbre fait généralement apparaître à minima les objectifs stratégiques et
opérationnels. En fonction de l'envergure de l'intervention publique ou de sa complexité, il peut
être nécessaire d'ajouter d'autres niveaux d'objectifs ou également les actions répondant aux
objectifs afin de clarifier la structure globale de l'intervention.
L'arbre des objectifs doit ainsi permettre de faire ressortir le chemin logique partant des finalités
de la politique publique aux actions envisagées.
Pour les services, la formalisation des objectifs permet le partage des enjeux et objectifs de
l'intervention publique au sein des équipes et facilite l'adhésion des acteurs internes et externes.
On les retrouve dans l'ensemble des documents structurant l'intervention publique : rapports en
assemblée, conventions, schémas, fiches projet etc...
L'existence d'un arbre des objectifs facilite le travail de l'évaluateur, qui dispose d'un référentiel
pour questionner la pertinence des actions menées par rapport aux besoins observés sur le
territoire et leur efficacité par rapport aux objectifs définis. A défaut d'une formalisation précise
au moment de la conception de la politique, l'évaluateur procède à la construction de l'arbre des
objectifs afin de construire le référentiel d'évaluation.
15
2.3. Identification des parties prenantes
2.3.1. Identification des parties prenantes, enjeu de conception et d'évaluation de l'action pu-
blique
Ces différents acteurs sont ensuite interrogés au moment de l'évaluation. Cette confrontation
des points de vue des personnes concernées par la politique peut être complétée par les
regards de personnes extérieures, d'experts du domaine, d'acteurs sociaux concernés en tant
que partenaires ou bénéficiaires.
16
Quelle est la place du Département (sous l'angle de ses compétences) vis-à-vis de ces
partenaires ? (exemple : quelle est sa place en tant que chef de file de l'action sociale ou
en tant que gestionnaire des collèges ?)
Quelle place laisse-t-on à ces différents acteurs dans la démarche d'évaluation ?
Qui ? : quels sont les acteurs et types d'acteurs qui participent ou bénéficient de la
politique publique ?
Pourquoi ? : quel est le rôle de chaque acteur ? Quelles sont ses interactions avec les
autres acteurs / types d'acteurs identifiés
Comment ? : dans quelle mesure les acteurs agissent ou bénéficient de la politique ?
Parmi les différents types d'acteurs identifiés, certains sont aisément identifiables tels que les
décideurs (élus, directeurs...), les bénéficiaires (directs et indirects), les partenaires (internes et
externes), les experts. D'autres seront identifiés au « cas par cas » en fonction de la politique.
Il n'existe pas de modèle unique de sociogramme. De même, un sociogramme n'est pas figé, il
évolue dans le temps en fonction de la place qui est prise par les acteurs à un instant T. Plus le
rôle d'un acteur sera fort, plus il sera placé au cœur du sociogramme. De même, plus
l'interaction entre les acteurs sera forte, plus ils seront proches dans le modèle de
représentation.
Un sociogramme n'est pas un organigramme, les acteurs apparaissent tous sur un même
niveau de représentation. Il s'agit de représenter les interactions entre chacun, sans présager
d'une hiérarchie qui pourrait exister par ailleurs.
Une fois les objectifs clairement définis, il est nécessaire d'y associer des indicateurs pour le
suivi régulier des actions mises en œuvre en vue d'atteindre la référence souhaitée.
17
C'est une représentation, généralement chiffrée, de l'objectif défini à différents niveaux et mise à
jour à intervalles déterminés.
Exemples
Indicateurs relatifs à la mise en place d'un service expérimental d'aide et de soins à domicile en
direction des personnes âgées dépendantes :
o Indicateur de contexte : part des personnes âgées de plus de 65 ans sur le
territoire de l'expérimentation ;
o Indicateur de réalisation : taux de remplissage des places disponibles au sein du
dispositif ;
o Indicateur de moyen : taux d'utilisation de l'enveloppe financière dédiée à
l'introduction de nouvelles technologies au domicile des bénéficiaires ;
o Indicateur de résultats (lié à l'objectif opérationnel suivant : assurer une prise en
charge complète et sécurisée au domicile) : évolution de la répartition des
interventions réalisées par type (soins, aides à domicile, vie sociale...) ;
o Indicateur d'impacts (lié à l'objectif stratégique suivant : favoriser le maintien des
personnes âgées en perte d'autonomie à leur domicile) : taux de sorties
définitives du dispositif pour cause d'entrée en établissement ;
18
o Indicateur de qualité : taux de satisfaction globale des bénéficiaires du service.
1. Identifier les objectifs nécessitant un suivi régulier, interne aux services et ceux qui
feront l'objet d'une évaluation ponctuelle.
3. Vérifier la pertinence des indicateurs retenus en les testant sur un échantillon pour éviter
les biais ;
4. Définir des normes et des valeurs cibles par rapport à des données internes (historiques
ou prévisionnelles) ou par comparaison externe qui seront constitutifs d'un point zéro.
5. Mettre en place les modalités de recueil en s'appuyant notamment sur les systèmes
d'information existants au sein de la collectivité (cela implique de vérifier que les
données sont bien renseignées et que les indicateurs obtenus sont solides et
exploitables).
6. Outiller les personnes chargées de suivre les indicateurs en s'appuyant notamment sur
une fiche indicatrice détaillée servant de référence commune à l'ensemble des acteurs
concernés.
7. Sensibiliser les agents au recueil et à l'utilisation des données afin de garantir la fiabilité
des indicateurs et la précision des analyses tirées de ces indicateurs.
19
Tableau 5 : bonnes pratiques pour la mise en place des critères
Bonnes pratiques
Veiller à instaurer une cohérence d'ensemble pour que les indicateurs des différents services ne
soient pas en contradiction les uns avec les autres.
Être attentifs aux indicateurs de réalisation : s'ils sont les plus simples à établir, ils ne permettent
pas à eux seuls d'apporter une information pertinente pour la mesure de la performance ; ils sont
uniquement descriptifs.
Éviter de se focaliser sur l'atteinte du seul indicateur en oubliant la qualité de la mise en œuvre.
Opérer avec prudence lors de la comparaison avec des valeurs externes, au regard des
politiques et objectifs particuliers définis par chaque collectivité et des situations propres
contextuelles.
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
20
III. DEMARCHE D’EVALUATION DES POLITIQUES PUBLIQUES
3.1.1. Suivi-évaluation
Ces deux démarches ne sont pas exclusives l'une de l'autre mais, au contraire, complémen-
taires (cf. tableau ci-dessous). La mise en place d'un suivi-évaluation dès la conception de la
politique publique facilite les démarches d'évaluations ponctuelles. Le suivi- évaluation enrichit
l'évaluation de politique publique par l'ensemble des données recueillies et permet de centrer
l'évaluation sur les besoins, les impacts et le cadre coopératif, l'effectivité des actions et leurs ef-
fets à court terme étant déjà connus.
21
Tableau 6 : suivi évaluation et mission d’évaluation des politiques publiques
Associer des outils de pilotage issus des Mobiliser un panel large de méthodes de
unités en charge de l'observation, du suivi, de
Modalités de mise recueil des données issues des sciences
en œuvre l'analyse de l'activité et du contrôle de gestion sociales afin de croiser les points de vue de
(construction d'indicateurs et de tableau de l'ensemble des parties prenantes à l'action
oeuvreObjectifs
bord) et des méthodes évaluatives plus publique évaluée.
qualitatives (entretiens individuels ou
collectifs, suivi de cohorte).
Anticipation Opportunité
Organiser la démarche et les moyens de Veiller à l'opportunité de la démarche.
suivi-évaluation au moment de la conception L'évaluation des politiques publiques est un
de l'intervention publique afin d'être en outil d'aide à la décision qui a vocation à
capacité de l'initier dès le début de la mise en améliorer, changer l'intervention publique. Le
œuvre des dispositifs.
Points de vigilance contexte doit ainsi être favorable à ces
potentiels changements.
Proportionnalité
Proportionner le dispositif de suivi- évaluation Portage politique et hiérarchique
à l'action ou à la politique publique S'assurer d'un portage politique et/ou
concernée. Le suivi-évaluation constitue un hiérarchique fort. Une évaluation est une
appui au pilotage et ne doit pas peser de démarche longue qui nécessite la coopération
manière disproportionnée sur la gestion de chacun dans la préparation et la conduite
quotidienne (temps dédié, moyens affectés). de l'évaluation. Elle induit également des
changements potentiellement importants qui ne
peuvent être mis en œuvre sans décision
politique ou stratégique.
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
A l’instar de tout projet, une démarche d’évaluation est pilotée par un système de gouvernance
spécifique positionnant chacun des acteurs dans un rôle précis. En application du principe de
responsabilité de la charte de l’évaluation, les rôles de chacun sont définis dès la préparation de
l’évaluation afin d’assurer le bon déroulement de la mission d’évaluation.
22
Les décideurs
Les décideurs sont les élus et/ou les membres du comité de direction qui sont décisionnaires
dans le pilotage et la mise en œuvre de la politique ou de l'action évaluée. En tant que comman-
ditaires de l'évaluation, ils ont la responsabilité de définir les objectifs et le périmètre de l'évalua-
tion, d'acter les conclusions de l'évaluation et de définir le plan d'action sur la base des préconi-
sations.
Les évaluateurs
Dans le cadre d'une mission ponctuelle d'évaluation réalisée par l’ISCA, une équipe de chargés
d'évaluation est missionnée pour la réalisation de l'évaluation.
Dans tous les cas, l'évaluation peut être externalisée à un prestataire extérieur en particulier
lorsque le périmètre ou les méthodes évaluatives envisagées requièrent des connaissances ou
une technicité particulière.
Cette participation s'incarne notamment par la désignation d'un référent, interlocuteur privilégié
de l'équipe d'évaluation.
23
3.2.2. Instances de pilotage d'une démarche d'évaluation
Une démarche d'évaluation est pilotée par différentes instances qui regroupent les acteurs
précédemment identifiés.
Le comité technique
Le comité de pilotage
Il se réunit aux étapes clés de la mission d'évaluation afin d'acter la démarche d'évaluation
proposée par les évaluateurs (validation du plan d'intervention) et de décider des suites
données sur la base des constats et des préconisations du rapport d'évaluation.
24
Ces étapes peuvent être schématisées comme suit :
Source : http://www.sfe-asso.fr/content/recensement-des-outils-pratiques-devaluation
La période de préparation de l'évaluation est une étape charnière des démarches d'évaluation.
Elle se décompose en deux sous- étapes que sont la définition de la commande et la
construction de la méthode d'évaluation qui ont pour objectifs de :
déterminer les objectifs de l'évaluation (quels sont les problèmes identifiés ? quel doit
être l'apport de l'évaluation par rapport à ces problèmes ?) ;
arrêter le périmètre de l'évaluation (quels sont les volets de la politique publique ou les
actions concernés ? un approfondissement thématique ou territorial est-il nécessaire ?) ;
s'assurer de l'opportunité de l'évaluation (dans quel contexte s'inscrit l'évaluation ?
quelles sont les évolutions possibles suite à l'évaluation ?).
Si le rôle du commanditaire et de l'évaluateur sont distincts, le dialogue entre les deux acteurs
doit être permanent pendant la phase de préparation. En effet, la construction de la méthode
d'évaluation nécessite une réinterprétation de la commande d'évaluation et donc une bonne
compréhension de celle-ci. L'évaluateur doit assez rapidement saisir les enjeux de l'évaluation
afin de proposer une méthode permettant de répondre aux questions posées par le
commanditaire. A l'inverse, la méthode d'évaluation doit être comprise et acceptée par le
commanditaire. De cette compréhension mutuelle dépend la qualité de l'évaluation ainsi que
l'utilisation des résultats et la mise en œuvre des préconisations de l'évaluation. Une lettre de
mission signée du commanditaire à l'attention de l'évaluateur permet d'acter officiellement le
cadre et les attendus de l'évaluation, et en particulier le calendrier et les livrables définis.
Le cahier des charges est rempli par le commanditaire à l'attention de l'évaluateur. Il s'articule
autour de trois points à remplir.
1. Le contexte
2. Le champ de l'évaluation
26
B. La formalisation d'une méthodologie d'évaluation : le plan d’intervention
L'évaluateur s'appuie en particulier sur l'arbre des objectifs et le sociogramme des acteurs pour
définir la méthodologie de l'évaluation. En leur absence préalable, ces outils sont construits par
l'évaluateur durant la phase de préparation.
Afin d’apprécier la valeur d’une politique publique ou d’une action, six critères sont retenus. Ils
permettent d’analyser l’ensemble des dimensions de l’intervention publique.
A partir de besoins identifiés sur un territoire ou pour une population, les objectifs d'une
intervention publique sont définis. Ces objectifs sont mis en œuvre par des actions et des
moyens associés. La mise en œuvre des actions permet la production de résultats à moyen et
long terme, ces résultats ont un impact sur le territoire et la population, ils produisent un
changement qui fait évoluer les besoins.
Les six critères de l'évaluation des politiques publiques permettent de mettre en lien l'ensemble
de ces éléments afin d'analyser la politique publique dans sa globalité.
27
Le critère de la pertinence permet d'évaluer l'adéquation des objectifs de l'intervention aux be-
soins du territoire et de la population. Dès lors, les objectifs assignés à l'intervention doivent
préalablement être connus. Les besoins sociaux, les problèmes visés par l'intervention publique
doivent également pouvoir être identifiés au cours de l'évaluation. Ce critère questionne le fon-
dement même de l'intervention publique évaluée. Il peut ainsi impliquer une remise en cause
forte de l'intervention publique et des préconisations pouvant réorienter le dispositif (renouvelle-
ment des objectifs par exemple en termes de population cible) ou arrêter un dispositif. Il sup-
pose donc l'existence de marges de manœuvre ainsi que l'acception du commanditaire pour
changer en profondeur l'action publique.
Cohérence : l’intervention s’accorde-t-elle avec les autres interventions menées ?
Dans quelle mesure les actions et les moyens mis en œuvre permettent-ils d'atteindre les objec-
tifs ?
On distingue :
un critère de cohérence interne qui permet d'évaluer si les actions et les moyens mis à
disposition sont en mesure de permettre l'atteinte des objectifs. Il permet en particulier
d'étudier la complémentarité des actions évaluées avec les autres actions menées au
sein de la collectivité.
28
Ce critère d'évaluation compare les résultats obtenus aux moyens humains, financiers et maté-
riels utilisés pour la mise en œuvre des actions. Il permet ainsi d'évaluer si :
une utilisation différente des moyens permettrait d'améliorer les résultats ;
une augmentation des moyens permettrait d'améliorer les résultats ;
une diminution des moyens permettrait d'atteindre des résultats équivalents voire de les
améliorer.
Le critère de l'efficience est souvent associé au critère de l'efficacité, les deux critères permet-
tant en effet de qualifier la performance de l'intervention publique (relation entre les objectifs, les
moyens et les résultats), en particulier dans un contexte financier de plus en plus contraint qui li-
mite les moyens mis à disposition de l'action publique.
Le critère d’impact porte sur l’importance ultime et les effets potentiellement transformateurs de
l’intervention. Il vise à déterminer quels sont ses effets sociaux, environnementaux et
économiques à plus long terme ou à plus vaste échelle que ceux déjà évalués au titre du critère
d’efficacité. Au-delà des résultats immédiats, le critère d’impact vise à évaluer les conséquences
indirectes, secondaires et potentielles de l’intervention, à travers l’examen des évolutions
globales et durables des systèmes ou des normes, ainsi que des effets potentiels sur le bien-
être des populations, les droits humains, l’égalité des sexes et l’environnement.
29
L’évaluation s’appuie sur de nombreuses méthodes de recueil des données qui mêlent des
techniques dites quantitatives (qui s’appuient sur des chiffres) à des techniques qualitatives (qui
s’appuient sur des mots).
La combinaison de plusieurs méthodes d’enquête est nécessaire pour assurer la fiabilité des
conclusions de l’évaluation ainsi que le respect du principe de pluralité de l’évaluation.
L'exploitation de données d'activité et des indicateurs d'évaluation donne de la visibilité sur les
réalisations et les résultats de l'action publique. Cela suppose la mise en place au moment de la
définition de l'action publique d'un système de pilotage et d'évaluation en capacité de produire
de tels indicateurs. Elle pose un diagnostic objectif, complété par les autres éléments recueillis
lors de l'évaluation.
L'enquête par questionnaire est mobilisée afin d'identifier les caractéristiques d'une large popu-
lation et de recueillir leurs avis sur la politique évaluée. Elle permet de dégager de grandes ten-
dances, à partir de résultats chiffrés, autour des pratiques et de perception des personnes inter-
rogées Le questionnaire comprend en majorité des questions fermées (le répondant a le choix
entre plusieurs réponses), complétées par quelques questions ouvertes (le répondant est libre
de sa réponse). Le questionnaire peut être rempli par le répondant lui-même ou bien par un en-
quêteur.
L'entretien individuel est utilisé pour recueillir les analyses et les points de vue des personnes
concernées (sur le contexte et l'historique, les modalités et les difficultés de mise en œuvre, les
effets perceptibles, les modes de coopération entre acteurs...). L'entretien permet un approfon-
dissement des éléments mis en avant lors de l'analyse documentaire et l'exploitation des don-
nées, d'élargir le champ d'analyse et de faire émerger le positionnement et les propositions des
acteurs. L'entretien se construit autour d'un guide plus ou moins contraignant (questions plus ou
moins fermées, place donnée à l'échange libre avec la personne plus ou moins forte).
L'entretien collectif (ou focus group) peut être mobilisé pour analyser un sujet complexe auprès
d'un groupe d'acteurs homogène (exemple : acteurs ayant des missions similaires mais interve-
nant auprès de populations différentes ou dans des territoires différents) ou afin de confronter
les points de vue de différents acteurs autour d'un sujet controversé. En phase d'élaboration des
préconisations, l'entretien collectif peut également être utilisé en temps de travail collectif pour
faire émerger un consensus autour de propositions innovantes. L'animation des entretiens col-
30
lectifs doit être de qualité et veiller aux effets de groupe pouvant limiter la liberté de parole des
participants.
L'étude de cas permet une analyse approfondie, à partir de données chiffrées et issus d'entre-
tiens, de certaines situations spécifiques (territoire, groupes de personnes, projets,...) afin d'illus-
trer concrètement les modalités de mise en œuvre de l'intervention publique.
Conformément au principe de pluralité, le recueil du point de vue des bénéficiaires de l'action publique
est essentiel à la qualité de l'évaluation et à la pertinence des conclusions quant à l'efficacité et l'utilité de
l'action publique. Selon les bénéficiaires ciblés et les objectifs de l'évaluation, diverses méthodes peuvent
être mobilisées.
Interroger un nombre important Recueillir des analyses plus Confronter les points de vue et aboutir à
Objectifs de bénéficiaire pour dégager riches auprès d'un nombre des consensus au sein d'un groupe des
des tendances générales. réduit des bénéficiaires. bénéficiaires.
Échantillon large et représentatif Échanges permettant d'aborder Recueil d'éléments qualitatifs auprès de
de bénéficiaires le ressenti des bénéficiaires et plusieurs bénéficiaires simultanément.
des questions complexes.
Avantages Coût réduit par rapport aux Appropriation par le groupe des constats
entretiens. Recueil d'éléments qualitatifs conjointement élaborés.
ne nécessitant pas une
forte représentativité du panel
de bénéficiaires interrogés.
Source : http://www.sfe-asso.fr/content/ressources-sur-levaluation
31
3.4.3. Élaboration des constats et des préconisations
À partir des données collectées, l’évaluateur pose des constats qui doivent répondre aux
questions évaluatives posées lors de la phase de préparation de l’évaluation. Les constats
permettent ensuite à l’évaluateur de formuler des préconisations qui ont vocation à remédier
aux difficultés identifiées et à améliorer l’action publique.
À partir des données collectées, l'évaluateur pose des constats basés sur :
le croisement des données quantitatives et des éléments qualitatifs qui permet de faire
ressortir des faits objectivés, contextualisés et analysés ;
le croisement des points de vue des différents acteurs qui permet en particulier de
mettre en évidence les points de convergence et de divergence des acteurs ainsi que
les perceptions sur une politique ou une action publique.
Cela donne lieu à un rapport d'évaluation (pouvant prendre des formes variées : rapport écrit,
présentation synthétique, schématisations, vidéo...) qui est remis au commanditaire.
Lors d'une évaluation ex-ante (en amont de la politique publique, au moment de sa conception),
les préconisations de l'évaluation portent sur la faisabilité de l'intervention et les modalités
possibles de sa mise en œuvre afin de répondre aux objectifs envisagés (exemple : proposition
de ciblage d'un certain type de public en fonction des besoins identifiés).
En évaluation in itinere (en cours de mise en œuvre de la politique évaluée), les préconisations
porteront sur des améliorations à apporter dans une visée d'efficacité, d'efficience ou de
cohérence du dispositif (exemple : propositions de modalités de coordination entre services ou
avec des partenaires).
En évaluation ex post (en fin d'intervention), les préconisations porteront sur la reconduction ou
non et le cas échéant sur les améliorations à envisager dans la perspective d'une poursuite.
Les préconisations sont directement liées aux objectifs de l'évaluation, aux questions
évaluatives, et aux constats de l'évaluation. La question de leur élaboration est assez délicate
en raison du caractère ambivalent du positionnement de l'évaluateur. L'évaluation doit, en effet,
32
répondre à un principe de distanciation, de neutralité par rapport au processus d'élaboration et
de gestion de la politique publique mais elle doit aussi aider à la décision et être utile au
commanditaire. L'évaluateur doit ainsi garder dans cet exercice une vision assez neutre et
extérieure.
des préconisations opérationnelles qui sont liées aux conditions de mise en œuvre du
dispositif ou des actions proposées et peuvent être mis en œuvre à court terme par la
direction commanditaire [Exemple : Faciliter le suivi et le contrôle de l'activité en
choisissant des indicateurs utiles et contrôlables (nombre d'ouvertures de droits, nombre
de bénéficiaires accompagnés, nombre de sorties du dispositif] ;
des propositions d'ordre stratégique, des orientations face à des problèmes constatés et
qui demandent un travail de réflexion et d'approfondissement par la direction
commanditaire [Exemple : Revoir le périmètre des publics nécessitant un
accompagnement spécifique].
Il est intéressant de présenter les préconisations sous forme de différents scénarii, de présenter
l'éventail des solutions envisageables ainsi que leurs avantages et inconvénients.
Afin de s'assurer du caractère réaliste des préconisations et de leur utilité, il est nécessaire de
s'appuyer sur des échanges réguliers avec la direction commanditaire tout au long de la mission
d'évaluation et de prévoir des temps d'échanges spécifiques sur la construction des
recommandations. Cela garantit une meilleure appropriation des propositions et facilite la mise
en œuvre du plan d'action décidé.
L'évaluation ne prend pas fin au moment du rendu du rapport d'évaluation. Afin de s'assurer de
l'utilisation des travaux d'évaluation, l'accompagnement de l'évaluateur se poursuit au moment
de la définition du plan d'action par le commanditaire puis de sa mise en œuvre.
33
La définition d’un plan d’action
Il permet de :
Corriger les éventuelles erreurs factuelles que peut avoir commis l'évaluateur au sein du
rapport ;
Expliciter les constats établis et en échanger librement avec le commanditaire ;
Partager les préconisations élaborées par l'évaluateur et échanger sur leur faisabilité.
L'évaluateur n'a pas de rôle décisionnaire dans l'élaboration du plan d'action mais constitue une
aide à la décision. A ce titre, il est garant du respect de l'intégrité des constats qu'il a formulé et
des préconisations émises. Il a notamment un rôle d'alerte si le plan d'action omet des
préconisations importantes, si des points de dysfonctionnements ne sont pas traités par le plan
d'action ou si les actions envisagées risquent de déstabiliser les conditions de mises en œuvre
de la politique évaluée.
Dans le cadre de son activité, l'évaluateur peut assurer un suivi de ce plan d'action.
34
Le suivi des recommandations dure un à deux ans après la finalisation de la mission
d'évaluation en fonction de l'avancée du plan d'action.
Acteurs
Point d'avancement Etat de
Actions à mettre en œuvre responsables de la Délais de mise en Commentaires
Selon l'évalué réalisation
mise en œuvre œuvre
AXE 1 : Stratégie
Source : http://www.sfe-asso.fr/content/ressources-sur-levaluation
35
L'importance de la communication doit conduire à définir, le plus en amont possible, la stratégie
de communication adaptée. Le plan d'intervention peut, par exemple, inclure un plan de commu-
nication définissant les différents publics cibles et les modalités de restitution adéquates.
Le rapport d'évaluation
Une évaluation donne lieu à un ou plusieurs rapports écrits. En fonction des objectifs et de la
temporalité de l'évaluation, le commanditaire et l'équipe d'évaluation peuvent s'accorder sur la
transmission d'un rapport intermédiaire, d'un rapport final, d'une synthèse. Les livrables et les
échéances de ceux-ci sont définis dès la phase de préparation de l'évaluation et sont mention-
nés dans le plan d'intervention.
Le rapport final d'évaluation présente toute l'évaluation. Il comprend une présentation des objec-
tifs, des principales questions évaluatives et des méthodes de l'évaluation. Les constats doivent
être précisément argumentés et les préconisations détaillées.
Le rapport utilise un langage clair et des éléments visuels, comme des graphiques, des tableaux
ou des illustrations permettant de comprendre rapidement les informations et les constatations.
Il sert de base à la synthèse, aux présentations orales et autres formes de comptes rendus.
La synthèse est une brève présentation du rapport final. Elle met en lumière les principaux ré-
sultats et les recommandations de l'évaluation. Rédigée dans un souci d'optimisation de la lec-
ture, elle doit faire ressortir les principales informations sans devoir lire l'ensemble du rapport.
Elle doit pouvoir être comprise en tant que document indépendant.
Les temps de restitutions orales avec le commanditaire et les services opérationnels sont parti-
culièrement importants. Ils permettent d'apporter des précisions aux éléments développés dans
le rapport et garantissent une compréhension commune des conclusions de l'évaluation entre
l'équipe d'évaluation et la direction commanditaire.
36
IV. ANNEXES
37
Annexe 1 : Comment formuler des questions évaluatives en fonction de critères
Il s’agit de détailler et préciser vos interrogations en fonction d’une sélection de critères. Pour
chaque critère préfigure certains facteurs qui vont vous permettre d’expliciter et de détailler vos
questions. Les critères, comme les facteurs, ne sont évoqués ici qu’à titre d’exemples et en au-
cun cas exhaustifs.
2. Cohérence
Cohérence externe : la politique est-t-elle complémentaire avec d’autres types d’intervention sur
le territoire ?
Facteurs de cohérence externe :
38
3. Efficacité : les résultats sont-ils conformes aux objectifs ?
Facteurs d’efficacité :
5. Impact : quels seront les effets à long terme, positifs et négatifs, directs ou indirects, induits
par l’action ?
Facteurs d’impact :
39
Répartition des critères sur le tableau de bord prospectif
Pour rappel, pour obtenir un d’équilibre entre les différents points de focus, ce type de tableau
de bord prospectif pourra être utilisé.
Source : https://www.eval.fr/en-fonction-de-criteres/
40
Annexe 2 : Comment construire un arbre d'objectifs étape par étape
Fruit d'un travail collectif, l'arbre d'objectifs est un outil très important à mettre en œuvre en
début de projet. Cette fiche pratique revient sur les finalités, les conditions d'utilisation et décrit
son élaboration étape par étape.
Il s'agit d'une représentation graphique qui a pour vocation de décrire l'imbrication et l'architec-
ture des objectifs. Elle fixe un cadre précis pour l’exécution du projet. L'objectif général est divi-
sé en objectifs secondaires (appelés aussi spécifiques, intermédiaires ou encore sous-objectifs)
plusieurs fois jusqu'à atteindre un niveau opérationnel. Ces objectifs peuvent être quantitatifs
comme qualitatifs.
La navigation dans la hiérarchie de l'arbre est riche de sens. En descendant dans l'arbre, les
sous-objectifs montrent comment l’objectif supérieur va être atteint. En naviguant dans le sens
inverse - c'est-à-dire en remontant dans l'arbre - il est aisé de comprendre la finalité de chaque
sous-objectif.
Intérêt de cet outil
Il permet de valider le réalisme du projet avec les moyens impartis en s'assurant que
tous les objectifs soient atteignables.
La hiérarchie des objectifs est ainsi plus claire , avec des liens identifiables. Il est aisé
d'identifier comment les sous-objectifs contribuent à la réussite de l'objectif principal.
Il donne du sens au travail à mener . Grâce à cet outil, l'équipe projet sait où elle doit al-
ler, quels sont ses buts.
Il simplifie le suivi du projet tout au long de la conduite des tâches et de la sortie des li-
vrables.
41
Ses limites
Il peut être difficile pour une équipe de se mettre d'accord sur une hiérarchie partagée : confu-
sion entre buts et moyens, niveaux de priorité différents selon les sensibilités, etc.
À noter : d'un point de vue méthodologique, l'arbre d'objectifs vient fréquemment après l'arbre à
problèmes. Il fixe le cap pour résoudre les dysfonctionnements et opportunités analysés.
Plusieurs approches sont possibles. Nous vous proposons une démarche simple à suivre. Nous
vous conseillons d' utiliser une mind-map pour conduire la réalisation. Il s'inscrit dans le principe
MECE (Mutually Exclusive, Collectively Exhaustive).
En voici les étapes pour bâtir un arbre d'objectifs :
Choisir les personnes qui doivent participer à l'atelier. Il s'agit généralement des membres de
l'équipe projet, mais aussi d'autres parties prenantes comme le commanditaire, un membre de
la direction, etc. La structure de l'équipe doit représenter l'ensemble des intérêts et buts liés au
projet.
Reprendre les objectifs déterminés, ou les définir précisément si ce n'est pas le cas (Voir le dia-
gramme "bête à cornes" pour définir les besoins). S'assurer qu'il s'agit bien de buts et non d'ac-
tions : ils sont exprimés en termes de résultat, d'amélioration, d’augmentation, de diminution, de
suppression de quelque chose, etc.
Parmi l'ensemble des objectifs listés, identifiez l'objectif principal que vous placez au centre de
la map.
Exemple :
42
Décliner l'objectif principal en objectifs intermédiaires
Partant de l'objectif principal, définissez les objectifs intermédiaires à l'aide d'un travail collectif.
Utilisez des questions telles que : "Comment atteindre cet objectif ?" et formulez les axes sous-
objectifs.
Le brainstorming est l'outil de prédilection pour réaliser ce travail => voir la fiche pratique
Exemple :
Le travail précédent vous a donné le début de la structure de votre arbre avec un objectif de tête
répondant généralement à la question "pourquoi ?", les objectifs intermédiaires se focalisant sur
le "comment ?".
Ainsi, il convient maintenant d'élaborer les autres niveaux. Pour tous les objectifs intermédiaires,
utilisez les mêmes questions que pour l'étape 2 afin de définir les objectifs du niveau inférieur.
Placez-les sur la carte.
Recommencez l’opération si nécessaire en élaborant un niveau supplémentaire : le plus bas ni-
veau doit être constitué d'objectifs opérationnels généralement quantitatifs. Si ce n'est pas le
cas, ajoutez une nouvelle branche.
Exemple :
43
Dans le cas d'un grand nombre d'objectifs ou bien lorsque la hiérarchie n'est pas évidente à
constituer, le diagramme d'affinités est tout indiqué pour construire l'arbre. Il permet de trier, as-
socier et ordonner vos objectifs.
Cette méthode consiste à regrouper les objectifs par affinité à l'aide de l'intuition. Il en résulte de
petits groupes qu'il convient de nommer pour générer un objectif supérieur. Traditionnellement,
l'exercice se conduit en groupe à l'aide de post-it.
Nous vous invitons à consulter la fiche méthode afin de savoir comment bâtir un diagramme
d'affinités.
Finaliser l'arbre
Pour présenter le diagramme obtenu, vous pouvez conserver la forme graphique conçue avec
votre outil de mind-mapping ou bien utiliser un tableau. L’intérêt de ce dernier est de pouvoir
ajouter des informations complémentaires très utiles pour le management du projet comme les
responsables, les ressources, etc.
Exemple d'arbre d'objectifs sous forme de tableau
44
Apporter
une réponse
sous 24 heures
Fiabiliser ...
les livraisons
45
Annexe 3 : comment construire un sociogramme
46
Source : https://projet-initiative101.com/sociogramme/
Pourquoi un sociogramme ?
Les personnages, leurs conflits, leurs alliances, je vais les représenter dans un sociogramme.
Pourquoi ? Parce que, grâce à ma connaissance des relations entre acteurs, je vais anticiper
les résistances à l’initiative que je suis en train de lancer. Moins de stress pour moi, moins de
temps consacré à lutter contre les « fake news », un progrès plus rapide, des relations plus
fluides.
47
Annexe 4 : Modèle de plan de rapport d’évaluation
un sommaire ;
une liste des sigles utilisés ;
une carte géographique du lieu d’intervention de l’action ;
une synthèse du rapport : 2 à 3 pages pour les évaluations de projets et de pro-
grammes,10 pages pour les évaluations sectorielles et géographiques. Cette synthèse
doit comprendre :
- un bref rappel des objectifs poursuivis par la Coopération française, le contexte et
les enjeux des actions menées ;
- les montants et la décomposition des différentes catégories de dépenses engagées
(par instrument, par acteurs et par secteur) ;
- une description des grandes étapes de l’action ;
- un résumé des résultats obtenus, de l’impact des actions, des bénéfices obtenus
pour le Gouvernement et pour les bénéficiaires ;
- un rappel des appréciations de l’action à l’aune des critères définis par le cahier des
charges techniques, et des principales causes des écarts éventuellement constatés
par rapport aux effets attendus ;
- un rappel des principales recommandations ;
une présentation de l’opération évaluée
L’action à évaluer est certes bien connue du commanditaire de l’étude, mais le rapport étant ap-
pelé à demeurer et à circuler, il est nécessaire de disposer d’indications sur le projet qui peuvent
être fournies sous forme d’une fiche résumé en annexe.
un rappel méthodologique : rappel des choix opérés, des techniques utilisées et des
étapes du travail d'évaluation ;
une analyse : celle-ci doit être organisée à partir des données recueillies et des observa-
tions effectuées. L'analyse est effectuée selon les critères communément retenus dans
le domaine de l'évaluation des politiques publiques ;
des conclusions : celles-ci doivent être explicitées de façon claire (par type d'actions et
d'acteurs) ;
des recommandations opérationnelles.
48
Annexe 5 : Modèle de questionnaire d’entretien
49