Projets I-Delphi et Deep-Delphi : une ingénierie éthique de l’IA par et pour les opérateurs de politiques publiques
Présentation et contexte
Le déploiement de l’Intelligence Artificielle dans l’aide au développement et les politiques publiques mondiales crée un fossé critique : les cadres éthiques sont souvent élaborés par les puissances technologiques et économiques (les producteurs d’IA), mais les conséquences et les défaillances sont vécues par les communautés et les populations d’application (les utilisateurs finaux).
Pourtant, cette période de tâtonnement et de tests initiaux crée une urgence : celle de corriger les biais et les risques éthiques avant le déploiement massif et de potentiels effets négatifs voire irréversibles.
Des registres d’incidents liés à l’IA existent : l’OCDE en tient un depuis 2023, et le règlement européen sur l’IA oblige les fournisseurs de systèmes à haut risque à déclarer leurs incidents graves. Mais ils recensent surtout des incidents médiatisés ou déclarés par les fournisseurs eux-mêmes. Les effets observés par les praticiens sur le terrain, plus discrets et souvent indirects, n’y remontent pas : personne n’en constitue la mémoire institutionnelle. Le projet I-Delphi cherche à combler ce vide en créant un mécanisme de veille éthique dynamique, qui permette d’identifier les failles méthodologiques et les écueils éthiques afin de mieux piloter les phases de conception.
L’ambition de notre réseau ne se limite pas à la détection de failles techniques ; il s’agit d’un « hack éthique » stratégique. Nous nous concentrons sur ce risque central pour une IA souveraine qui serait de former des « exécutants » (utilisateurs dépendants, sous-traitants) plutôt que des « architectes » (citoyens souverains, co-créateurs de l’IA).
Objectif et méthodologie : créer une boucle de rétroaction factuelle
L’objectif du projet I-Delphi est de construire un Système d’Observatoire Éthique Participatif (OEP) pour générer des normes éthiques robustes, fondées sur les réalités du terrain.
L’intérêt n’est pas seulement de réparer les biais existants, mais d’intervenir en amont pour co-construire des solutions éthiques, intégrant ainsi la sûreté dès la phase de conception (Safety by Design).
La rupture méthodologique
Nous souhaitons transformer un réseau d’expertise patiemment construit d’environ 5 000 professionnels (responsables de projet, responsables de politiques publiques, ministères, ONG, agences) en une source de connaissance dynamique, en utilisant une méthodologie Delphi Augmentée par l’IA.
Delphi (la veille active)
C’est l’outil de scanning rapide qui mesure le sentiment éthique à grande échelle. L’IA soumet des questions flash au panel pour obtenir une photo immédiate des désalignements. Cette méthode permet de calculer l’« Indice de Faisabilité Éthique » d’un principe donné, révélant si les normes théoriques sont applicables et justes sur le terrain. L’objectif est la détection massive et la quantification du désaccord.
Deep-Delphi (accompagnement et analyse profonde)
Cette méthodologie est activée lorsque l’I-Delphi détecte un problème systémique. Le Deep-Delphi s’appuie sur des sous-panels ciblés et sur des cycles d’engagement longs. L’objectif est la prévention : en accompagnant les équipes en phase de test d’algorithmes (le « tâtonnement »), le Deep-Delphi identifie la causalité des biais et co-construit des solutions correctives avant le déploiement.
Le système d’alarme : défaillances et effets non anticipés
Le projet I-Delphi met en place un mécanisme de veille pour collecter et analyser les cas concrets de risques éthiques.
- Veille dysfonctionnelle : le panel agit comme un réseau de sentinelles éthiques mondiales qui signalent les défaillances, les biais inattendus et les dommages indirects causés par l’IA dans les projets de développement et les politiques publiques.
- Analyse de l’IA : la plateforme d’IA synthétise les remontées pour identifier les tendances systémiques (par opposition aux incidents isolés). Cela permet de distinguer un problème lié au projet d’aide d’un problème plus profond lié à la politique publique elle-même.
Exemple : une organisation développe une application mobile pour gérer l’aide alimentaire, utilisant l’IA pour optimiser les distributions. L’application, techniquement performante et sécurisée, nécessite un smartphone récent et une connexion stable. Les bénéficiaires avec des téléphones anciens sont exclus du système numérique et redirigés vers un processus manuel avec des temps d’attente triplés. Le panel détecte l’anomalie et propose des ajustements : version allégée compatible avec les anciens systèmes.
Effets souhaités
Le projet I-Delphi ambitionne de débloquer la paralysie de la gouvernance éthique en fournissant une base de preuves aux décideurs, élus ou responsables de programme.
- Pour la coopération internationale : l’outil offre aux organisations multilatérales et aux agences de développement des normes éthiques validées par le terrain, facilitant la transition d’une éthique « déclarative » à une éthique opérationnelle et co-construite.
- Pour les financeurs : le système de veille produit des bulletins d’alerte éthique factuels et des recommandations d’atténuation en temps réel, transformant l’investissement éthique en un outil de gestion des risques.
Le saviez-vous ? L’approche du projet I-Delphi s’inscrit dans une tradition de recherche de l’efficacité administrative débutée… il y a plus d’un siècle. En 1917, Henri Fayol fondait à Paris le Centre d’Études Administratives (CEA) avec une mission claire : détecter des faits d’administration manquée sur le terrain pour nourrir et valider la doctrine scientifique. Le Centre collectait, structurait et croisait des analyses pour transformer les échecs et les succès opérationnels du « management » en nouvelle connaissance systémique. De la même manière, I-Delphi souhaite utiliser l’Intelligence Artificielle pour collecter les défaillances algorithmiques et les effets non anticipés de l’IA (le « fait manqué » moderne) à l’échelle mondiale. Notre objectif est de suivre cette méthode factuelle : utiliser les erreurs de terrain pour vérifier l’applicabilité des principes éthiques et forger une gouvernance pertinente de l’IA. Pour en savoir plus sur cette continuité historique, vous pouvez consulter la page : Fayol et l’évaluation des politiques publiques.
Évaluer l’IA là où elle se déploie
Cycle I-Delphi : légende
Le cycle reprend les cinq étapes de mise en place d’un système de suivi évaluation, appliquées aux déploiements d’IA dans l’action publique. La formation n’est pas une étape finale : elle accompagne chacune d’elles. Le cycle s’inscrit dans le carré de souveraineté et vise à rester dans la zone de contrôle, où l’humain définit l’objectif et l’IA reste un outil.
1. Définir le problème
- Traceur : suivre un cas réel pas à pas pour comparer le parcours prévu et le parcours vécu (inspiré du patient traceur de la Haute Autorité de santé).
- ECRIS : enquête collective rapide qui identifie les conflits et les groupes stratégiques, c’est-à-dire les acteurs qui partagent les mêmes intérêts face à un problème (Thomas Bierschenk et Jean-Pierre Olivier de Sardan, socio-anthropologie du développement).
- Analyse des parties prenantes : repérer qui est concerné, qui décide et qui subit.
- Analyse de réseaux : cartographier les liens entre acteurs pour voir où circulent l’information et le pouvoir.
- Clinique de la concertation : réunir les professionnels autour d’une situation pour travailler leurs propres difficultés à coopérer, et pas seulement la coordination de leurs actions (Jean-Marie Lemaire, travail social, Belgique).
2. Questionner
- ROAMEF : cycle de conception des politiques publiques qui impose de justifier l’intervention (la rationale) avant toute dépense (Trésor britannique, Green Book). Appliqué à l’IA : pourquoi un outil d’IA ici ?
- Questions évaluatives (IA) : l’IA propose des questions évaluatives adaptées au contexte, que l’évaluateur trie et reformule.
- Grille des cinq questions : à qui l’outil rend-il service ? Que change-t-il pour les agents ? Peut-on contester une décision ? Que reste-t-il de visible ? Quand il se trompe, qui s’en aperçoit ? (EVAL)
3. Viser le consensus
- Delphi : consultation anonyme d’un panel en plusieurs tours, avec retour des résultats du groupe entre chaque tour, pour faire émerger un consensus ou un désaccord argumenté (RAND Corporation, années 1950).
- Test de concordance de script (TCS) : face à une situation incertaine, on compare le raisonnement d’une personne à celui d’un panel de référence, avec un crédit partiel pour les réponses minoritaires mais plausibles (pédagogie médicale, Université de Montréal).
- Expérience de choix discrets (DCE) : on fait choisir entre des scénarios combinant plusieurs critères, pour mesurer le poids réel de chacun dans la décision (économie, très utilisée en santé).
4. Mettre en œuvre
- Fayol : tenir la décision dans la durée en prévoyant, organisant, commandant, coordonnant et contrôlant, et documenter ce qui réussit et ce qui échoue (Henri Fayol, Administration industrielle et générale, 1916).
- SED : concevoir l’outil de suivi pour aider celui qui le remplit, et non pour le surveiller ; la donnée fiable remonte alors comme un produit dérivé de l’action (EVAL).
5. Apprendre
- Apprentissage par problème : partir de situations réelles et des difficultés rencontrées pour construire les savoirs (Université McMaster, Canada).
- Bug bounty éthique : comme on récompense ceux qui trouvent des failles de sécurité, on invite les praticiens à signaler les failles d’exclusion d’un outil d’IA (transposé de la cybersécurité).
- Retours d’expérience : analyser après coup un succès ou un incident pour en tirer des enseignements partagés.
Une mémoire institutionnelle manquante
En collectant et en croisant les expériences professionnelles de terrain, nous ne faisons pas que signaler des défaillances ; nous créons une mémoire factuelle et une cartographie des risques éthiques de l’IA. Cette base de données de preuves vise à limiter une multiplication de standards et appuyer la convergence des régulateurs vers un noyau commun de principes éthiques.
Application de la méthodologie i-delphi au secteur technologique
La méthodologie i-delphi est également déclinée en une offre destinée aux entreprises du secteur technologique. L’objectif est de créer un dialogue structuré entre les concepteurs de technologies et les acteurs de terrain, en s’appuyant sur un Observatoire Éthique Participatif (OEP), un réseau de professionnels composé de cadres institutionnels, d’ONG et de consultants. Nous proposons ainsi une « évaluation ex ante des risques sociétaux » qui permet aux entreprises de soumettre leurs innovations à une analyse critique avant leur déploiement. Ce processus vise à identifier les externalités sociales potentielles et à fournir des recommandations pour adapter les produits aux divers contextes culturels de la francophonie. Cette approche préventive a pour but de transformer la gestion du risque éthique en une composante de la stratégie d’innovation.
Transformation institutionnelle
Le projet I-Delphi se positionne comme un mécanisme fluide capable de naviguer au sein de structures institutionnelles complexes. Face à la décentralisation des initiatives d’IA, I-Delphi cherche à reconstruire un noyau de valeurs communes en s’arrimant à l’ensemble des partenaires. Sa mission est d’identifier et de signaler les menaces qui pèsent sur le jugement humain, les risques de déresponsabilisation professionnelle et les effets rebonds. Deep-Delphi expose le risque potentiel en preuve factuelle et préventive, fournissant aux structures les leviers nécessaires pour diriger leur propre virage technologique et aligner leurs décisions d’innovation sur les principes fondamentaux de la pensée critique.
Pour aller plus loin
Prochaine étape : la consolidation de notre réseau d’expertise. Nous invitons les professionnels intéressés par la gouvernance éthique de l’IA par le terrain à nous contacter. Formulaire de contact
En bref : le projet I-Delphi vise à développer un dispositif participatif d’évaluation continue permettant la co-construction de référentiels normatifs éthiques ancrés dans les pratiques professionnelles. L’approche privilégie une logique préventive plutôt que corrective, intégrant les exigences éthiques dès la phase de conception des politiques. Le dispositif s’appuie sur la valorisation d’un capital d’expertise constitué d’environ 5 000 acteurs institutionnels et opérationnels (décideurs publics, opérateurs de programmes, organisations de la société civile, services déconcentrés). I-delphi est un système de monitoring continu permettant l’identification rapide des zones de tension entre principes théoriques et réalités d’implémentation. Deep-Delphi est un dispositif d’évaluation qualitative renforcée via un accompagnement méthodologique en phase expérimentale et la co-construction de mesures correctives avant généralisation. Ce dispositif établit une boucle d’apprentissage institutionnel permettant l’ajustement continu des politiques publiques à partir d’un retour d’expérience systématisé.
Voir également :