Proposition de projet : I-Delphi et Deep-Delphi : une ingénierie éthique de l’IA par et pour les opérateurs de politiques publiques
Présentation et contexte
Le déploiement de l’Intelligence Artificielle (IA) dans l’aide au développement et les politiques publiques mondiales créé un fossé critique : les cadres éthiques sont souvent élaborés par les puissances technologiques et économiques (les producteurs d’IA), mais les conséquences et les défaillances sont vécues par les communautés et les populations d’application (les utilisateurs finaux).
Pourtant, cette période de tâtonnement et de tests initiaux crée une urgence : celle de corriger les biais et les risques éthiques avant le déploiement massif et de potentiels effets négatifs voir irréversibles.
Actuellement, aucun organisme central ne constitue la mémoire institutionnelle des défaillances de l’IA sur le terrain. Les régulateurs se concentrent sur la conformité légale et manquent d’un système d’alerte précoce. Le projet I-Delphi cherche à combler ce vide en créant un mécanisme de veille éthique dynamique qui permette d’identifier les failles méthodologiques et les écueils éthiques afin de mieux piloter les phases de conceptions.
Objectif et méthodologie : créer une boucle de rétroaction factuelle
L’objectif du projet I-Delphi est de construire un Système d’Observatoire Éthique Participatif (OEP) pour générer des normes éthiques robustes, fondées sur les réalités du terrain.
L’intérêt n’est pas seulement de réparer les biais existants, mais d’intervenir en amont pour co-construire des solutions éthiques, intégrant ainsi la sûreté dès la phase de conception (Safety by Design).
1. La Rupture Méthodologique
Nous souhaitons transformer un réseau d’expertise patiemment construit d’environ 5 000 professionnels (responsables de projet, responsables de politiques publiques, ministères, ONG, agences) en une source de connaissance dynamique, en utilisant une méthodologie Delphi Augmentée par l’IA.
I-Delphi (la veille active)
C’est l’outil de scanning rapide qui mesure le sentiment éthique à grande échelle. L’IA soumet des questions flash au panel pour obtenir une photo immédiate des désalignements. Cette méthode permet de calculer l' »Indice de Faisabilité Éthique » d’un principe donné, révélant si les normes théoriques sont applicables et justes sur le terrain. L’objectif est la détection massive et la quantification du désaccord.
Deep-Delphi (accompagnement et analyse profonde)
Cette méthodologie est activée lorsque l’I-Delphi détecte un problème systémique. Le Deep-Delphi s’appuie sur des sous-panels ciblés et sur des cycles d’engagement longs. L’objectif est la prévention : en accompagnant les équipes en phase de test d’algorithmes (le « tâtonnement »), le Deep-Delphi identifie la causalité des biais et co-construit des solutions correctives avant le déploiement.
2. Le Système d’Alarme : Défaillances et Effets Non Anticipés
Le projet I-Delphi met en place un mécanisme de veille pour collecter et analyser les cas concrets de risques éthiques.
- Veille dysfonctionnelle : le panel agit comme un réseau de sentinelles éthiques mondiales qui signalent les défaillances, les biais inattendus et les dommages indirects causés par l’IA dans les projets de développement et les politiques publiques.
- Analyse de l’IA : la plateforme d’IA synthétise les remontées pour identifier les tendances systémiques (par opposition aux incidents isolés). Cela permet de distinguer un problème lié au projet d’aide d’un problème plus profond lié à la politique publique elle-même.
Exemple : une organisation développe une application mobile pour gérer l’aide alimentaire, utilisant l’IA pour optimiser les distributions. L’application, techniquement performante et sécurisée, nécessite un smartphone récent et une connexion stable. Les bénéficiaires avec des téléphones anciens sont exclus du système numérique et redirigés vers un processus manuel avec des temps d’attente triplés. Le panel détecte l’anomalie et propose des ajustements : version allégée compatible avec les anciens systèmes.
Effets souhaités
Le projet I-Delphi ambitionne de débloquer la paralysie de la gouvernance éthique en fournissant une base de preuves aux décideurs mondiaux.
- Pour la coopération internationale : l’outil offre aux organisations multilatérales (UNESCO, ONU) et aux agences de développement des normes éthiques validées par le terrain, facilitant la transition d’une éthique déclarative à une éthique opérationnelle et co-construite.
- Pour les financeurs : le système de veille produit des Bulletins d’Alerte Éthique factuels et des recommandations d’atténuation en temps réel, transformant l’investissement éthique en un outil de gestion des risques.
Le saviez-vous ? L’approche du projet I-Delphi s’inscrit dans une tradition de recherche de l’efficacité administrative débutée… il y a plus d’un siècle. En 1917, Henri Fayol fondait à Paris le Centre d’Études Administratives (CEA) avec une mission claire : détecter des faits d’administration manquée sur le terrain pour nourrir et valider la doctrine scientifique. Le Centre collectait, structurait et croisait des analyses pour transformer les échecs et les succès opérationnels du « management » en nouvelle connaissance systémique. De la même manière, I-Delphi souhaite utiliser l’Intelligence Artificielle pour collecter les défaillances algorithmiques et les effets non anticipés de l’IA (le « fait manqué » moderne) à l’échelle mondiale. Notre objectif est de suivre cette méthode factuelle : utiliser les erreurs de terrain pour vérifier l’applicabilité des principes éthiques et forger une gouvernance pertinente de l’IA. Pour en savoir plus sur cette continuité historique, vous pouvez consulter la page : Fayol et l’évaluation des politiques publiques.
Une mémoire institutionnelle manquante
En collectant et en croisant les expériences professionnels de terrain, nous ne faisons pas que signaler des défaillances ; nous créons une mémoire factuelle et une cartographie des risques éthiques de l’IA. Cette base de données de preuves vise à limiter une multiplication de standards et appuyer la convergence des régulateurs vers un noyau commun de principes éthiques.
Application de la méthodologie i-delphi au secteur technologique
La méthodologie i-delphi est également déclinée en une offre destinée aux entreprises du secteur technologique. L’objectif est de créer un dialogue structuré entre les concepteurs de technologies et les acteurs de terrain, en s’appuyant sur son Observatoire Éthique Participatif (OEP), un réseau de professionnels composé de cadres institutionnels, d’ONG et de consultants. Nous proposons ainsi une « évaluation ex ante des risques sociétaux » qui permet aux entreprises de soumettre leurs innovations à une analyse critique avant leur déploiement. Ce processus vise à identifier les externalités sociales potentielles et à fournir des recommandations pour adapter les produits aux divers contextes culturels de la francophonie. Cette approche préventive a pour but de transformer la gestion du risque éthique en une composante de la stratégie d’innovation.
Transformation institutionnelle
Le projet I-Delphi se positionne comme un mécanisme fluide capable de naviguer au sein de structures institutionnelles complexes. Face à la décentralisation des initiatives d’IA, I-Delphi reconstruit un noyau de valeurs communes en s’arrimant à l’ensemble des partenaires. Sa mission est d’identifier et de signaler les menaces qui pèsent sur le jugement humain, les risques de déresponsabilisation professionnelle et les effets rebonds. Deep-Delphi expose le risque potentiel en preuve factuelle et préventive, fournissant aux structures les leviers nécessaires pour diriger leur propre virage technologique et aligner leurs décisions d’innovation sur les principes fondamentaux de la pensée critique.
Pour aller plus loin
Prochaine étape : la consolidation de notre réseau d’expertise. Nous invitons les professionnels intéressés par la gouvernance éthique de l’IA par le terrain à se rapprocher. Contact
En bref : le projet I-Delphi vise à développer un dispositif participatif d’évaluation continue permettant la co-construction de référentiels normatifs éthiques ancrés dans les pratiques professionnelles. L’approche privilégie une logique préventive plutôt que corrective, intégrant les exigences éthiques dès la phase de conception des politiques. Le dispositif s’appuie sur la valorisation d’un capital d’expertise constitué d’environ 5 000 acteurs institutionnels et opérationnels (décideurs publics, opérateurs de programmes, organisations de la société civile, services déconcentrés). I-delphi est un système de monitoring continu permettant l’identification rapide des zones de tension entre principes théoriques et réalités d’implémentation. Deep-Delphi est un dispositif d’évaluation qualitative renforcée via un accompagnement méthodologique en phase expérimentale et la co-construction de mesures correctives avant généralisation. Ce dispositif établit une boucle d’apprentissage institutionnel permettant l’ajustement continu des politiques publiques à partir d’un retour d’expérience systématisé.
Voir également :
