Sommaire de l’article
Le projet de nouvelle Annexe 22 a été publié pour consultation avec le chapitre 4 et l’Annexe 11 révisés. La consultation s’est close le 7 octobre 2025 ; au 30 août 2026, la page de la Commission le présente toujours comme un projet. Ce statut compte : il s’agit d’un signal réglementaire détaillé, pas d’une Annexe GMP adoptée.
Le périmètre proposé est plus étroit que le mot « IA ». Il concerne des modèles entraînés sur des données, intégrés à des systèmes informatisés et utilisés dans des applications GMP critiques ayant un impact direct sur la sécurité du patient, la qualité du produit ou l’intégrité des données. Le projet couvre les modèles statiques et à sortie déterministe.
Le projet indique que les modèles qui apprennent dynamiquement en exploitation, les sorties probabilistes, l’IA générative et les grands modèles de langage ne sont pas couverts et ne devraient pas être utilisés dans des applications GMP critiques. Pour un usage non critique, il renvoie à une responsabilité humaine qualifiée sur l’adéquation de la sortie.
Partie 1 — Écrire l’usage prévu comme une frontière testable
Le projet demande une description détaillée de la tâche assistée ou automatisée, fondée sur la connaissance du procédé. Elle inclut l’espace des données d’entrée, les variations communes et rares, les limitations et les entrées erronées ou biaisées plausibles. Un expert du procédé doit être responsable de l’adéquation de cette description avant les tests d’acceptation.
Cette exigence empêche une validation générique du modèle. « Détecter des défauts » n’est pas assez précis : il faut identifier familles de défauts, équipements, sites, matières, conditions d’éclairage ou de capteur, seuils, sortie attendue, action humaine et conséquences d’une erreur. La frontière d’usage devient alors une spécification contre laquelle des tests peuvent échouer.
Partie 2 — Protéger l’indépendance des données de test
Le projet distingue développement, entraînement, validation et test final. Les données de test doivent représenter l’espace d’usage, inclure les sous-groupes et variations rares, disposer de labels hautement fiables et rester indépendantes des équipes et données utilisées pour entraîner le modèle.
La séparation n’est pas seulement statistique. Le projet propose des contrôles d’accès et un audit trail sur le référentiel de test, l’absence de copies parallèles, l’enregistrement des jeux utilisés et du nombre de tests. Lorsque la séparation des personnes est impossible, il envisage un principe de quatre yeux.
Les critères d’acceptation sont liés à l’usage et peuvent varier par sous-groupe. Pour une classification, le projet cite comme exemples matrice de confusion, sensibilité, spécificité, exactitude, précision et score F1. Le choix ne doit pas être guidé par la métrique la plus flatteuse, mais par le coût des faux positifs et faux négatifs pour le procédé réel.
Partie 3 — Maintenir le modèle dans sa frontière approuvée
Une acceptation initiale ne protège pas contre une dérive du procédé, du capteur, de la population d’entrée ou du logiciel environnant. Le paquet de contrôle doit versionner modèle, code de prétraitement, données et labels de test, configuration, dépendances et seuils ; il doit aussi définir les indicateurs de performance en exploitation et les déclencheurs de revue.
Le projet associe le human-in-the-loop à des responsabilités explicites. Ajouter un humain après la sortie ne réduit pas automatiquement le risque : il faut définir ce qu’il voit, quand il peut contester, comment sa performance est formée et suivie, et quelle trace relie sortie, jugement et décision finale.
Dans un usage GMP critique, « l’IA fonctionne » n’est pas une conclusion de validation. La conclusion doit nommer l’usage borné, les sous-groupes testés, les erreurs acceptables, la version approuvée et la condition de retrait.
Contrôle opérationnel — dossier minimum d’un modèle critique
- Usage prévu approuvé avec espace d’entrée, variations rares, limitations, sorties et actions.
- Version immuable du modèle et de tout prétraitement, avec dépendances et configuration.
- Jeu de test indépendant, protégé par accès et audit trail, représentatif de chaque sous-groupe critique.
- Métriques et critères d’acceptation justifiés par le risque d’erreur, pas par la seule performance moyenne.
- Surveillance, changement contrôlé, responsabilités humaines et critères d’arrêt ou de retour arrière.
Graphe de décision — le cas d’usage entre-t-il dans la frontière proposée ?
| Étape | Question | Suite |
|---|---|---|
| 1. Criticité | La sortie affecte-t-elle directement patient, produit ou intégrité des données ? | Non → gouvernance proportionnée hors usage critique. Oui → vérifier le type de modèle. |
| 2. Type | Le modèle est-il statique et sa sortie déterministe ? | Non → hors frontière proposée pour le critique. Oui → définir l’usage. |
| 3. Test | Le jeu final est-il indépendant, représentatif et protégé ? | Non → ne pas accepter. Oui → appliquer les critères par sous-groupe. |
| 4. Exploitation | Version, surveillance, humain responsable et retrait sont-ils contrôlés ? | Non → ne pas mettre en service. Oui → décision qualité documentée. |
Informations manquantes et limites
- Le texte reste un projet ; son périmètre et ses exigences peuvent changer avant adoption.
- Le projet ne définit pas une métrique universelle ni un seuil chiffré applicable à tous les modèles.
- L’articulation détaillée avec le règlement européen sur l’IA et les autres obligations sectorielles nécessite une analyse séparée.
Sources primaires citées
- Commission européenne. Consultation on revised Chapter 4, Annex 11 and new Annex 22 — statut de consultation
- Commission européenne / PIC/S. Draft Annex 22 — Artificial Intelligence — projet de consultation, juillet 2025
- Union européenne. Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle — contexte horizontal à analyser séparément
Date limite de vérification : 30 août 2026.
Draft new Annex 22 was published for consultation with revised Chapter 4 and Annex 11. The consultation closed on October 7, 2025; as of August 30, 2026, the Commission page still presents it as a draft. That status matters: it is a detailed regulatory signal, not adopted GMP.
The proposed scope is narrower than the word “AI”. It covers models trained on data, embedded in computerised systems, and used in critical GMP applications with direct impact on patient safety, product quality, or data integrity. The draft addresses static models with deterministic output.
The draft says models that learn dynamically in operation, probabilistic outputs, generative AI, and large language models are not covered and should not be used in critical GMP applications. For non-critical use, it points to qualified human responsibility for output fitness.
Part 1 — Write intended use as a testable boundary
The draft expects a detailed description of the task being assisted or automated, grounded in process knowledge. It includes the input-data space, common and rare variations, limitations, and plausible erroneous or biased inputs. A process subject-matter expert is responsible for the adequacy of this description before acceptance testing.
This prevents generic model validation. “Detect defects” is not precise enough: identify defect families, equipment, sites, materials, lighting or sensor conditions, thresholds, expected output, human action, and error consequences. The use boundary then becomes a specification against which a test can fail.
Part 2 — Protect test-data independence
The draft distinguishes development, training, validation, and final testing. Test data should represent the use space, include subgroups and rare variations, carry highly reliable labels, and remain independent from the teams and data used to train the model.
Separation is not merely statistical. The draft proposes access control and an audit trail on the test repository, no parallel copies, and records of which datasets were used and how many times testing occurred. Where staff separation is impossible, it contemplates a four-eyes principle.
Acceptance criteria are tied to use and may differ by subgroup. For classification, the draft names examples such as confusion matrix, sensitivity, specificity, accuracy, precision, and F1 score. Selection should follow the real-process cost of false positives and false negatives, not the most flattering metric.
Part 3 — Keep the model inside its approved boundary
Initial acceptance does not protect against drift in process, sensor, input population, or surrounding software. The control package versions the model, preprocessing code, test data and labels, configuration, dependencies, and thresholds; it also defines operational performance indicators and review triggers.
The draft links human-in-the-loop operation to explicit responsibility. Adding a person after output does not automatically reduce risk: define what they see, when they can challenge, how they are trained and monitored, and which trace connects output, judgement, and final decision.
In critical GMP use, “the AI works” is not a validation conclusion. The conclusion names the bounded use, tested subgroups, acceptable errors, approved version, and withdrawal condition.
Operational control — minimum critical-model file
- Approved intended use with input space, rare variations, limitations, outputs, and actions.
- Immutable version of model and preprocessing with dependencies and configuration.
- Independent, access-controlled, audit-trailed test set representative of every critical subgroup.
- Metrics and acceptance criteria justified by error risk, not average performance alone.
- Monitoring, controlled change, human responsibility, and stop or rollback criteria.
Decision graph — is the use case inside the proposed boundary?
| Step | Question | Next action |
|---|---|---|
| 1. Criticality | Does output directly affect patient, product, or data integrity? | No → proportionate governance outside critical use. Yes → check model type. |
| 2. Type | Is the model static and its output deterministic? | No → outside the proposed critical-use boundary. Yes → define intended use. |
| 3. Test | Is the final set independent, representative, and protected? | No → do not accept. Yes → apply subgroup criteria. |
| 4. Operation | Are version, monitoring, responsible human, and withdrawal controlled? | No → do not release. Yes → document the quality decision. |
Missing information and limits
- The text remains a draft; scope and expectations may change before adoption.
- The draft does not define one universal metric or numerical threshold for every model.
- Detailed interaction with the EU AI Act and other sectoral duties requires separate analysis.
Primary sources cited
- European Commission. Consultation on revised Chapter 4, Annex 11 and new Annex 22 — consultation status
- European Commission / PIC/S. Draft Annex 22 — Artificial Intelligence — consultation draft, July 2025
- European Union. Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence — horizontal context requiring separate analysis
Evidence cut-off : August 30, 2026.
Voir aussi
- Pharmaceutical Evidence-to-Decision Assurance Le mandat qui relie donnée régulée, décision et dossier d’inspection.
- Data & outillage Outils systèmes, indexation et persistance vérifiables, écrits pour durer.
- Calculateur de mission Chiffrer l’enveloppe de ce type de mission, calcul local et reproductible.