Avant de valider un outil d’IA : cinq questions à (se) poser

Pour une petite structure culturelle ou d’intérêt général, la confiance est le premier capital. Qu’il s’agisse d’un fichier de donateur·rices, d’archives inédites ou des récits des personnes avec qui vous travaillez, votre réputation dépend du soin avec lequel vous traitez ce qu’on vous confie.

L’IA arrive souvent avant que quiconque ait décidé de l’adopter. Une fonctionnalité apparaît dans un logiciel que vous utilisez déjà, un fournisseur ajoute de l’IA à un service familier, ou un·e collègue se met à utiliser un outil grand public pour régler un problème immédiat. Quand la question est enfin examinée formellement, l’IA fait peut-être déjà partie du travail ordinaire.

La validation dépasse donc l’achat. Il peut s’agir de décider si une pratique existante doit continuer, si une nouvelle fonctionnalité doit être activée ou si un service dédié doit être adopté. La première question est de savoir si l’IA a sa place dans ce travail, et la réponse dépend autant de vos valeurs et de vos engagements que de la technologie. Certains usages peuvent être cohérents avec votre mission, vos valeurs et vos engagements envers votre communauté, vos donateur·rices ou financeurs. D’autres peuvent les contredire, quelle que soit la qualité de l’outil.

Les petites structures ont rarement une personne qui fait le lien entre les conditions du fournisseur, les informations en jeu, la qualité des résultats et la manière dont l’équipe travaille réellement. Cinq questions permettent de faire ce lien, une fois établi à quoi sert l’outil et si cet usage correspond à ce que défend votre structure.

Partir de l’usage

Avant de comparer les fournisseurs, je commencerais par décrire par écrit l’usage prévu. Sans cette définition, les pratiques dérivent peu à peu : un outil adopté pour rédiger la lettre d’information finit par résumer le fichier des donateur·rices ou des recherches non publiées. Un usage clair fixe aussi le niveau de risque. Rédiger des publications de promotion peut présenter un risque faible pour votre structure, alors que résumer les retours d’une consultation sensible menée auprès des personnes concernées présente un risque élevé. Le même service peut recevoir un oui pour un usage et un non pour l’autre.

Le risque n’est qu’une partie de l’examen. Un usage à faible risque peut tout de même contredire ce que vous dites défendre auprès de vos publics, de vos artistes ou de vos financeurs, et c’est une raison de s’arrêter avant même de solliciter un fournisseur.

• Tâche et intention : que fera l’équipe avec l’outil, et pourquoi ?
• Cohérence avec vos engagements : cet usage respecte-t-il vos engagements envers votre communauté, vos donateur·rices ou financeurs, ainsi que vos propres politiques, vos valeurs et votre mission ?
• Résultat utile : que devrait produire l’outil pour valoir la peine d’être utilisé ?
• Défaillance grave : à quoi ressemblerait un échec, et qui en supporterait les conséquences ?
• Alternative : un outil plus simple ou une autre organisation du travail suffirait-il ?

Le cadre de gestion des risques de l’IA du NIST (AI Risk Management Framework) part du même point. Il demande aux organisations de documenter les finalités prévues avant d’évaluer un système (Map 1.1), de les rattacher à leur mission et à leurs objectifs (Map 1.3) et d’examiner les solutions viables sans IA (Manage 2.1).¹

L’usage prévu détermine ce que chacune des cinq questions doit établir, et si l’usage de l’outil est compatible avec vos engagements.

1. Quelles informations le service va-t-il recevoir ?

Vérifiez où sont traités les requêtes, fichiers et images que vous transmettez, et quelles organisations peuvent y accéder. Le service peut aussi collecter les résultats, des journaux et des métadonnées techniques, et une fonctionnalité reliée à la messagerie, aux agendas ou à un espace de stockage partagé peut atteindre des contenus que personne n’a transmis directement à l’outil.

Si le service traite des données personnelles pour votre compte, la répartition des rôles prévue par le RGPD passe en premier. Le contrat entre responsable de traitement et sous-traitant doit couvrir les instructions documentées, le recours à des sous-traitants ultérieurs, la sécurité, l’assistance au respect de vos propres obligations, ainsi que la suppression ou la restitution des données à la fin du service.²

• Exemple : une fonctionnalité de transcription qui peut aussi parcourir votre espace partagé donne au fournisseur un accès à des informations qui dépassent les besoins de la tâche. Ce qu’une fonctionnalité peut atteindre dépasse parfois ce que l’équipe pense lui confier.
• Effet sur la validation : vérifiez le produit exact et le niveau d’offre associé au compte. Durées de conservation, fonctions d’administration et conditions d’utilisation des données diffèrent souvent entre offres grand public, professionnelles et entreprise ; valider un fournisseur sur son seul nom dit donc peu de chose sur la capacité d’un compte précis à recevoir des données sensibles.

2. Que peut faire le fournisseur de ces informations ?

« Nous n’entraînons pas nos modèles sur vos données » est rarement une réponse complète. Posez la question séparément pour les requêtes, les fichiers déposés, les résultats, les retours et les données d’usage, et distinguez l’entraînement des modèles de l’évaluation, du travail de sécurité et des autres formes d’amélioration du service. Établissez aussi quels droits le fournisseur revendique sur ce que l’outil produit, et si des obligations de confidentialité, de propriété intellectuelle ou propres à votre secteur limitent ce que vous pouvez envoyer.

Anthropic montre à quel point la réponse dépend du compte. Sa mise à jour des conditions grand public d’août 2025 couvrait les offres Claude Free, Pro et Max, y compris Claude Code utilisé depuis ces comptes, et excluait les services relevant de ses conditions commerciales, comme Claude for Work, Claude for Government, Claude for Education et l’API. Elle liait le réglage d’entraînement à la durée de conservation : cinq ans s’il est activé, 30 jours sinon. En octobre 2026, ses pages d’aide indiquent que les entrées et sorties des offres commerciales ne servent pas à l’entraînement par défaut, mais peuvent y servir si un·e utilisateur·rice envoie un retour ou choisit de l’autoriser. Pour les comptes grand public, les conversations signalées par les classificateurs de sécurité peuvent encore servir à l’amélioration de la sécurité ou à la recherche en sécurité, même avec l’entraînement désactivé.³

• Exemple : une offre commerciale qui n’entraîne pas ses modèles sur vos données par défaut peut quand même verser une conversation dans les données d’entraînement. Sur les offres commerciales de Claude, un pouce levé ou baissé enregistre toute la conversation pour une durée pouvant aller jusqu’à cinq ans, et celle-ci peut servir à entraîner les modèles. Sur les offres Team et Enterprise, les propriétaires de l’organisation peuvent désactiver ce bouton.³
• Effet sur la validation : l’engagement du fournisseur doit être consigné dans une documentation tenue à jour ou dans un contrat, car un échange commercial se vérifie mal après coup. Si la validation repose sur un réglage, quelqu’un doit savoir où il se trouve, qui le contrôle, s’il couvre toutes les parties du service et si une mise à jour ou un nouveau compte peut le modifier.

3. Qu’est-ce qui peut changer après la validation ?

La validation vaut sous conditions, et le fournisseur peut les modifier. Il peut remplacer le modèle, activer de nouvelles fonctionnalités, ajouter des sous-traitants ou revoir la façon dont les informations sont traitées, sans que l’interface change en apparence.

Des cadres reconnus peuvent aider à structurer l’échange avec le fournisseur. Le cadre volontaire du NIST prévoit un suivi régulier de l’IA fournie par des tiers, des procédures de secours en cas de défaillance des systèmes tiers à haut risque et une gestion des changements après le déploiement (Govern 6, Manage 3 et Manage 4).¹ Les clauses contractuelles types de l’UE pour l’achat public d’IA, soutenues par la Commission européenne et mises à jour en mars 2025 pour s’aligner sur le règlement européen sur l’IA, couvrent la gestion des risques, la gouvernance des données, la documentation technique, l’enregistrement des événements, la transparence, le contrôle humain, l’exactitude et la cybersécurité.⁴⁵

• Exemple : un agent conversationnel qui répond aux questions du public sur votre site peut se mettre à donner de mauvais horaires d’ouverture ou de mauvais tarifs d’adhésion après une mise à jour du modèle, sans que personne ne s’en aperçoive avant la réclamation d’un·e visiteur·euse.
• Effet sur la validation : demandez comment et combien de temps à l’avance vous serez informé·es des changements, et lesquels vous permettent de réexaminer, de désactiver ou d’arrêter l’usage. Une nouvelle fonctionnalité de recherche documentaire ou d’automatisation peut-elle rester désactivée jusqu’à ce que quelqu’un l’ait examinée ? Si le modèle change, le fournisseur vous donnera-t-il assez d’informations pour refaire vos tests ? L’équipe doit aussi savoir ce qui peut être surveillé, quels journaux existent et comment les incidents sont signalés. Notez les événements qui imposent de réexaminer la décision et désignez la personne habilitée à agir.

4. Et si nous voulons partir ?

Demandez ce qui peut être exporté et dans quel format, comment fonctionne la suppression et ce qui subsiste à la fin du contrat. Récupérer vos fichiers d’origine ne suffit pas si les classifications, les requêtes, la configuration ou les journaux nécessaires pour comprendre le travail ne peuvent pas partir avec eux. Après votre départ, vous pourriez aussi devoir établir quelle version du service a été utilisée, avec quels réglages, ce qu’elle a produit et qui l’a relu. Sachez ce qui permettrait à l’équipe de transférer le processus ailleurs sans en perdre l’historique ni le sens.

• Exemple : si un module d’IA attribue des mots-clés à vos collections, ces mots-clés peuvent se trouver dans un format que votre logiciel de gestion des collections ne sait pas importer. Après un changement de fournisseur ou de tarif, il faudra peut-être les ressaisir à la main.
• Effet sur la validation : faites un essai d’export avant de vous engager et demandez à quelqu’un qui n’a pas participé au paramétrage de l’interpréter. Privilégiez les outils qui exportent dans des formats standard aussi bien les contenus produits par l’équipe que les métadonnées générées par l’IA. Si partir obligeait à reconstruire le travail, la structure doit le savoir avant d’en devenir dépendante.

5. Peut-on le tester dans nos conditions de travail ?

Les benchmarks ou la démonstration d’un fournisseur disent peu de chose de la façon dont le service se comporte sur vos propres contenus, et même un accès complet aux détails techniques du modèle ne dispenserait pas de tests en interne. Testez l’usage prévu dans les conditions où l’équipe travaillera. Un texte fluide peut tout de même omettre une réserve, attribuer des propos à la mauvaise personne ou changer le sens d’un passage difficile.

Dans l’UE, les fournisseurs et les déployeurs de systèmes d’IA doivent prendre des mesures pour favoriser la maîtrise de l’IA par leur personnel et par les autres personnes qui utilisent l’IA pour leur compte. Les questions-réponses de la Commission prennent l’exemple de salarié·es qui utilisent un agent conversationnel grand public pour rédiger ou traduire des textes : ces personnes doivent être informées de ses risques propres, comme les hallucinations.⁶ Une phase pilote se prête bien à l’acquisition de ces connaissances, puisque l’équipe y voit directement les erreurs de l’outil.

• Exemple : pour la transcription d’archives orales, un test inclurait des voix qui se chevauchent, des noms locaux, des accents différents et les passages sensibles que contient le fonds. Un théâtre pourrait vérifier que le langage contractuel garde son sens. Un service d’archives pourrait chercher des descriptions inventées ou une terminologie datée dans les notices. Une structure d’intérêt général pourrait contrôler que des synthèses n’omettent pas des faits dont dépend l’accès d’une personne à un accompagnement.
• Effet sur la validation : menez une phase pilote avant l’adoption, avec des exemples fictifs, publics ou soigneusement préparés, et non des données confidentielles réelles. Décidez à l’avance du résultat jugé suffisant et de qui peut arrêter l’usage s’il n’est pas atteint. Déterminez qui possède les connaissances nécessaires pour évaluer les résultats, y compris les erreurs qu’un texte fluide peut masquer. Comparez le temps gagné au temps passé à corriger, car un outil qui demande beaucoup de vérifications ne mérite peut-être pas sa place dans le circuit de travail.

Et si le fournisseur ne peut pas répondre ?

Les petites structures reçoivent surtout des conditions générales, des pages d’aide et des promesses commerciales. Une question restée sans réponse restreint ce que vous pouvez valider et, pour un usage aux conséquences importantes, peut bloquer la validation. La rédaction à partir d’informations publiques peut rester acceptable tandis que les documents confidentiels en sont exclus. Si une fonction nécessaire n’existe que dans une offre plus chère, il faut choisir entre payer, restreindre l’usage, revoir l’organisation du travail ou changer de service.

Ce que vous apprenez en testant, c’est aussi ce que vous devrez expliquer à un conseil d’administration, à un financeur ou à une personne concernée par un usage aux conséquences importantes. Si le fournisseur vous donne trop peu d’éléments pour leur répondre, consignez ce manque dans la décision.

Ces cinq questions forment un premier filtre. Un service ouvert au public, un système qui traite des données personnelles ou un outil qui influe sur l’accès à des financements peuvent exiger une analyse plus poussée, sur le plan des achats, du droit, de la sécurité, de l’accessibilité ou de l’impact.

La fiche de validation

Avant de signer un contrat ou de laisser l’équipe créer des comptes, consignez sur une page :

• Produit et compte : le service exact, l’offre et le type de compte
• Usage prévu : la tâche, l’intention, la cohérence avec vos engagements et le résultat jugé utile
• Informations autorisées : ce qui peut entrer dans le service, et ce qui ne le peut pas
• Preuves de performance : les tests menés et le niveau exigé
• Conditions de validation : les conditions, la documentation et les réglages dont dépend la validation
• Limites acceptées : chaque point resté sans réponse et la limite qu’il impose
• Équipe et formation : qui utilisera l’outil, et les mesures prises pour favoriser sa maîtrise de l’IA
• Personne responsable : qui gère la relation avec le fournisseur, et qui peut autoriser ou suspendre l’usage
• Décision et date : validé, restreint ou refusé, et quand
• Déclencheurs de réexamen ou de suspension : les événements qui imposent de réexaminer la décision

Conservez ce document là où la personne suivante le trouvera, et rouvrez-le quand le service change, qu’un·e collègue s’en va ou qu’une phase pilote devient une pratique courante. La décision qu’il consigne peut évoluer dans les deux sens : un outil validé peut être retiré si les conditions du fournisseur changent ou si vos engagements évoluent, et un usage refusé peut être reconsidéré si un service propose plus tard les garanties qui vous manquaient. C’est la Gouvernance par la cohérence à l’échelle d’une petite structure. L’usage prévu, les garanties techniques, les personnes responsables et vos valeurs doivent continuer à s’accorder, et ce document vous indique quand vérifier que c’est toujours le cas.

---

Sources

Sources vérifiées le 13 octobre 2026.

Footnotes

1. National Institute of Standards and Technology, AI Risk Management Framework Core, en anglais, en particulier Map 1.1 et 1.3, Manage 2.1, Govern 6, Manage 3 et 4. Le NIST indique sur la page actuelle que la version 1.0 est en cours de révision. ↩ ↩²

2. Comité européen de la protection des données, Responsable de traitement ou sous-traitant, guide de protection des données pour les petites entreprises. ↩

3. Anthropic, Updates to our Consumer Terms and Privacy Policy, 28 août 2025 ; How do I change my model improvement privacy settings?, mis à jour le 3 août 2026 ; et Is my data used for model training?, offres commerciales, mis à jour le 18 août 2026. Pages en anglais. ↩ ↩²

4. Communauté des acheteurs publics de la Commission européenne, Updated EU AI model contractual clauses, 5 mars 2025, en anglais. ↩

5. Communauté des acheteurs publics de la Commission européenne, Commentary: Model Contractual Clauses for the public procurement of AI, version du 12 février 2025, en anglais. ↩

6. Règlement (UE) 2024/1689, article 4, modifié par le règlement (UE) 2026/1744 (train de mesures omnibus numérique sur l’IA), 8 juillet 2026, en vigueur depuis le 27 juillet 2026 ; et Commission européenne, AI Literacy: Questions and Answers, mis à jour le 27 juillet 2026, en anglais. ↩