Intervention réaliséeConférence · comité éthique
Conférence · Clinique de la Mitterie, Lomme
Un diagnostic froid sur l’IA générative en milieu médical
Face aux médecins et aux décideurs d’un comité éthique, à Lomme dans la Métropole européenne de Lille, l’objectif n’était pas de vendre un outil. C’était de poser ce qu’un modèle de langage fait vraiment — et ce qu’il n’a pas le droit de remplacer.
En bref
- Public
- Médecins, soignants et décideurs réunis en comité éthique. Pas une salle commerciale, pas un salon d’outils.
- Cadre
- Une intervention invitée, à la Clinique de la Mitterie, à Lomme. Ce n’est pas une mission de déploiement, ni un audit du système d’information.
- Objectif
- Donner un cadre de lecture : ce que prédit un modèle de langage, où l’hallucination devient une faute, ce qui doit rester un second avis.
- Preuve
- Une photographie de la séance. Pas de support officiel de la clinique publié ici, pas de compte rendu du comité.
- Statut
- Intervention réalisée. Aucun logiciel livré, aucun gain mesuré, aucun témoignage publié.
Le contexte
Un comité éthique, pas une démo produit
Un comité éthique se demande ce qui est acceptable, pas ce qui est nouveau. La question n’était pas « comment installer ChatGPT dans les services ». C’était : que se passe-t-il si un texte fluide est pris pour un avis clinique ? Qui porte la responsabilité si le modèle invente une référence, une posologie, un antécédent ? Comment les plus jeunes forment-ils leur jugement si la synthèse leur est déléguée trop tôt ?
À qui s’adressait l’intervention
Aux personnes qui décident du cadre : médecins, soignants, membres du comité. Des gens qui voient déjà des outils génératifs arriver par le bas — comptes personnels, résumés de dossiers, brouillons de courriers — et qui ont besoin d’un langage commun avant d’acheter, d’autoriser ou d’interdire.
Ce que l’intervention visait
- Nommer ce que fait un modèle de langage, sans jargon : il prédit le mot suivant, il ne comprend pas la maladie ni la douleur.
- Distinguer une aide à la relecture d’un substitut au raisonnement clinique.
- Poser un filet de sécurité : second avis, jamais pilote automatique.
- Laisser le comité avec des questions utilisables, pas une liste d’outils à acheter.
Le déroulé
Le fil n’était pas un catalogue de produits. C’était une déconstruction, du mécanisme vers la responsabilité. Le programme ci-dessous est le fil que j’ai tenu ; ce n’est pas un compte rendu officiel du comité.
- 1
Le perroquet savant
Un modèle de langage n’a aucune compréhension de la maladie. Il prédit le mot suivant le plus probable, à partir de textes déjà vus. La fluidité n’est pas une preuve de compétence clinique.
- 2
L’hallucination par design
L’hallucination n’est pas un bug à corriger une fois pour toutes. Le modèle est entraîné à continuer un texte. En diagnostic, en posologie ou en synthèse de dossier, une phrase plausible mais fausse n’est plus un écart créatif : c’est une faute grave.
- 3
Intuition contre automatisation
Si la synthèse clinique est déléguée trop tôt, comment les jeunes médecins formeront-ils leur intuition ? L’outil peut accélérer une relecture. Il ne doit pas remplacer l’apprentissage du regard.
- 4
Un filet de sécurité
La règle à emporter : l’outil reste un second avis. Jamais un pilote automatique. Une personne identifiée relit, décide, et assume.
Enseignements
- Un texte fluide n’est pas un avis. Le risque n’est pas seulement l’erreur visible : c’est la confiance trop rapide dans une phrase bien écrite.
- L’hallucination est structurelle. La bonne réponse n’est pas « un meilleur modèle », c’est un usage où l’humain peut encore vérifier la source, le chiffre, le patient.
- Déléguer la synthèse trop tôt appauvrit le métier. Le filet de sécurité n’est pas un bouton « valider » : c’est une personne, un moment, des critères.
- Cette séance n’a pas « déployé l’IA à l’hôpital ». Elle a posé un cadre pour décider plus tard, y compris de ne pas automatiser.
Organiser une intervention du même type
Comité, équipe de direction, école : le format s’adapte. Le fil reste le même — un diagnostic froid, sans catalogue d’outils. Si vous avez besoin d’un exercice sur vos fichiers, c’est une formation, pas une conférence.