WalidIA

La semaine

Qui répond d'une IA une fois qu'elle est en service ?

Semaine du 8 novembre 2026

Bonjour,

Fin octobre, les 53 États de la région Europe de l'Organisation mondiale de la santé ont adopté leur première feuille de route commune sur l'IA en santé. Je l'avais simplement notée au passage la semaine dernière. En la lisant de plus près, j'y ai trouvé une question qui me semble utile pour nos établissements, et c'est d'elle que je voudrais partir cette semaine.

Autour, une attaque informatique entrée par le prestataire de l'Établissement français du sang, une étude sur les médicaments que recommandent les IA, et un point d'étape sur l'accord IA de la fonction publique.

Ce qui s'est passé

Le 29 octobre, à Copenhague, les 53 États membres de la région Europe de l'OMS ont adopté à l'unanimité une feuille de route sur l'IA en santé pour 2026-2033. C'est la première fois qu'ils s'accordent sur une approche commune.

Le texte fixe quatre priorités : la gouvernance, les cadres éthiques et juridiques, les données et leur sécurité, et enfin les compétences des professionnels et l'évaluation des outils en conditions réelles.

Les États soutiennent aussi la création d'un bureau de l'OMS consacré à l'IA en santé, qui sera installé au Luxembourg. Un guide de mise en œuvre doit suivre. Le texte, en revanche, ne fixe aucun objectif chiffré.

Ce que ça change pour nous

Lundi matin, pas grand-chose, je crois. Le texte s'adresse aux ministères et ne dit rien des hôpitaux en particulier.

Une phrase m'a pourtant arrêté. Les États s'engagent à définir des responsabilités claires et à encadrer l'IA sur tout son cycle de vie, c'est-à-dire du choix de l'outil jusqu'à son retrait, en passant par son évaluation une fois en service.

Si on transpose à l'échelle d'un établissement, la question devient très concrète. Quand nous achetons un outil d'IA, nous savons en général qui l'a choisi et qui a signé. Je suis moins sûr que nous sachions toujours qui vérifie, six mois plus tard, qu'il fait bien ce qu'on attendait de lui, et qui pourrait décider de l'arrêter.

Le cadre français, lui, se précise. La CNIL et la Haute Autorité de santé finalisent un guide sur l'IA en contexte de soins, dont la version finale a été présentée à la CNIL le 5 novembre. Il n'est pas encore publié, et je crois que nous aurons intérêt à avoir répondu à cette question avant sa parution.

À poser en CODIR

Pour chaque outil d'IA en service dans l'établissement, savons-nous qui vérifie qu'il fonctionne comme prévu, et qui peut décider de l'arrêter ?

Je me demande si, dans beaucoup d'établissements, la réponse est écrite quelque part. C'est une question à poser à la direction qui a porté le projet autant qu'au DSI.

Les brèves

Entrés par le prestataire

Dans la nuit du 1er au 2 novembre, des attaquants ont modifié à distance les réglages de chambres froides de l'Établissement français du sang, sur trois sites régionaux. Ces chambres conservent notamment du plasma destiné aux transfusions. Ils sont entrés par la solution de surveillance à distance du prestataire de maintenance, Coolworld, sans toucher au système informatique de l'EFS lui-même.

C'est un technicien de permanence qui a vu la température monter. Selon l'EFS, aucune poche n'a été perdue et il n'y a aucune conséquence sanitaire. Les accès à distance ont été coupés. Le 12 octobre, après une attaque contre les installations frigorifiques de plusieurs centaines de supermarchés, le CERT-FR, rattaché à l'Agence nationale de la sécurité des systèmes d'information, avait recommandé de retirer d'internet les contrôleurs à distance de ce type d'équipements.

Ce que ça change pour nous. L'IA n'y est pour rien, et je la note pourtant ici. Le froid, le biomédical, le traitement d'air ou les automates de pharmacie sont souvent pilotés à distance par leurs fournisseurs, et je crois que chaque outil d'IA connecté ajoutera des accès de ce genre. Savoir qui peut agir sur nos équipements depuis l'extérieur, et ce que le contrat prévoit pour sécuriser cet accès, relève à mon sens de la direction autant que du DSI.

Les IA recommandent presque toujours la même marque

Une équipe de l'université métropolitaine d'Osaka a interrogé cinq IA sur le médicament à proposer pour 123 maladies. Dans 97,5 % des cas en moyenne, le premier choix revient à la même marque, et le médicament d'origine l'emporte largement sur ses génériques. Ce qui semble faire la différence, selon les chercheurs, c'est la présence en ligne du produit, une page Wikipédia par exemple.

Ce que ça change pour nous. Une IA reflète ce qui est visible en ligne. C'est utile à garder en tête quand nos équipes l'interrogent sur un produit, un fournisseur ou un marché : la réponse dit ce qui est connu, pas forcément ce qui est le plus pertinent ni le moins cher.

L'accord sur l'IA dans la fonction publique attend toujours

Il y a une semaine, j'annonçais la réponse de Force ouvrière pour le lundi 2 novembre. Elle n'était toujours pas publique ce dimanche. Sans FO, les quatre syndicats favorables, la CFDT, la FA-FP, l'Unsa et la CFE-CGC, ne réunissent pas la majorité nécessaire.

Ce que ça change pour nous. Rien encore sur le plan juridique. Avec les élections professionnelles de décembre, je crois que nos projets d'IA ont tout intérêt à être présentés aux représentants du personnel avant que le sujet ne s'invite dans la campagne.

Noté au passage

  • METR, un organisme indépendant qui évalue les risques des modèles d'IA, a publié le 5 novembre une évaluation menée chez Anthropic : les capacités de ses modèles progresseraient environ deux fois plus vite depuis octobre 2025, en grande partie grâce à l'IA elle-même. METR précise qu'Anthropic a masqué une partie des éléments les plus parlants.
  • Anthropic, l'entreprise qui développe Claude, a déposé le 2 novembre une version modifiée de son dossier d'entrée en bourse : environ 17 milliards de dollars de chiffre d'affaires au troisième trimestre 2026, et une perte d'exploitation de 567 millions.
  • Aux élections américaines du 3 novembre, une quarantaine de consultations locales portaient sur l'implantation de centres de données. Presque toutes ont tourné en défaveur des projets.
  • OpenAI permet désormais à toutes les organisations clientes de faire passer des appels téléphoniques à ses agents vocaux.

Recevoir la lettre

Le geste, et la semaine chaque dimanche.

Désinscription en un clic. Votre adresse ne sert qu'à l'envoi de la lettre.

Sources