L'IA apprend enfin à ne pas inventer ce qu'elle ne sait pas

Des agents IA pour la génomique qui arrêtent d'inventer des réponses

En génomique, un outil mal configuré ne plante pas bruyamment — il produit un résultat faux que personne ne remarque.

Ce qui se passe dans un laboratoire de bioinformatique ressemble parfois à une cuisine de restaurant étoilé : des dizaines d'outils spécialisés, des paramètres très précis, et une tolérance quasi nulle pour l'improvisation. Le problème, c'est que les agents IA — ces programmes qui enchaînent des tâches en autonomie — ont tendance à « inventer » des noms d'outils ou des configurations quand ils ne sont pas sûrs. On appelle ça une hallucination. En analyse de variants génétiques, une erreur pareille peut fausser silencieusement tout un pipeline d'analyse. Pas idéal. L'équipe derrière Bio-Harness a proposé une solution simple dans son principe : au lieu de laisser le modèle de langage décider librement comment appeler chaque outil, on lui impose des « compilateurs de templates » — pensez à des fiches de recette ultra-strictes que l'agent n'a pas le droit de modifier. L'IA planifie, mais l'exécution est déterministe. Résultat annoncé : 144 cas sur 144 validés, zéro hallucination, zéro panne silencieuse, sur deux familles de modèles ouverts — Qwen et Gemma — sans jamais passer par le cloud. Ce dernier point compte autant que le premier. Envoyer des données génomiques vers un service externe, c'est un problème de confidentialité et de coût imprévisible pour un hôpital ou un labo. Un déploiement local change l'équation. Le hic ? L'évaluation est entièrement interne : 144 cas bien conçus, mais aucune comparaison avec des systèmes existants, aucun test sur des outils bioinformatiques moins standardisés. On ne sait pas encore si l'approche tient quand on lui demande d'intégrer un outil qui n'était pas prévu dans les templates d'origine. Un vrai pas, mais la route vers le déploiement clinique est encore longue.

Un algorithme lit les dossiers médicaux pour repérer les risques suicidaires

Quelque part dans vingt pages de notes cliniques, un médecin a peut-être écrit une phrase qui signale un risque vital — et personne n'a eu le temps de la relire.

Un dossier d'hospitalisation, c'est souvent un empilement de textes : comptes rendus biologiques, listes de médicaments, notes de garde rédigées à la volée. Quelque part dans ce bruit, une phrase peut signaler un risque suicidaire. Le problème, c'est qu'un algorithme classique qui lit tout en même temps se noie — il classe mal parce qu'il ne sait pas quoi ignorer. Une équipe de chercheurs a développé une architecture dite en « cascade » — je simplifie, mais imaginez un filtre à café à plusieurs étages : on passe d'abord toutes les phrases du dossier à travers un premier filtre qui élimine ce qui ne parle pas de santé mentale, puis un deuxième qui gère les contradictions entre notes, et enfin un classificateur qui travaille sur ce qui reste. L'idée, c'est de réduire le bruit avant de chercher le signal, plutôt que de demander à l'IA de tout gérer d'un coup. Sur le benchmark ScAN — un jeu de données dédié aux tentatives de suicide dans les notes cliniques anglophones — le système atteint un F1-score de 0,93. Plus parlant encore : pour les cas « incertains » et « négatifs », les catégories les plus difficiles à distinguer, le score est passé de 0,52 à 0,83 par rapport aux modèles précédents. C'est là que se jouent les vraies erreurs cliniques. Le hic est double. L'évaluation repose sur un seul jeu de données — on ne sait pas si le système fonctionne sur d'autres hôpitaux, d'autres langues, d'autres façons de rédiger. Et le papier complet était tronqué dans ce que j'ai pu lire : les comparaisons de base ne sont pas toutes vérifiables. À ne pas déployer avant une validation externe sérieuse.

L'IA apprend à coordonner les pompes à chaleur d'un quartier avec peu de données

Cent pompes à chaleur qui s'enclenchent toutes en même temps au même signal de prix d'électricité : c'est un cauchemar pour le réseau électrique.

Une pompe à chaleur individuelle, c'est un outil formidable pour réduire la facture énergétique d'un foyer. Mais imaginez un quartier entier équipé de pompes à chaleur, toutes pilotées par le même algorithme basique qui réagit au même signal de prix : tout s'allume en même temps, tout s'éteint en même temps, et le réseau électrique local frémit. L'enjeu de la flexibilité énergétique, c'est justement d'éviter ça — d'apprendre à étaler et coordonner la consommation. Cette thèse flamande propose une combinaison originale. D'un côté, ScaleONet : un modèle qui apprend la thermique d'un bâtiment — comment il se réchauffe, comment il perd de la chaleur — à partir de peu de mesures réelles. Pensez à un simulateur de vol qui apprend à imiter les lois de la physique sans avoir besoin de faire crasher de vrais avions. De l'autre côté, Dyna-PINN : un agent d'apprentissage par renforcement — une IA qui apprend à force d'essais et d'erreurs — qui s'entraîne en grande partie sur ce simulateur thermique avant d'agir sur de vraies pompes. Résultat : il faut beaucoup moins de données réelles pour former l'agent, et le système généralise correctement à des bâtiments hétérogènes — vieilles maisons mal isolées, constructions récentes, toutes dans le même cluster. Le hic est franc : c'est une thèse académique, pas un déploiement terrain. Les résultats sont convaincants en simulation, mais le saut vers de vraies maisons, de vrais habitants avec de vrais comportements imprévisibles, et de vraies contraintes de réseau reste entièrement à démontrer.

Ces trois papiers parlent de génomique, de psychiatrie et d'énergie — rien en commun en apparence. Mais regardez-les ensemble, et le vrai sujet saute aux yeux : la confiance. Peut-on confier à un agent IA l'exécution d'une analyse génomique critique ? Peut-on lui demander de repérer un risque suicidaire dans un dossier médical ? Peut-on le laisser coordonner l'énergie de cent foyers ? La réponse que ces trois équipes donnent est la même, formulée différemment : pas sans contraintes très explicites. Bio-Harness impose des templates rigides. L'équipe sur le risque suicidaire filtre avant de classer. Dyna-PINN injecte de la physique dans l'apprentissage. Ce n'est pas de la méfiance envers l'IA — c'est du bon sens d'ingénieur : on ne lâche pas un outil puissant sans garde-fous. C'est peut-être là, dans cette ingénierie de la contrainte, que la recherche en IA est la plus sérieuse en ce moment.

La vraie question pour les systèmes de détection du risque suicidaire par NLP, c'est la validation externe : si une équipe publie des résultats sur un déploiement réel dans un service hospitalier, c'est le papier à lire en priorité. Du côté de l'énergie, la conférence ACM e-Energy 2026 en juin sera un bon baromètre pour voir où en est l'apprentissage par renforcement appliqué aux bâtiments résidentiels. Et pour Bio-Harness, j'aimerais voir une comparaison directe avec des agents bioinformatiques existants — sans ça, le score de 144/144 reste difficile à situer.

• Wikipedia — Hallucination (intelligence artificielle)
• Wikipedia FR — Apprentissage par renforcement