Cinq choses que l’IA ne sait toujours pas faire — réflexions pour cliniciens et ingénieurs

Illustration aquarelle: une personne face à cinq couches translucides représentant les limites structurelles de l’IA.

Le coût de production du code et du texte a chuté. C’est utile, mais cela a aussi créé une vague d’outils superficiels qui disparaissent dès la prochaine génération de modèles.

Voici la carte qui m’aide à rester concret.

1) Responsabilité

Quand un outil IA se trompe, qui porte la responsabilité?

En clinique, la réponse reste humaine: le médecin traitant.
Dans l’infra, c’est pareil: un mauvais changement généré par un agent ne supprime pas la responsabilité opérationnelle.

2) Contexte

Un modèle généraliste n’a pas ton contexte local par défaut: protocoles, population, contraintes terrain.

Sans ce contexte, on obtient souvent des réponses plausibles mais génériques.
Avec contexte, on s’approche d’un véritable outil d’aide à la décision.

3) Confiance

Dans un monde où tout peut être généré, la valeur migre vers la vérification:

  • où le système échoue
  • comment l’échec est détecté
  • quelles protections existent avant production

Sans analyse d’erreurs, il n’y a pas de confiance.

4) Jugement

Le texte et le code deviennent quasi gratuits. Le vrai goulot reste le jugement:

  • quoi automatiser
  • quoi ne jamais déléguer
  • quand un résultat est acceptable

L’IA accélère l’exécution; elle ne remplace pas la responsabilité du choix.

5) Distribution

Construire est rarement le plus dur.
Le plus dur, c’est adoption + intégration + confiance durable des pairs.

Un outil « brillant » mais non adopté n’a pas d’impact réel.


Grille de décision rapide

  • Responsabilité — Qui répond en cas d’erreur?
  • Contexte — Le système voit-il les bonnes données?
  • Confiance — Les modes d’échec sont-ils connus?
  • Jugement — Le rôle humain reste-t-il central?
  • Distribution — L’équipe l’utilise-t-elle réellement?

Les outils durables ne prétendent pas tout résoudre.
Ils rendent les humains meilleurs dans leur vrai travail.

Notes liées