L’illusion de l’automatisation : ce que la chirurgie révèle sur l’importance du facteur humain

Quand la recherche portée par l’Institut Mines-Télécom et sa Fondation éclaire les transformations du travail

Alors que l’intelligence artificielle générative nourrit les promesses d’une automatisation croissante du travail, certains domaines opposent une résistance inattendue. La chirurgie, en particulier, met à l’épreuve l’idée selon laquelle les machines pourraient reproduire, voire remplacer, les capacités humaines.

Ces questions dépassent le seul débat technologique. Elles s’inscrivent au cœur des transformations numériques qui traversent les organisations et les métiers. À l’Institut Mines-Télécom, elles nourrissent des programmes de recherche conçus pour analyser ces évolutions et accompagner les parties prenantes qui y sont confrontés.

Observer et transformer le travail au plus près du terrain

Créée à l’initiative de l’AP-HP, de l’Institut Mines-Télécom et de l’Université Paris-Saclay, la chaire BOPA (« Bloc Opératoire Augmenté ») se déploie au cœur de l’hôpital Paul-Brousse depuis 2020. Elle réunit des équipes de santé, des spécialistes de l’ingénierie, des chercheurs et chercheuses en sciences humaines et sociales ainsi que des partenaires industriels.

Ensemble, ces équipes pluridisciplinaires analysent les pratiques au bloc opératoire et expérimentent des solutions concrètes. Leur objectif : développer des technologies numériques (imagerie, intelligence artificielle, robotique, assistants vocaux) tout en comprenant précisément les activités qu’elles transforment. Les solutions expérimentées sont diffusées à l’ensemble de l’AP-HP, dans l’ensemble des disciplines chirurgicales, adultes et pédiatriques.

Cette approche croisée mobilise des compétences et des expertises complémentaires pour éclairer les usages réels des technologies et leurs effets sur le travail. C’est là toute la spécificité de l’Institut Mines-Télécom : faire dialoguer recherche, terrain et innovation pour accompagner concrètement les transformations.

Quand la technologie complexifie la décision

C’est dans ce cadre que s’inscrit le travail du sociologue Gérard Dubey, professeur de sociologie à l’Institut-Mines-Télécom Business School. Son ouvrage « Le chirurgien et l’algorithme » (Puf) s’appuie sur cinq années d’enquête de terrain.

« On imagine souvent que les technologies vont simplifier la décision. En réalité, elles la rendent plus complexe », observe-t-il.

Dans les blocs opératoires, les outils d’analyse d’images ou d’aide à la décision ne remplacent pas le jugement humain. Ils produisent des informations supplémentaires qu’il faut interpréter, hiérarchiser, discuter en équipe. Ces travaux montrent que l’automatisation ne supprime pas l’incertitude. Elle la transforme, en redéfinissant les rôles, les responsabilités et les modes de coopération.

Le défi du vivant face aux logiques d’automatisation

La chirurgie constitue un terrain particulièrement exigeant. Là où les algorithmes reposent sur des environnements relativement stables, les équipes médicales doivent composer avec une variabilité constante.

« Chaque patient ou patiente est différente. Chaque intervention comporte une part d’incertitude », rappelle le chercheur.

Cette réalité limite les possibilités de standardisation. Elle met en évidence des formes de savoir essentielles : expérience, perception fine des situations, capacité d’adaptation en contexte. Ces compétences, souvent peu visibles, deviennent centrales dès lors que les modèles atteignent leurs limites.

L’introduction de dispositifs automatisés d’aide à la décision, censés accompagner les non-experts d’un domaine, nous confronte par exemple à une contradiction troublante. La masse considérable de cas que peuvent stocker et analyser en un temps record ces dispositifs dépasse les capacités de la ou du meilleur expert humain. Mais la sélection des données jugées pertinentes par les data scientists pour identifier, par exemple, les marges d’exérèse d’une tumeur, ne relève pas du même type de savoir que celui qui permet de déterminer si l’anomalie, rapportée aux autres particularités du patient ou de la patiente, au contexte global de la prise de décision, est significative ou non. Ce qui incite à penser que plus les dispositifs de détection algorithmiques deviennent précis et réalistes, plus les écarts entre ce qu’ils représentent et le réel deviennent ténus, et plus il est nécessaire de développer à leur égard un « sixième sens » pour discriminer le vrai du faux. Ce sixième sens s’acquiert par l’expérience, la répétition, l’attention au milieu et aux autres, en situation, dans le temps long de l’apprentissage. Cultiver, maintenir, entretenir ce mode d’intelligence et les conditions qui lui permettent de s’exprimer, devrait donc apparaître, dans ce contexte, pas moins mais plus nécessaire que jamais.

Une recherche utile pour améliorer les pratiques

En s’inscrivant dans la durée et au plus près des pratiques, la chaire BOPA produit des connaissances directement mobilisables. Elle permet de mieux comprendre comment les technologies transforment le travail. Elle permet également d’accompagner leur intégration dans des environnements complexes.

« Observer les transformations réelles du travail au-delà des discours, est essentiel pour concevoir des outils adaptés », souligne Gérard Dubey.

Ces résultats apportent des repères concrets aux équipes professionnelles, mais aussi aux organisations dans la santé comme dans d’autres secteurs, qui déploient des systèmes d’intelligence artificielle.

Repenser l’automatisation pour construire l’avenir

La promesse d’une automatisation totale repose souvent sur une vision simplifiée du réel : un monde stable, prédictible, entièrement modélisable. Les travaux menés dans le cadre de la chaire BOPA montrent au contraire que l’activité humaine se déploie dans des environnements incertains, où l’adaptation est permanente et collective.

« Ce que montrent ces situations, c’est que l’intelligence ne se réduit pas au calcul. », conclut Gérard Dubey.

En éclairant ces réalités, l’Institut Mines-Télécom contribue à mieux comprendre les transformations en cours et à accompagner celles et ceux qui imaginent et construisent les usages de demain.