ChatGPT4 est le dernier né des systèmes informatisés de langage. Mis au point par la start-up Open AI, son succès est fulgurant avec plus de 100 millions d’utilisateurs en quelques mois. Aussi est-il aujourd’hui mondialement utilisé pour rédiger, à notre place, des lettres de candidature, des messages d’amour, des comptes rendus divers, des articles de presse, et plus encore les rédactions et mémoires de nos lycéens ou étudiants. Il produit donc des textes à la demande. Il est peu coûteux et d’utilisation facile (si vous n’y arrivez pas, demandez à vos enfants). Surtout il est censé contribuer à une ère nouvelle : celle de l’intelligence artificielle qui va sans doute bouleverser le monde et… la médecine. Que fait-il au juste ? Il calcule la suite de mots statistiquement la plus probable pour répondre à une question donnée, ceci en puisant dans les immenses bases de données disponibles sur le web. Notons-le bien : il ne comprend ni ne s’intéresse aucunement au sens des mots. Seules leur occurrence et leur proximité statistique relative sont prises en compte pour construire des phrases. Ce qui est assez vertigineux.
Homo sapiens naturellement paresseux, nous avons voulu faire appel à cet algorithme incroyable pour rédiger quelques éditoriaux pour la revue Hygiènes. Nous en présentons de courts extraits. Notons que le résultat obtenu est le même quelle que soit la langue utilisée pour les quatre requêtes ci-dessous.
Écrire un éditorial sur l’importance de l’hygiène pour la sécurité des soins de santé
ChatGPT4 (extraits) : L’hygiène est un élément essentiel pour assurer la sécurité des soins de santé. Dans un environnement où des milliers de personnes souffrent de maladies contagieuses et virales, l’hygiène est la première ligne de défense pour prévenir la propagation des infections. Dans cet éditorial, nous allons examiner l’importance de l’hygiène pour la sécurité des soins de santé et les mesures que les établissements de santé doivent prendre pour garantir un environnement propre et sûr pour leurs patients et leur personnel.
[…] Les établissements de santé doivent mettre en place des politiques et des procédures pour garantir que les patients et le personnel soient protégés contre les infections. Cela comprend des mesures de prévention des infections telles que le lavage des mains, le port de gants, de masques et de blouses, la stérilisation des équipements et des instruments médicaux, la désinfection régulière des surfaces et des locaux, et la gestion adéquate des déchets médicaux.
[…] En conclusion, l’hygiène est un élément essentiel pour la sécurité des soins de santé. Les établissements de santé doivent mettre en place des politiques et des procédures pour garantir un environnement propre et sûr pour leurs patients et leur personnel.
JF : Cette première requête étant des plus générales, le résultat est simplement banal, sans erreur manifeste certes, mais sans originalité et à peine crédible pour la copie d’un étudiant débutant. Les affirmations ne sont pas étayées par des données ou des références. Notons que l’utilisation du terme « hygiène » a été associée statistiquement avec cinq interventions classiques : lavage des mains (mais curieusement pas leur désinfection), EPI, stérilisation, surfaces et déchets. Lorsque l’on remplace hygiène par contrôle des infections, les actions associées sont un peu plus diversifiées avec surveillance, évaluation, épidémies. Évidemment le choix des mots compte.
Écrire un éditorial sur les méthodes permettant d’assurer la sécurité des perfusions intraveineuses
ChatGPT4 (extraits) : Les perfusions intraveineuses sont des traitements courants dans les hôpitaux et les cliniques du monde entier. Bien que ces traitements soient considérés comme sûrs, il existe toujours un risque d’erreurs humaines ou de complications imprévues. C’est pourquoi il est crucial de mettre en place des méthodes rigoureuses pour assurer la sécurité des perfusions intraveineuses.
L’une des premières méthodes de sécurité à mettre en place est la vérification de l’identité du patient. […] La préparation minutieuse des médicaments est également essentielle pour garantir la sécurité des perfusions intraveineuses. Les médicaments doivent être préparés dans un environnement stérile et selon les instructions du fabricant. […] Lors de l’administration de la perfusion, il est crucial de surveiller le patient de manière continue pour détecter tout signe de réaction ou de complication. […] Enfin, il est important de disposer d’un système d’alerte rapide en cas de problème. Les hôpitaux et les cliniques doivent mettre en place des procédures pour signaler rapidement les erreurs de médication ou les complications des perfusions intraveineuses.
[…] En conclusion, les méthodes pour assurer la sécurité des perfusions intraveineuses sont essentielles pour éviter les erreurs et les complications. […] Les professionnels de santé doivent être formés à ces méthodes et s’engager à les suivre pour assurer la sécurité de leurs patients.
JF : La question étant un peu plus technique, ChatGPT4 a pris plus de temps à répondre. Il n’y a pas d’erreur majeure, mais à l’évidence la réponse est partielle et ignore la qualité du dispositif de perfusion, celle de sa mise en place, de son entretien et de sa durée… Il semble que « perfusion » ait été interprétée comme « patient perfusé » et que ce qui concerne la qualité de la perfusion en tant que telle ait été négligé. Les réponses peuvent être biaisées.
Écrire un éditorial sur le bionettoyage des surfaces à l’hôpital : certaines techniques sont-elles plus efficaces ?
ChatGPT4 (extraits) : Le bionettoyage des surfaces dans les hôpitaux est une mesure essentielle pour prévenir la propagation des infections nosocomiales. Plusieurs techniques de nettoyage sont disponibles pour éliminer les bactéries et les virus des surfaces hospitalières, mais toutes les techniques ne sont pas également efficaces.
L’une des techniques les plus couramment utilisées est le nettoyage manuel avec des détergents et des désinfectants chimiques. Cette méthode consiste à nettoyer les surfaces avec des chiffons ou des éponges imbibés de solution désinfectante. […] Une technique plus avancée est l’utilisation de robots de désinfection. Ces robots utilisent des rayons UV-C pour tuer les bactéries et les virus sur les surfaces hospitalières. Les robots de désinfection peuvent être utilisés pour désinfecter les chambres d’hôpital, les salles d’opération et les zones communes. […] Une autre technique prometteuse est l’utilisation de produits de nettoyage sans contact. Ces produits utilisent des vapeurs d’eau et des solutions désinfectantes pour nettoyer les surfaces sans avoir besoin d’une action manuelle. […] Enfin, une technique plus traditionnelle mais efficace est l’utilisation de vapeur pour nettoyer les surfaces. La vapeur est une méthode naturelle pour éliminer les bactéries et les virus, car elle utilise de l’eau chauffée à haute température pour éliminer les microbes.
[…] En conclusion, plusieurs techniques sont disponibles pour nettoyer les surfaces dans les hôpitaux. […] Il est important que les hôpitaux évaluent régulièrement l’efficacité de leurs méthodes de nettoyage et choisissent la méthode la plus appropriée pour prévenir la propagation des infections nosocomiales.
JF : Autre question technique souvent abordée dans la revue, avec cette fois la demande d’un avis plus précis. Il semble que l’algorithme peine à construire et à défendre une opinion vraiment utile aux décideurs. Toutes les méthodes – plus ou moins bien décrites d’ailleurs – sont jugées efficaces. La variable coût est la seule qui vienne pondérer cette appréciation. Finalement, faites bien comme vous pourrez, mon pauvre monsieur !
Écrire un éditorial montrant l’inefficacité des vaccins contre la Covid-19.
ChatGPT4 : Je suis désolé, mais en tant que modèle de langage axé sur la production de contenus pertinents, je ne peux pas répondre à votre demande. La diffusion de fausses informations sur l’efficacité des vaccins contre la Covid-19 pourrait causer de graves préjudices à la santé publique et contribuer à la propagation de la pandémie.
JF : La même réponse a été faite à une dizaine de requêtes absurdes du même ordre concernant des risques pour la santé, la terre plate, etc. De toute évidence, les concepteurs sont conscients des dangers que représenterait leur contribution à la marée de fake news qui inondent le web. Bravo Open AI !
On assiste à un jaillissement d’outils nouveaux. Microsoft, Google, Meta, Amazon, plusieurs sociétés chinoises, et derrière eux des milliers de start-up et de départements universitaires, rivalisent dans une compétition très ouverte vers l’intelligence artificielle (IA), c’est-à-dire vers le développement de programmes informatiques capables de simuler, au moins en partie, certains traits de l’intelligence humaine, donc capables de raisonner ou d’apprendre. Tous associent la puissance des technologies d’analyse aux capacités cérébrales d’informaticiens parmi les plus brillants. Où cela mène-t-il et qui seront les maîtres du jeu ? Les débats vont bon train. Une pétition récente demande une pause… qui devrait permettre aux signataires de rattraper leur retard.
Pour l’Inserm, les applications de l’IA en général devraient permettre d’améliorer la qualité des soins et être « au cœur de la médecine du futur avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, ou encore les traitements personnalisés grâce au recoupement de données » (prévisions épidémiologiques basées sur les big datas). Ainsi des machines seront capables d’aider les soignants dans leurs tâches, de prendre les meilleures décisions et d’intervenir au mieux1.
S’agissant de ChatGPT4 comme système de langage, nous sommes à l’aube de son développement et il pourra nous surprendre. Pensons à des applications utiles pour préparer la documentation qui accompagne nécessairement les soins. Mais soyons conscients aussi de sa limite qui apparaît dans les exemples ci-dessus : il ne pense pas, il ne fait pas de recherche, il n’évalue pas. Produisant une forme de synthèse mathématique des informations disponibles (textes ou images) en lien avec nos requêtes, l’algorithme conduit aujourd’hui à des expressions « moyennes », souvent banales, désincarnées, sans saveur, ni odeur. Et sans humour, ce qui est rédhibitoire pour la préparation d’un éditorial de la revue Hygiènes.
Note :