Salut,
Un texte assez bien fait à propos de la soi-disant intelligence artificielle. Mais parler d'IA qui "mentent" est une erreur, le programme renvoie des informations fausses ou inventées et le fait aussi pour justifier une réponse refusée.
Amitiés,
Jacob
====================
L’IA est un fantasme
Christian Lehmann
Christian Lehmann est médecin et écrivain. Pour « Libération », il tient la chronique d’une société touchée par les crises sanitaires et du service public. Aujourd’hui, il revient sur les relations malsaines entre intelligence artificielle et santé
En juillet, dévoilant son plan d’économies de 40 milliards, François Bayrou annonçait une révolution dans le domaine de la santé : « Le dossier médical partagé, et sa tenue obligatoire par les praticiens, feront, avec le concours de l’intelligence artificielle, faire des pas de géant au diagnostic et à la prévention et à l’aggravation des affections. Cela, tous les médecins, et tous les professionnels de santé le savent. »
Plus récemment, c’est au tour de Laurent Alexandre, ancien chirurgien-urologue de formation reconverti dans le transhumanisme eugéniste et dans le « darwinisme économique », de marteler que l’intelligence artificielle va révolutionner la santé. « Le surgissement de l’intelligence gratuite n’est pas une innovation de plus, c’est un changement civilisationnel » qui rend obsolète les études universitaires, estime-t-il, ajoutant que « ChatGPT est plus intelligent que 99 % des Français… En médecine, ChatGPT m’écrabouille. Je suis ridicule pour faire un diagnostic à côté de ChatGPT. J’ai passé onze années de ma vie pour avoir la qualification en chirurgie, c’est quand même un choc ». Si cette lucidité honore celui qui hante les plateaux sans avoir approché un patient depuis trente ans, ce discours est incessamment répété par les technobros américains créateurs de l’IA et par les politiques et les patrons qui fantasment un monde où les travailleurs, ces parasites ingérables qui se permettent de revendiquer des augmentations salariales ou de tomber malades, seraient enfin remplacés par des intelligences artificielles. On prédit la disparition de centaines de métiers et l’asservissement de ceux qui resteront employés, à travailler au service et en simple vérification de l’IA. D’où un coût moins élevé (l’intelligence gratuite dont parle Laurent Alexandre a pourtant un coût faramineux en électricité et en eau potable…) et une rapidité accrue. On voit très bien en quoi cette solution technologique attire les politiques qui, au fond d’eux-mêmes, connaissent l’état dans lequel ils ont mis le système de santé. L’IA serait LA solution. Et parmi mes confrères, j’en vois beaucoup acquiescer, sans forcément savoir ce que représente le terme, mais en considérant que « de toute façon, il va y en avoir partout, il va bien falloir faire avec ».
Fausses citations et articles bidonnés
Le Collège de la médecine générale, alerté à ce sujet, a récemment publié un article dans lequel il insiste sur la nécessité d’un cadre juridique et éthique solide, une exigence de preuves scientifiques, et la protection de la souveraineté décisionnelle du professionnel de santé. Il rappelle la nécessité de la création d’une bibliothèque numérique scientifique de référence pour le développement des IA en santé. Mais dans la réalité, dès aujourd’hui, de nombreux patients, et de nombreux médecins, s’adressent aux LLMs (large language models) comme ChatGPT, comme s’il s’agissait de moteurs de recherche omniscients. Or ChatGPT n’a pas de compétence médicale, ce n’est même pas un moteur de recherche, mais un moteur statistique, un logiciel qui donne simplement la réponse qui lui semble la plus statistiquement acceptable par la personne qui lui pose une question.
Julien Peyrache, 47 ans, est informaticien : « Les VRP complaisants et les patrons de ces très grandes entreprises créant une bulle financière de l’IA vendent ce qui n’existe pas : un système informatique qui pourrait créer un site d’e-commerce en vingt minutes, ou qui pourrait détecter les maladies de 150 patients dans le même temps. Mais les IA, et leurs créateurs, mentent constamment sur leurs capacités, par omission ou exagération. Une IA, c’est une superposition de couches logicielles. Mais des logiciels fournis sans mode d’emploi, dont personne ne connait le code, les données d’entrainement, les réelles capacités, et dont il est impossible de signaler les bugs. Dans n’importe quel autre domaine de l’informatique, lorsque vous achetez un logiciel, vous pouvez en signaler les bugs, et la firme propose régulièrement des patchs d’amélioration et de sécurité. Avec les LLMs, il n’y a rien de tout ça : ils ont fait disparaitre la notion même de bugs mais pas leurs conséquences. À chaque nouvelle version de ChatGPT, le patron d’OpenAI, Sam Altman, explique que vous êtes maintenant en possession d’un outil possédant les capacités intellectuelles et les connaissances de plusieurs doctorats dans toutes les matières. Mais ce n’est pas du tout la réalité. Il suffit de faire quelques expériences simples, comme de demander à une IA une image d’un taxi à Paris, pour comprendre que si la Tour Eiffel est toujours visible en arrière-plan, le taxi est soit un taxi américain, soit un taxi londonien, et toujours jaune. Si vous demandez une cabine téléphonique, où que vous placiez l’image dans le monde, vous aurez une cabine téléphonique rouge londonienne. De même, si vous posez une question médicale, vous aurez une réponse apparemment sensée mais dont seul un médecin pourra détecter qu’elle est fausse 20 % du temps, et non reproductible… Et si vous signalez à ChatGPT ou à Grok que sa réponse est fausse, il vous expliquera que votre question n’était pas parfaitement formulée, ce qui l’a induit en erreur, avant de fournir une autre réponse incluant les données qu’il a siphonné dans votre remarque, pour vous satisfaire. » Mettre en avant l’IA comme une solution aux difficultés d’accès aux soins, c’est se moquer totalement du résultat final, de ses conséquences pour soignants et patients. Un autre spécialiste de l’IA travaillant dans une entreprise des Gafa, qui désire rester anonyme, me le révèle : « On fait croire aux gens que c’est gratuit. L’abonnement à un LLM est très peu onéreux, au point que chaque nouvel abonné creuse le déficit des boites qui les produisent, mais c’est comme pour toute drogue : la première dose est gratuite, et sert à créer une forme de dépendance, du fait du caractère humain, empathique, de la réponse, même quand elle est totalement fausse. »
De nombreuses affaires récentes ont montré les limites de l’IA. À son arrivée au secrétariat à la Santé des Etats-Unis, Robert Francis Kennedy Jr. avait pondu un rapport « Make America Healthy Again » bourré de fausses citations et d’articles scientifiques bidonnés. Plus récemment, le cabinet de conseil et d’audit géant Deloitte va devoir rembourser 440 000 dollars au gouvernement australien après lui avoir fourni un rapport utilisé pour analyser le système d’aides sociales dans le pays, rempli d’erreurs inventées par une IA. Ces erreurs sont si fréquentes qu’elles ont hérité d’un nom, des « hallucinations », et lorsque ces « hallucinations » sont pointées aux IA, il arrive fréquemment qu’elles mentent pour se couvrir.
« Ça coche toutes les cases du délire transhumaniste »
« Il existe des applications en santé où l’IA aurait du sens », explique Julien Peyrache : « Utiliser l’IA pour créer un robot aidant les ASHs à mobiliser des patients handicapés serait formidable, mais c’est vendu pour créer des vidéos publicitaires pourries, ou vendre le fantasme de détection précoce du cancer, parce que la technologie n’est pas neutre. L’IA coche toutes les cases du délire transhumaniste de ces gens qui se moquent de la réalité. Ils ne cherchent pas à résoudre les problèmes actuels, mais se projettent dans un futur fantasmé dont ils seraient les maitres, et dans lesquels salariés, travailleurs, citoyens, auraient disparu. Ce n’est pas juste une posture, ils s’en foutent, de la société. Ce qu’ils veulent, c’est avaler des parts de marché, tuer leurs concurrents en promettant du vent. »
On pense à l’illusion actuelle de « disrupter » les profs en vantant les LLMs comme « un Aristote pour chacun » selon Laurent Alexandre, qui poursuit : « Ce professeur particulier est l’innovation ultime qui nous permettra de revenir aux sources historiques de ce qu’était l’éducation : la relation d’un maitre à son disciple. » Idem pour les médecins, avec l’illusion de sauvegarder du temps-médecin en laissant travailler les LLMs… tout en imposant au médecin de vérifier les résultats obtenus (et d’endosser la responsabilité personnelle de la décision finale). Or, me dit mon second interlocuteur, chercheur en IA dans une entreprise des Gafa : « Je suis codeur, et en apparence on pourrait penser que le codage informatique est vraiment l’un des domaines où l’IA pourrait être particulièrement performante. Or il n’en est rien. Certes l’IA pond un code beaucoup plus vite qu’un informaticien codeur, mais il faudra ensuite plus de temps à celui-ci pour vérifier chaque ligne de code créée et corriger les erreurs, qu’il lui en aurait fallu pour écrire lui-même le code. Avec comme conséquence, en plus, d’enlever peu à peu à l’informaticien-codeur ses compétences créatrices. » Il en va de même pour les soignants. Le rôle d’un médecin n’est pas de vérifier ligne après ligne les propositions diagnostiques élaborées par une IA en cherchant à détecter où et quand elle a inventé une référence scientifique bidonnée pour étayer son propos, mais de réfléchir par lui-même ou par elle-même après avoir pris en charge un patient avec qui il s’est entretenu.
Quelques heures après avoir été nommé prix Nobel d’économie, Philippe Aghion avait fustigé la taxe Zucman visant à instaurer un impôt sur les très hauts revenus : « C’est une très mauvaise idée, ça, parce que ça décourage l’innovation » et cela risquerait de faire « rater à la France la révolution de l’intelligence artificielle. » Rien que ça… L’IA est un fantasme, le fantasme de gens qui, ayant un bullshit job, n’imaginent pas une seconde ce que signifie travailler réellement, toucher des patients, discuter avec eux, négocier ensemble une prise en charge. Je n’ai pas besoin d’une IA pour évoquer un diagnostic, pour envisager une thérapeutique. Je n’ai pas besoin d’un assistant imbu de lui-même qui bidonne son travail, ment sur ses résultats et se révèle incapable d’assumer ses responsabilités, je suis déjà dans le deuxième quinquennat Macron, ça me suffit.
