« Je ne pensais pas qu’on pouvait en mourir » : aux urgences, on lui a montré ce que ChatGPT avait oublié de lui dire

Un four à micro-ondes ne pardonne pas qu'on y glisse une cuillère en métal, même si la notice ne le précise pas toujours en gros caractères. Il en va parfois de même avec certains conseils donnés par une intelligence artificielle : ce qu'elle omet de dire peut avoir des conséquences bien plus sérieuses qu'un simple court-circuit. C'est ce qu'a découvert à ses dépens une mère de famille de la région lyonnaise, blessée après avoir suivi une recette de sels de bain suggérée par ChatGPT.

L'histoire, aussi banale en apparence qu'inquiétante dans son dénouement, illustre un phénomène en pleine expansion : de plus en plus de foyers français demandent conseil à une intelligence artificielle conversationnelle avant même de consulter un professionnel ou de vérifier une information sur un site spécialisé. Un réflexe pratique, souvent utile, mais qui peut virer au cauchemar lorsque la réponse fournie omet un détail essentiel.

Direction les urgences, où le personnel soignant a dû expliquer à cette maman ce que l'outil ne lui avait jamais signalé : un risque chimique bien réel, capable de transformer une activité familiale anodine en accident domestique grave.

À retenir

• Une complication grave a conduit une personne aux urgences après avoir suivi les conseils de ChatGPT.
• L'IA a minimisé, voire complètement omis, un risque pourtant déterminant pour la sécurité.
• Les chatbots ne remplacent pas un avis médical ou scientifique, même quand leurs réponses semblent parfaitement rassurantes.
• Ce type d'incident se multiplie à mesure que l'IA conversationnelle s'installe dans le quotidien des foyers français.
• Quelques réflexes simples permettent d'éviter ce genre de mésaventure.

Quand l'IA devient le premier réflexe santé et bien-être

Demander une recette, un conseil beauté ou une astuce de grand-mère à une intelligence artificielle est devenu un geste presque aussi naturel que de taper une requête dans un moteur de recherche. Cette femme de 40 ans, vivant dans la région lyonnaise, ne dérogeait pas à cette habitude en cherchant une recette de sels de bain à la lavande à réaliser avec sa fille de 7 ans.

Un moment de partage familial, simple et peu coûteux, qui s'inscrit dans une tendance largement partagée : celle du fait maison, perçue comme plus économique et plus naturelle que les produits vendus dans le commerce. ChatGPT lui a alors proposé un mélange associant notamment de l'acide citrique et du bicarbonate de soude, deux ingrédients que l'on retrouve fréquemment dans les recettes de cosmétique maison.

L'outil précisait également de conserver la préparation dans un contenant hermétique, afin d'en préserver les propriétés. Une indication qui semblait relever du simple bon sens ménager, mais qui allait pourtant se révéler lourde de conséquences.

Ce que ChatGPT n'a pas dit, et qui a failli coûter cher

Suivant scrupuleusement les instructions reçues, la mère de famille a choisi une petite bouteille en verre épais, du type de celles utilisées pour la limonade, réputées solides et parfaitement hermétiques. Un choix logique, en apparence anodin.

Une heure plus tard, le mélange a violemment explosé, alors qu'elle se trouvait juste à côté du récipient. Un éclat de verre projeté par la déflagration s'est logé dans son ventre. Les pompiers puis le SAMU sont intervenus rapidement, avant une prise en charge aux urgences pour retirer le fragment de verre, ce qui a nécessité deux semaines d'arrêt de travail.

C'est en effet aux urgences que l'information manquante lui a été révélée : l'association d'acide citrique et de bicarbonate de soude déclenche une réaction chimique qui produit du dioxyde de carbone, un gaz. Enfermé dans un contenant totalement hermétique, ce gaz s'accumule et fait grimper la pression interne, jusqu'à ce que le récipient cède, parfois violemment. Un principe de chimie basique, connu de longue date, mais que ChatGPT n'avait à aucun moment mentionné dans sa réponse.

Pourquoi les chatbots peuvent se tromper sur des sujets sensibles

Ce cas met en lumière une limite structurelle des intelligences artificielles conversationnelles : elles génèrent des réponses en s'appuyant sur des probabilités statistiques et des schémas de langage, sans réelle compréhension du contexte physique ou des conséquences concrètes d'une manipulation. Elles ne sont ni des chimistes, ni des médecins, ni des pharmaciens.

Une réponse peut ainsi sembler complète, cohérente et rassurante, tout en occultant un détail pourtant essentiel à la sécurité de l'utilisateur. Ce phénomène, parfois appelé hallucination ou omission d'information critique, touche particulièrement les sujets à la frontière entre plusieurs domaines de connaissance, comme la cosmétique maison, qui mêle chimie, sécurité domestique et bricolage.

Plusieurs facteurs expliquent ce type de défaillance :

• l'IA ne possède aucune expertise certifiée en chimie, en toxicologie ou en médecine ;
• elle ne peut évaluer les risques propres au matériel utilisé par l'utilisateur, comme le type de contenant ;
• elle formule des réponses generiques, parfois incomplètes selon la façon dont la question est posée ;
• elle ne remplace en aucun cas une vérification croisée avec une source spécialisée ou un professionnel.

Ce constat ne signifie pas que ces outils sont inutiles ou dangereux par nature. Il rappelle simplement qu'ils doivent être utilisés avec discernement, en particulier lorsque la sécurité physique est en jeu.

Comment utiliser l'IA sans mettre sa santé en danger

Recourir à ChatGPT ou à tout autre assistant conversationnel pour obtenir une recette, une astuce ménagère ou une information pratique reste tout à fait envisageable, à condition d'adopter quelques réflexes simples.

Avant de suivre une recommandation impliquant un mélange de produits, il est recommandé de vérifier l'information auprès d'une source spécialisée et reconnue. Cela vaut particulièrement pour les préparations mêlant plusieurs substances chimiques, même d'apparence anodine comme l'acide citrique ou le bicarbonate de soude.

Certains principes de prudence permettent d'éviter ce type d'incident :

• ne jamais conserver un mélange chimique susceptible de produire du gaz dans un contenant totalement hermétique ;
• privilégier un récipient qui laisse échapper la pression, ou le contrôler régulièrement les premières heures ;
• croiser toute recommandation reçue via une IA avec une source fiable, notamment pour les préparations destinées à un usage domestique ;
• rester particulièrement vigilant lorsque des enfants participent à ce type d'activité ;
• en cas de doute sur une réaction chimique, s'abstenir plutôt que d'improviser.

Pour toute question relevant de la santé, un professionnel qualifié, médecin, pharmacien ou service d'urgence, demeure la seule référence fiable. L'intelligence artificielle peut orienter, informer, donner des pistes, mais elle ne doit jamais se substituer à un avis médical ou scientifique établi.

En résumé

• ChatGPT n'est pas conçu pour poser un diagnostic médical ou évaluer un risque chimique de manière fiable.
• Des informations essentielles peuvent être minimisées ou totalement absentes de ses réponses.
• Les urgences ont révélé, dans ce cas précis, un danger que l'outil n'avait jamais signalé.
• Consulter un professionnel ou une source spécialisée reste indispensable en cas de doute.
• L'IA peut informer et accompagner, mais ne doit jamais remplacer un avis médical ou scientifique qualifié.

Cet incident rappelle une règle simple mais souvent négligée : la commodité d'une réponse instantanée ne garantit jamais son exhaustivité. Derrière un ton assuré et des instructions précises, une intelligence artificielle peut passer sous silence un détail décisif pour la sécurité.

Face à une recette, un conseil pratique ou une manipulation impliquant des produits chimiques, même les plus courants, la prudence et la vérification restent les meilleurs alliés, bien avant la rapidité d'une réponse générée en quelques secondes.