Intelligence artificielle et champignons, un cocktail toxique

Classé dans : Général | 0

Depuis une dizaine d’années, l’intelligence artificielle (IA) s’insinue de plus en plus au cœur de nos discussions. Leurs instigateurs nous vantent l’idée de l’utiliser pour identifier des champignons, sans effort, sans les connaissances requises, sans maux de tête et théoriquement avec le Vérité en prime. Vous prenez une photo d’un champignon avec votre téléphone cellulaire, la soumettez à une IA et le tour est joué… enfin presque. Si les IA démontrent une certaine efficacité avec les plantes ou certains animaux, elles demeurent gravement trompeuses pour les champignons. Tellement que le site officiel de l’administration française (Service-Public.Fr) a cru bon, dans un article de 2023 sur la consommation de champignons, de signaler ce qui suit :

ATTENTION : les centres antipoison ont pu constater que, dans certains cas, la confusion entre espèces avait été favorisée par l’utilisation d’applications de reconnaissance de champignons sur smartphone qui avaient donné des identifications erronées sur les champignons cueillis.

Malgré tout, on nous assure que les IA se perfectionnent d’année en année grâce à l’ajout de millions de données (photos et autres informations) dans leur boîte noire. Les IA basent la qualité de leur savoir sur des amalgames d’informations provenant de diverses sources. Globalement, plus il y a de gens qui disent la même chose et plus il est probable que l’information soit juste. Ainsi, les IA ne citent pas leurs sources et ne font pas toujours la différence entre des sources scientifiques fiables et des sources de vulgarisation ou populaires, pouvant même provenir de personnes anonymes sur des réseaux sociaux. Théoriquement, les IA auraient un regard critique sur les données qu’elles accumulent, mais elles ne dévoilent pas leurs processus, qui se trouvent bien cachés dans leurs lignes de code.

Lames friables, sporée jaune ocré (charte requise), saveur douce, cuticule séparable du 1/3 à la moitié du rayon, absence de réaction au froissement du pied et spores épineuses (microscope requis) sont des caractères généralement invisibles dans une photo, mais indispensables pour conclure à la Russule boréale (Russula borealis). ©Jean Després

Il n’y a pas que des applications IA pour cellulaire qui envahissent le marché; il y a aussi des livres imprimés ayant toutes les apparences d’œuvres écrites par de vrais experts, mais dont les textes ont été générés par des IA spécialisés (ChatGPT ou Chatbot). Dans ces livres, nulle mention de l’utilisation d’IA, que ce soit par l’auteur présumé ou par l’éditeur. La New York Mycological Society, une société mycologique à but non lucratif, a lancé une alerte sur Twitter à propos de ces publications : « Please only buy books of known authors and foragers, it can literally mean life or death. » Le message est clair et a été repris par diverses sources. Ces livres représentent un réel danger pour la santé publique.

Même Amazon, le promoteur de ce concept, dit reconnaître le problème et a accepté de retirer certains de ce genre de livres les plus dangereux. Est-ce la fin de ces livres « inhumains » ? On peut en douter… quoi de plus lucratif qu’un livre sans droits d’auteur à payer.

LA RÉALITÉ

L’extraordinaire diversité des champignons (seuls les insectes sont plus nombreux), la variabilité de chaque espèce et leur apparence changeante selon le stade de développement ou les conditions météo rendent les espèces fongiques très difficiles à distinguer les unes des autres. Pour identifier la majorité des espèces correctement, il faut très souvent la couleur de la sporée, la saveur, l’odeur et une appréciation tactile (lames cireuses, chapeau gras, etc.), des caractères absents d’une photo. Il y a même dans certains cas, des espèces d’apparence tellement semblable entre-elles qu’un microscope, des réactifs chimiques ou même un séquenceur génétique peut s’avérer nécessaire pour les déterminer. Il n’existe donc pas de baguettes magiques, telles que les IA, pour identifier des champignons à partir d’une simple photo. Il faut de la formation, des outils (livres, clés, etc.), du temps, de la patience et une certaine dose de passion pour bien connaître les champignons.

Cela dit, il existe bien sûr, pour ceux qui désirent seulement déguster la nature, des champignons comestibles et faciles à reconnaître. Il importe de savoir lesquels ainsi que leurs caractères distinctifs, et de bien connaître leurs sosies toxiques. Là aussi, les IA ne sauraient remplacer des guides rédigés par des mycologues utilisant leur longue expérience et leur jugement pour prodiguer des conseils avisés.

L’IA pourrait confondre cette Galérine marginée (Galerina marginata), contenant des amatoxines mortelles, avec une pholiote comestible. ©Jean Després

SOURCES


  1. Ragot, J. (30 août 2023). Sur Amazon, des livres rédigés par IA peuvent donner des conseils particulièrement dangereux. BFMTV -Tech & Co. Consulté le 21 novembre 2025.

  2. Cole, S. (29 août 2023). ‘Life or Death:’ AI-Generated Mushroom Foraging Books Are All Over Amazon. 404 Media Podcast. Consulté le 21 novembre 2025.

  3. New York Mycological Society. (27 août 2023). PSA Alert. Consulté le 21 novembre 2025.

  4. Marchal, Q. (31 août 2023). Écrits par l’IA, ces livres proposent des conseils dangereux, voire mortels. Le Point. Consulté le 21 novembre 2025.

  5. Lalonde, C. (27 septembre 2023). De faux livres générés par l’intelligence artificielle ou plagiés pullulent sur Amazon. Le Devoir. Consulté le 21 novembre 2025.

  6. Bayard, F. (30 août 2023). Amazon : des livres rédigés par l’IA donnent des conseils mortels. 01net. Consulté le 21 novembre 2025.

  7. Beurnez, V. (18 septembre 2022). Faut-il faire confiance aux applications de reconnaissance des champignons? Consulté le 21 novembre 2025.

  8. Direction de l’information légale et administrative (Première ministre) (22 septembre 2023). Cueillette et consommation de champignons : attention aux risques d’intoxication ! Consulté le 21 novenbre 2025.

QUELQUES PRODUITS D’IA À PROSCRIRE :

Cet article de Jean Després a paru dans le bulletin de Cercle des mycologues de Montréal « Le Mycologue volume 49 no 1 mars 2024 » et est publié avec l’autorisation de l’auteur et de l’éditeur

Laisser un commentaire