Réflexion - Une Histoire d'IA
Il y a un mois, je lisais un petit débat qu’avait Lord avec un certain Richard Dern. Oui je sais, je prends mon temps à répondre mais cela fait aussi un moment que j’ai une réflexion sur le fait de laisser ou pas des IA pomper ce que j’écris.
Le fait est que lorsque je regarde (rarement…) les logs de connexion sur ce blog, chez l’hébergeur, je repère assez vite un grand nombre de bots, qui s’ajoutent aux petits malins qui essaient de pénétrer le site en force brute. Tout ça bouffe de la bande passante et si on multiplie ça par le nombre de sites hébergés sur le serveur mutualisé, ça doit être colossal… Et encore, je fais quelque chose d’ultra-léger. Multiplions ça par l’internet au sens large et on peut légitimement se demander combien du trafic mondial est pris par les bots des moteurs de recherche et les IA…qui en plus font à peu près le même boulot, à savoir stocker et stocker encore des données. Le plus con dans tout ça, c’est qu’on a des tonnes de données digérées, mises en forme de différentes manières, et qu’on galère par ailleurs pour retrouver des sites disparus qui ont heureusement été sauvegardés par la Wayback machine d’Archive.org. Si Internet avait suivi la voix tracée par ses pères (et mères?), on aurait pu imaginer une base de données de sauvegarde accessible à tous alimentée par des bots gentils tout plein. Oui, le pays des Bisounours, quoi.
Mais voilà, la donnée, c’est de la thune aujourd’hui et le capitalisme n’est pas du genre partageur contrairement aux libristes. Il n’est pas non plus du genre à regarder si la souris est noire ou blanche, tant qu’elle est attrapée par le chat (Mon coté Deng Xiao Ping inversé :-p). Donc on retrouve tout, ce qui veut dire aussi n’importe quoi dans ces gigantesques stockages qui servent à donner des résultats à des humains en mal d’informations…ou de distraction. Et donc on retrouve sans doute un peu de ce que j’ai écrit (qu’on classera aussi parfois dans le n’importe quoi…), que j’en ai envie ou non. Je pourrais éventuellement tenter de créer des parades à cela et empêcher les robots et petites mains des IA de capter tout ça. En y réfléchissant je m’y refuse pour deux raisons :
1° On ajoute de la dépense d’énergie à la dépense d’énergie. Si ces robots et serveurs consomment une énergie monstrueuse, et bien j’en ajouterai un petit peu par des outils, des scripts et des calculs supplémentaires. Oh ce ne sera sans doute pas grand chose à ma petite échelle mais quand je recherche avant tout la frugalité, ça me dérange. Et si je multiplie cela par tous ceux qui feront de même, de manière plus ou moins efficiente, ça risque aussi de rajouter un problème au problème.
2° Si je considère que j’apporte des informations intéressantes (oui, ça reste à prouver…), en priver les moteurs de recherche et IA, c’est finalement en priver des utilisateurs potentiels de ces informations. C’est surtout donner plus d’importance aux mauvaises informations qui pullulent déjà. L’enjeu aujourd’hui n’est plus dans la masse d’information mais dans la qualité et ce qu’on appelle pompeusement la Vérité, face aux mensonges. On sait déjà que prouver la vérité face au mensonge racoleur consomme plus d’énergie. Toujours l’énergie…
Un point sur votre score de citoyen si vous trouvez la référence du film sans aide de l’IA (je vous surveille, ha ha)
Et pourtant, je suis conscient que l’IA, c’est pour l’instant une spirale infernale qui semble courir à la perte de l’humanité, pour le peu d’avantages qu’elle promet. Pourquoi ? Parce que derrière cette abréviation, on range aussi tout et n’importe quoi. L’IA, c’est des automatismes bien pratiques qu’on met du temps à programmer et à améliorer. C’est par exemple ce qui permet à cet article de paraître simultanément sur plusieurs réseaux sociaux sans bouger un petit doigt. Mais c’est aussi ce qui me permet de traiter 13000 lignes de données à mon boulot en 2 minutes. C’est des tris dans des clichés de radiologie parce que des analystes ont passé du temps à entraîner un programme à repérer des tumeurs. J’en passe… c’est aussi des outils de traduction qui vont tuer le métier de traducteur dans 10 ou 15 ans avec le risque d’avoir un langage plus stéréotypé. Et enfin, ce sont ces IA génératives qui sont l’évolution du moteur de recherche qui enfermait déjà dans des bulles et des biais culturels.
A mon petit niveau, après avoir testé tout ça pour savoir quand même de quoi on parle, j’ai vu à peu près 90% de mauvais résultats pour 10% de choses intéressantes avec ces IA à la mode. Pour beaucoup, c’est dû à des biais culturels et des manques de données justement. Je n’utilise plus cela et je ne pousserai personne à le faire à part dans quelques domaines. Est-ce que je vais peser sur ce marché ? Pas sûr car avec 20 ou 30 ans de moins, je n’aurais peut-être pas dit la même chose. J’ai l’expérience et le recul d’un vieil utilisateur d’informatique. J’ai récemment utilisé des IA dédiées à la programmation et lu beaucoup de choses sur le Vibe Coding, cette manière de programmer des applications ou jeux sans savoir manier le moindre langage, juste avec l’aide d’IA spécialisée. Oui, ça m’a aidé un peu à faire le tri dans des API dispos mais ça m’a guidé aussi sur de fausses pistes et c’est avec un regard critique et des connaissances passées dans des langages similaires que j’ai pu comprendre ce qui n’allait pas. Forcément, les programmeurs d’IA sont plus enclins à entraîner des IA dans leur domaine de prédilection et c’est là qu’il y a le plus de progrès. Mais on risque aussi d’introduire de grosses erreurs et des bugs dangereux avec cette manière de faire.
Alors on voit déjà des humains employés à corriger les résultats des IA. Des petites mains payées au lance-pierre (parfois au sens propre) qui ne sont pas forcément bien formées pour corriger correctement. De là à dire qu’il faudrait une IA pour contrôler ces humains, elle même contrôlée par d’autres humains, il n’y a qu’un pas que je franchis allègrement. Car comme l’ordinateur quantique qui utilise beaucoup de ressource pour contrôler ses erreurs, nous sommes partis pour engloutir des milliards de dollars, des GWh d’énergie électrique et du temps humain pou des besoins pas justifiés, quand on regarde à quoi sert l’IA générative, souvent récréative. Et je passe sur les humains qui trouvent là une personne avec qui discuter…Ca en dit beaucoup sur notre société moderne. Comme dit Ploum dans ses derniers articles, ça ne dit rien de bon pour l’avenir de l’apprentissage et de l’éducation des humains car nous perdons peu à peu notre sens critique en se reposant sur ces “intelligences”.
Rien que pour cet article, j’ai testé Gemini de Google sur une question. Cela m’a fait penser à un bateleur de marché qui en fait des tonnes pour vendre un produit auquel il ne croît pas. Il y avait près de 40 lignes pour finalement dire qu’il ne savait pas répondre à ma question correctement, malgré quelques précisions très utiles. Il reprenait la question, la tournait autrement, rajoutait du contexte et des tournures pour avoir l’air plus qu’humain. Un humain serait certainement allé droit au but s’il savait. Là c’est comme l’élève à l’oral du bac qui ne connaît pas la réponse mais essaye de gruger par de la tchatche. En faisant cela, il va effectivement gruger beaucoup d’humains mais évidemment pas ceux qui connaissent le sujet dont on parle. Et comme les financiers et décideurs de grandes entreprises manquent de technique et de culture, il n’est pas étonnant de les voir promotionner l’IA. Pour ma part, j’ai un grand chef de ma boîte qui vient d’Amazon et qui est pile dans cette acculturation et ce manque de capacité à percevoir le monde dans sa diversité et ses différences.
Car l’autre risque de l’IA, c’est de standardiser le langage et d’affadir. On voit déjà le résultat dans la majorité des productions musicales, cinématographiques qui ne sont que des recopies de ce qui a fonctionné et on attend chaque fois le messie qui nous sortira un truc un peu différent, plus relevé, surprenant. Avec l’IA, impossible d’être surpris puisque le principe même de celles que l’on a actuellement est la recopie de ce qui existe dans ses bases de données. Et si la création est souvent une partie de copie, la progression de l’humanité ne s’est faite que par des ruptures, que cela soit en technique ou en artistique. La machine qui apprend d’elle même et évolue est encore pour l’essentiel de la science fiction. C’est effectivement une des étapes suivantes de cette filière de développement. Mais on peut penser alors que l’humain veut créer un autre être vivant et se prend ainsi pour Dieu (donnez lui le nom que vous voulez).
Tous ceux qui ont essayé ont courru à la catastrophe. Dieu lui même n’a-t-il pas créé, selon certains, cette terre que nous gérons si mal maintenant? Si au moins ces intelligences étaient là pour l’objectif qui devrait nous préoccuper : Améliorer la vie sur terre et lutter contre le réchauffement climatique causé par l’humain ? Nous en sommes loin.
