De la soumission au technofascisme religieux
par Ploum le 2025-02-19
Les générateurs de code stupide
Sur Mastodon, David Chisnall fait le point sur une année d’utilisation de GitHub Copilot pour coder. Et le résultat est clair : si, au début, il a l’impression de gagner du temps en devant moins taper sur son ordinateur, ce temps est très largement perdu par les heures voire les jours nécessaires à déboguer des bugs subtils qui ne seraient jamais arrivés s’il avait écrit le code lui-même en premier lieu ou, au pire, qu’il aurait pu détecter beaucoup plus vite.
Il réalise alors que la difficulté et le temps passé sur le code n’est pas d’écrire le code, c’est de savoir quoi et comment l’écrire. S’il faut relire le code généré par l’IA pour le comprendre, c’est plus compliqué pour le programmeur que de tout écrire soi-même.
« Oui, mais pour générer le code pas très intelligent »
Là , je rejoins David à 100% : si votre projet nécessite d’écrire du code bête qui a déjà été écrit mille fois ailleurs, c’est que vous avez un problème. Et le résoudre en le faisant écrire par une IA est à peu près la pire des choses à faire.
Comme je le dis en conférence : ChatGPT apparait utile pour ceux qui ne savent pas taper sur un clavier. Vous voulez être productif ? Apprenez la dactylographie !
Là où ChatGPT est très fort, par contre, c’est de faire semblant d’écrire du code. En proposant des tableaux d’avancement de son travail, en prétendant que tout est bientôt prêt et sera sur WeTransfer. C’est évidemment bidon : ChatGPT a appris à arnaquer !
Bref, ChatGPT est devenu le parfait Julius.
Ed Zitron enfonce encore plus le clou à ce sujet : les ChatGPTs et consorts sont des « succès » parce que toute la presse ne fait qu’en parler en termes élogieux, que ce soit par bêtise ou par corruption. Mais, en réalité, le nombre d’utilisateurs payants est incroyablement faible et, comme Trump, Sam Altman s’adresse à nous en considérant que nous sommes des débiles qui avalons les plus gros mensonges sans broncher. Et les médias et les CEOs applaudissent…
Débiles, nous le sommes peut-être complètement. Plusieurs dizaines d’articles scientifiques mentionnent désormais la « miscroscopie électronique végétative ». Ce terme ne veut rien dire. Quelle est son origine ?
Il vient tout simplement d’un article de 1959 publié sur deux colonnes, mais qui est entré dans le corpus comme une seule colonne !
Ce que cette anecdote nous apprend c’est que, premièrement, les générateurs de conneries sont encore plus mauvais qu’on ne l’imagine, mais, surtout, que notre monde est déjà rempli de cette merde ! Les LLMs ne font qu’appliquer au contenu en ligne ce que l’industrie a fait pour le reste : les outils, les vêtements, la bouffe. Produire le plus possible en baissant la qualité autant que possible. Puis en l’abaissant encore plus.
La suppression des filtres
L’imprimerie fait passer la communication de "One to one" à "One to many", ce qui rend obsolète l’Église catholique, l’outil utilisé en occident pour que les puissants imposent leur discours à la population. La première conséquence de l’imprimerie sera d’ailleurs le protestantisme qui revendique explicitement la capacité pour chacun d’interpréter la parole de Dieu et donc de créer son propre discours à diffuser, le "One to many".
Comme le souligne Victor Hugo dans Notre-Dame de Paris, « la presse tuera l’église ».
Conséquences directes de l’imprimerie : la Renaissance puis les Lumières. Toute personne qui réfléchit peut diffuser ses idées et s’inspirer de celles qui sont diffusées. Chaque humain ne doit plus réinventer la roue, il peut se baser sur l’existant. L’éducation prend le pas sur l’obéissance.
Après quelques siècles de « One to many » apparait l’étape suivante : Internet. Du « One to many » on passe au « Many to many ». Il n’y a plus aucune limite pour diffuser ses idées : tout le monde peut le faire envers tout le monde.
Une conséquence logique qui m’avait échappé à l’époque du billet précédent, c’est que si tout le monde veut parler, plus personne n’écoute. Comme beaucoup, j’ai cru que le « many to many » serait incroyablement positif. La triste réalité est que l’immense majorité d’entre nous n’avons pas grand-chose à dire, mais que nous voulons quand même nous faire entendre. Alors nous crions. Nous générons du bruit. Nous étouffons ce qui est malgré tout intéressant.
L’investissement nécessaire pour imprimer un livre ainsi que le faible retour direct constitue un filtre. Ne vont publier un livre que ceux qui veulent vraiment le faire.
La pérennité de l’objet livre et la relative lenteur de sa transmission implique également un second filtre : les livres les moins intéressants seront vite oubliés. C’est d’ailleurs pourquoi nous idéalisons parfois le passé, tant en termes de littérature que de cinématographie ou de musique : parce que ne nous sont parvenus que les meilleurs, parce que nous avons oublié les sombres merdes qui firent un flop ou eurent un succès éphémère.
Bien que très imparfait et filtrant probablement de très bonnes choses que nous avons malheureusement perdues, la barrière à l’entrée et la dilution temporelle nous permettaient de ne pas sombrer dans la cacophonie.
L’échec de la démocratisation de la parole
Internet, en permettant le « many to many » sans aucune limite a rendu ces deux filtres inopérants. Tout le monde peut poster pour un coût nul. Pire : les mécanismes d’addiction des plateformes ont rendu plus facile de poster que de ne pas poster. Le support numérique rend également floue la frontière temporelle : un contenu est soit parfaitement conservé, soit disparait totalement. Cela entraine que de vieux contenus réapparaissent comme s’ils étaient neufs et personne ne s’en rend compte. Le filtre temporel a totalement disparu.
De possible, le « many to many » s’est transformé en obligation. Pour exister, nous devons être vus, entendus. Nous devons avoir une audience. Prendre des selfies et les partager. Recevoir des likes qui nous sont vendus bien cher.
Le « many to many » s’est donc révélé une catastrophe, peut-être pas dans son principe, mais dans sa mise en œuvre. Au lieu d’une seconde renaissance, nous entrons en décadence, dans un second moyen-âge. La frustration de pouvoir s’exprimer, mais de ne pas être entendu est grande.
Olivier Ertzscheid va même plus loin : pour lui, ChatGPT permet justement d’avoir l’impression d’être écouté alors que personne ne nous écoute plus. Du « many to many », nous sommes passés au « many to nobody ».
Utiliser ChatGPT pour obtenir des infos se transforme en utiliser ChatGPT pour obtenir confirmation à ses propres croyances, comme le relève le journaliste politique Nils Wilcke.
J’en ai marre de le répéter, mais ChatGPT et consorts sont des générateurs de conneries explicitement conçus pour vous dire ce que vous avez envie d’entendre. Que « ChatGPT a dit que » puisse être un argument politique sur un plateau télévisé sans que personne ne bronche est l’illustration d’un crétinisme total généralisé.
Le Techno-Fascisme religieux
La « Many to nobody » est en soi un retour à l’ordre ancien. Plus personne n’écoute la populace. Seuls les grands seigneurs disposent de l’outil pour imposer leur vue. L’Église catholique a été remplacée par la presse et les médias, eux-mêmes remplacés par les réseaux sociaux et ChatGPT. ChatGPT qui n’est finalement qu’une instance automatisée d’un prêtre qui vous écoute en confession avant de vous dire ce qui est bien et ce qui est mal, basé sur les ordres qu’il reçoit d’en haut.
Dans un très bon billet sur le réseau Gemini, small patata réalise que l’incohérence du fascisme n’est pas un bug, c’est son mode de fonctionnement, son essence. Une incohérence aléatoire et permanente qui permet aux esprits faibles de voir ce qu’ils ont envie de voir par paréidolie et qui brise les esprits les plus forts. En brisant toute logique et cohérence, le fascisme permet aux abrutis de s’affranchir de l’intelligence et de prendre le contrôle sur les esprits rationnels. Le légendaire pigeon qui chie sur l’échiquier et renverse les pièces avant de déclarer victoire.
L’incohérence de ChatGPT n’est pas un bug qui sera résolu ! C’est au contraire ce qui lui permet d’avoir du succès avec les esprits faibles qui, en suivant des formations de « prompt engineering », ont l’impression de reprendre un peu de contrôle sur leur vie et d’acquérir un peu de pouvoir sur la réalité. C’est l’essence de toutes les arnaques : prétendre aux personnes en situation de faiblesse intellectuelle qu’ils vont miraculeusement retrouver du pouvoir.
Small patata fait le lien avec les surréalistes qui tentèrent de lutter artistiquement contre le fascisme et voit dans le surréalisme une manière beaucoup plus efficace de lutter contre les générateurs de conneries.
Il faut dire que face à un générateur mondial de conneries, fasciste, centralisé, ultra capitaliste et bénéficiant d’une adulation religieuse, je ne vois pas d’autre échappatoire que le surréalisme.
Brandissons ce qui nous reste d’humanité ! Aux âmes citoyens !
Image reprise du gemlog de small patatas: Le triomphe du surréalisme, Max Ernst (1937)
Je suis Ploum et je viens de publier Bikepunk, une fable écolo-cycliste entièrement tapée sur une machine à écrire mécanique. Pour me soutenir, achetez mes livres (si possible chez votre libraire) !
Recevez directement par mail mes écrits en français et en anglais. Votre adresse ne sera jamais partagée. Vous pouvez également utiliser mon flux RSS francophone ou le flux RSS complet.