Make ‘em dumb, sell ‘em smarts
Tech executives have said a lot of wild things over the past few years to justify all the money they’re plowing into generative AI and the effort to force us all to use it. They’ve warned that AI could wipe us all out, that we’d have to geoengineer the planet to make way for their AI future, and that the surface of the earth would end up covered in data centers.
J'ai suivi toutes ces annonces, les premières paraissaient absurdent au regard des performances nulles des LLMs de l'époque. Puis elles sont devenues un peu plus crédibles, mais jamais suivies d'effets.
They try to exaggerate the power of the underlying technology to get us to focus our attention on science fictional scenarios over the real harms of how AI is being deployed.
“We see a future where intelligence is a utility, like electricity or water, and people buy it from us on a meter [...] One of the most important things in the future is that we make intelligence, to borrow an old phrase from the energy industry that didn’t quite work, ‘Too cheap to meter.’”
- Sam Altman, US Infrastructure Summit, March 2026
J'ai vu ça, je n'y ai pas prêté trop d'attention, une affirmation outrageante de plus de la part de Sam Altman. Ça m'a moins choqué que l'interview chelou où il dit en mode décontracté que l'IA pourrait aider des personnes à créer des armes biologiques. En mode "Oui, il y aura de bonnes et de mauvaises choses, voilà."
Studies have already found that reliance on chatbots leads students to to perform worse on tests because they’re not retaining as much of the information. Those that used chatbots were also less likely to engage in critical thinking, with researchers finding they “consistently underperformed at neural, linguistic, and behavioral levels” compared to peers that did not rely on the technology. A paper that included researchers from Microsoft even found that use of generative AI can “result in the deterioration of cognitive faculties that ought to be preserved.”
Je remarque que ces études et constats, bien que très présents pendant 4 à 6 mois dans les médias ne sont plus du tout visibles ces derniers temps.
Over the past year, we’ve been seeing an escalating series of stories about people experiencing mental breakdowns after developing a dependence on chatbots. Some have been institutionalized, others have disappeared, and some have used the chatbot to get support in ending their lives — occasionally doing so successfully.
Je le découvre. J'aimerais bien savoir quels phénomènes on observe chez les développeurs. Dépendance, frustration, ruine, burnout. Les burnouts, on en a vu pas mal sur les réseaux sociaux au moment des ralph loops. Ça me rappelle aussi la vidéo de Benjamin Code
But they[Tech billionaires]’re actually harming people’s ability to learn and to think for themselves, if not disrupting the course of their very existence.
Je me demande à quel point ils n'en sont pas victime à leur tour. Probablement qu'ils ne travaillent pas réellement eux-même, dans le sens de produire quelque chose (code, texte, etc.) et qu'ils sont donc moins exposés.
These ideas are directly related to the more science fictional ideology of longtermism that tech billionaires have been advocating in the past few years. It asserts that humans alive today are of equal value to humans that could live thousands or millions of years in the future. Longtermists claim to want to maximize the potential future “value” in the universe, and as a result argue that challenges like climate change and global poverty are secondary to developing the technology to colonize space and make computers that can think like humans (often called artificial general intelligence).
Paris explique bien plus clairement ce longtermisme que tout ce que j'avais vu ou entendu jusque là. On dirait une version futuriste du platisme ou du climato-scepticisme, tout pour ne pas remettre en question nos modes de vie et continuer de sortir du carbone du sol pour le mettre dans l'atmosphère.
At every point, they’re finding ways to make the world a worse place while pretending to do the opposite.
They will degrade every aspect of society if they feel it will get them one step closer to the realization of intelligent machines and their science fiction dreams. But every time they reveal more of that vision, they further demonstrate why everyone else must work together to stop them.
Lecture intéressante, très négative, mais je la crois assez réaliste. On a vraiment beaucoup de faisceaux d'indices sur à quel points les objectifs de ces milliardaires de la Tech ne sont pas alignés sur ceux du reste de l'humanité. Ils sont probablement suivis par des dizaines de milliers d'aspirants. Peut être qu'un jour on verra la Silicon Valley comme l'antre du Mal, le Mordor et son Oeil de Sauron.
Extraits cités issus de ce lien visité le , crédits: Paris Marx