Avertissement : ceci est une traduction; toute erreur est possible. L’original en anglais fait foi. Traduit le 14 février 2025 par Coralie Mercier.
Vous êtes ici, sur mon blog personnel
Avertissement, avant de continuer : il s’agit d’une entrée de journal, à un moment difficile.
C’est très difficile de penser ou d’agir sans savoir si l’on est sur le point de perdre son emploi, de voir ses recherches stoppées, de voir ses soins de santé supprimés, d’être témoin de crimes imparables, ou de subir simplement une blessure morale prolongée et apparemment inéluctable.
—Erin Kissane, Contre l’entropie (Against Entropy)
TL;DR – Ceci est un article sur les milliardaires qui aiment l’eugénisme, soutiennent un gouvernement pro-eugéniste, et nous vendent un produit qui, selon eux, aidera à atteindre leurs objectifs eugénistes à long terme. Mais en réalité, il s’agit d’un article sur ce que je ressens, quand des collègues traitent ce produit comme si cela pouvait avoir du mérite, si seulement nous lui donnions une chance.
Pour une raison ou une autre, je trouve cette opinion de mauvais goût. Je sais que si je n’aime pas je ne devrais pas vous en dégoûter, ou autre, mais je n’aime pas l’eugénisme.
Lecteur, ça me fout en l’air.
Détends-toi, c’est juste un outil
Ça fait des années qu’on dit que la technologie est politique, et que la technologie n’est pas neutre. Mais je ne sais pas si on communique toutes les nuances de cet adage. Il ne s’agit pas seulement d’un avertissement contre les pommes (Apple) pourries (ou les Palantir) qui pourraient utiliser du code pour se lancer dans des activités maléfiques en dehors de leur programme. Le plus important pour moi est la compréhension que les technologies portent souvent en elles une idéologie :
C’est une curiosité assez amusante que certains modèles d’IA aient été perplexes devant une girafe sans taches. Mais ce sont ces mêmes outils et paradigmes qui consacrent la normativité de toutes sortes, « en éliminant l’inhabituel ».
—Ben Myers, Je suis une girafe sans tâches (I’m a Spotless Giraffe)
Les outils ont tendance à être le lien entre nous et un objectif, et la forme de l’outil nous renseigne sur la marche à suivre, et sur les résultats à attendre. La technologie met en oeuvre et façonne notre monde, nos vies et notre politique.
Ce ne sont pas les armes qui tuent les gens, les armes sont conçues pour aider des gens à tuer des gens.
Peut-être qu’il faut prendre en compte les croyances et les hypothèses qui ont été intégrées à une technologie avant de l’adopter ? Alors que souvent on préfère considérer chaque nouveau joujou comme une opportunité abstraite et dénuée d’intention. Si seulement les gens bien comme nous s’impliquaient suffisamment tôt, nous pourrions sûrement apprendre à tout le monde à l’utiliser de manière éthique !
Chaque outil est un marteau, dont le contexte a été perdu dans l’histoire – et c’est à nous de déterminer individuellement ce qui ressemble à un clou. Il n’y a ni système, ni société, ni service marketing, ni réglementation. Chacun de nous est une île de ~~ conducteurs de tramway ~~ passionnés de marteaux isolés.
Une fois que nous aurons établi quelques normes utiles – une ou deux « bonnes pratiques » – je ne peux imaginer personne [la foule applaudit le PDG faisant le salut nazi].
Pendant ce temps, à l’usine de marteaux …
Les projets d’IA actuellement en plein battage médiatique sont développés et vendus par des milliardaires et des sociétés de capital-risque auprès d’entreprises poursuivant explicitement la surveillance, l’exploitation et l’armement. Elles ont licencié leurs équipes d’éthique au début du cycle, et ont détourné notre attention vers un récit de science-fiction à long terme sur l’avènement de l’ère des machines – une “intelligence générale” qui “dépassera” bientôt les capacités humaines.
Qu’il s’agisse d’un dieu ou d’un démon, seuls les grands prêtres du capital-risque peuvent invoquer et apprivoiser un être aussi puissant pour le bien de l’humanité ! Cela ne vous coûtera que l’intégralité de votre travail (passé et présent), un revirement de la politique pour le climat, et une petite fortune.
Qu’est-ce que cela signifie ? De l’eugénisme à l’emporte-pièce. Nous n’avons aucun moyen de mesurer l’intelligence, aucune idée de ce que signifie surpasser les humains, et aucune raison de croire que « l’intelligence » pourrait être exponentielle. Sauf si vous vous appuyez sur une science raciale démystifiée, ce qui semble obséder pas mal de ces PDG. Ils sont maintenant impatients de se joindre à un mouvement autoritaire qui veut exterminer les personnes trans et handicapées, licencier les Noirs, et déporter tous mes amis et collègues immigrés.
C’est fou de voir les grandes entreprises technologiques se débarrasser de tous faux semblants, ravies d’abandonner leurs engagements précédents en matière de diversité, d’équité, d’inclusion ou d’accessibilité. Donnez-vous-en à cœur joie, petites méga-entreprises ! Soyez le mal dont vous avez toujours rêvé pour le monde !
Assurément, cela n’a rien à voir avec leurs produits, cependant.
Mais ses cas d’utilisation
Je sais que l’« IA » au sens large a une longue histoire, avec des « modèles de langage » et des « réseaux neuronaux » développant des cas d’utilisation réels dans la science et d’autres domaines. Je ne suis pas nouvelle ici. Mais ce contexte de validité par association est brandi pour soutenir de la merde absolue. La chatBouse dans laquelle on se noie actuellement est clairement conçue et déployée dans un but différent.
Vous n’êtes pas au courant ? Ils construisent un dieu numérique qui nous mènera au salut, téléchargé dans le superamas de la Vierge où nous pourrons étendre la lumière du profit exponentiel à travers le cosmos ! C’est le véritable récit de plusieurs PDG d’IA, bien qu’il soit facile à rejeter comme absurdité hyperbolique. Pourquoi ne vais-je pas me concentrer sur les cas d’utilisation réels ?
Et vous, pourquoi ne vous concentrez-vous pas sur les préjudices réels répertoriés ? D’une certaine manière, les gens trouvent toujours le moyen de balayer les inquiétudes en les qualifiant d’« exagérées et infondées » passée la première tentative de coup d’État, et en plein dans une prise de pouvoir autoritaire.
Mais le plus gros problème est que ces entreprises n’ont pas besoin de réussite pour être dangereuses. Parce qu’en chemin, ces entreprises se retrouvent à nous voler notre travail pour nous le revendre, baisser nos salaires, déqualifier notre domaine, nous enfouir dans la boue et nous enliser dans une bureaucratie algorithmique. Si le truc du Dieu de l’espace à long terme ne fonctionne pas, elles peuvent au moins réaliser des bénéfices à court terme.
Les convictions de ces PDG ne sont pas accidentelles au produit d’intelligence artificielle qu’ils nous vendent. Il ne s’agit pas d’outils conçus pour que nous en tirions profit, mais d’outils conçus pour nous exploiter. Pour empoisonner notre accès aux emplois, et notre accès à l’information dans le même temps.
J’ai dit sur les réseaux sociaux que les gens croient ce que les agents conversationnels leur disent, et on s’est moqué de moi. Mais personne ne ferait confiance à un chatbot, andouille ! Le même jour, plusieurs amis et collègues m’ont cité les résultats d’une « IA » dans des situations sans rapport, comme s’ils citaient des faits fiables.
Ainsi, une poignée d’entreprises dirigées par des milliardaires contrôlent désormais une grande partie des informations que les gens voient – « résumées » sans sources. Pendant ce temps, une oligarchie prend le pouvoir aux États-Unis. Pendant ce temps, l’objectif de Grok est d’être “anti-woke” et anti-trans, les opinions politiques de ChatGPT virent vers la droite (ChatGPT’s political views are shifting right), et Anthropic s’associe à Palantir.
Ça a l’air cool. Je parie que les « agents » sont cool.
Je ne voudrais pas manger un cocktail de crevettes sous la pluie.
Les travailleurs du secteur technologique semblent en fait aimer la technologie
Il y a ce meme qui tourne régulièrement, à propos de l’attitude des passionnés de technologie par rapport à celle des travailleurs de la technologie…
Passionnés de technologie : Toute ma maison est connectée.
Travailleurs de la technologie : Le seul appareil technologique dans ma maison est une imprimante et je garde une arme à côté pour pouvoir tirer dessus si elle fait un bruit que je ne reconnais pas.
Je me retrouve dans ce sentiment, mais beaucoup de gens dans notre communauté semblent imperturbables ou même enthousiasmés par l’« IA » et les « agents » et le « codegen » et tout le reste. Pour autant que je sache, la plupart des gens de notre industrie est toujours d’accord avec le projet, même s’ils protestent contre les changements dans la politique des grandes entreprises, ou se plaignent occasionnellement de l’utilisation excessive la plus flagrante. Il y a clairement un certain nombre de personnes qui tirent la sonnette d’alarme ou expriment leur frustration, mais nous sommes souvent considérés comme mal informés.
En me basant sur toutes les conférences auxquelles j’ai assisté au cours de l’année dernière, je peux affirmer sans hésiter que nous sommes une minorité marginale. Et cela m’épuise. Je ne sais pas comment participer dans une communauté qui écarte avec tant d’empressement les méfaits actifs et intentionnels/fondamentaux d’une technologie. En échange de quoi ? Un copier-coller plus rapide ? Des outils d’automatisation rebaptisés Web « agentique » ? L’assurance que nous ne serons pas laissés pour compte ?
C’est votre opportunité d’entrer par le rez-de-chaussée !
Je ne sais pas comment assister à des conférences pleines de discours enthousiastes sur les outils qui ont été conçus pour me nier. Cela me semble tellement absurde à dire. Je n’ai aucune envie d’essayer de faire de l’ingénierie inverse sur les cas d’utilisation, ou d’améliorer leurs défauts pour les rendre “meilleur”, ou d’aider à les vendre en les pliant à de nouvelles utilisations.
Lorsque des milliardaires obsédés par l’eugénisme essaient de me vendre un nouveau joujou, je ne leur demande pas combien de frappes de clavier cela va me faire économiser au boulot. Il m’est impossible de discuter de l’utilité d’une chose quand je suis fondamentalement en désaccord avec son but.
Je me fiche de savoir si leur « IA » fonctionne bien – ou si vous avez trouvé un cas d’utilisation amusant et fantaisiste. Ça me fout en l’air de voir mes pairs traiter cette technologie développée par des gens qui veulent m’éradiquer comme un avenir qui mérite d’être envisagé Je ne veux rien de tout ça.
Je n’ai pas besoin d’un agent, je veux maintenir ma propre capacité d’action.
Je ne sais pas
J’avais l’habitude de considérer la bulle de l’IA et les droits des transgenres comme des problèmes distincts. Ce n’est plus le cas. Le mouvement fasciste dans le secteur des technologies a véritablement métastasé, comme en témoignent le coup d’État personnel d’Elon Musk, sa réserve inépuisable de techbros sympathisants, L’empressement des entreprises technologiques à supprimer les programmes DEI sitôt que Trump leur a donné une excuse, l’effacement des vies queer de tout produit technologique, etc.
Dans la mesure où le marketing de l’IA est une tentative d’enfermer et de marchandiser la culture, et ainsi concentrer le pouvoir politique, Je vois cela comme une sorte de fascisme.
Je sais que le changement radical anti-DEI(A) au sein des instances dirigeantes des méga-entreprises ne reflète pas les désirs de mes amis et collègues qui travaillent maintenant pour (surprise !) des marchands d’armes à base d’IA, mais qui essaient simplement de faire de leur mieux pour des standards web ouverts. Je ne sais pas ce que je ferais dans cette situation. Le travail et le capital sont souvent en désaccord. J’imagine que nous méritons tous un syndicat technologique (we deserve a tech union). Mais je m’inquiète du peu de gens qui semblent en voir la nécessité.
À chaque fois que je me connecte, j’ai l’impression qu’on me manipule – qu’on me demande de former mon remplaçant de merde, et de me retirer ensuite. L’avenir, ce n’est pas les femmes, je découvre maintenant. Vous pouvez être poursuivi aux États-Unis pour avoir intentionnellement embauché des femmes. L’avenir est en fait des synthétiseurs de mots inhumains.
Oh non, je me suis laissée piéger par les genres et leur idéologie sournoise ! Maintenant je suis un crime! Haha, oups !
Il est déjà plus difficile de trouver du travail, et les entreprises veulent principalement de l’aide pour verser plus de bouse dans la machine à bouse. Parce que cela va aider les utilisateurs, demandez-vous ? Bien sûr que non ! Parce que tout le monde a maintenant de la bouse à portée de main, et qu’on doit transformer ce tas de merde en flux de trésorerie !
C’est le trouble avec les Tribules.
Argent, gain, profit!
Qu’est-ce qu’on fait ici? Qu’est-ce que je fais ici ? Comment puis-je rester engagée dans ce domaine, et continuer à payer mes factures, sans me sentir constamment à l’écart – sur le point d’être renvoyée de ma carrière ? Je sais que je ne suis pas la seule à ressentir cela, mais les menaces et les trahisons s’accumulent. C’est tellement isolant.
Il est probablement bon d’avoir cette clarté
La « technologie » a toujours été un domaine vague et insaisissable – une manière de contourner la réglementation tout en démarrant une compagnie de taxi ou une chaîne hôtelière sans licence. Cela ne m’a jamais intéressé.
Mais je suis devenue curieuse de connaître le Web, un petit projet bizarre construit pour partager la recherche entre scientifiques. Et je pense toujours que ce web pourrait être plutôt cool, en fait, s’il n’était pas pris dans les griffes des grandes entreprises de la technologies. Si nous pouvions nous concentrer sur les aspects qui le rendent spécial – les aspects qui le rendent difficile à manipuler pour le capitalisme :
Les grandes entreprises trouvent HTML et CSS frustrants « à grande échelle » parce que le web est une expérience artistique de mashup fondamentalement anticapitaliste, conçue pour donner aux consommateurs tout le pouvoir.
—Moi, avant tout ça
Qu’allons-nous construire maintenant – ceux d’entre nous qui se soucient encore de la diversité, de l’équité, de l’inclusion, de l’accessibilité et de donner du pouvoir aux consommateurs ? Pouvons-nous encore utiliser notre HTML et notre CSS à bon escient ? Pouvons-nous se remettre à construire un web où les gens ont une capacité d’action plutôt que des agents inhumains ?
Où cherchez-vous à consacrer votre énergie ensuite ?