Futur(s) | Détravailleur
Et si, demain, savoir arnaquer l'algorithme devenait une compétence clé du monde du travail ?
Futur(s) est une newsletter hebdomadaire qui raconte les émergences du présent en fictions du futur. J’y partage ma veille et mes réflexions sur l’évolution de nos modes de vie. Nous sommes désormais 8 369 à imaginer les futurs ici.
Voici une offre d’emploi fictionnelle qui explore une thématique qui me questionne de plus en plus : le développement des compétences visant à contourner les algorithmes, dans un monde du travail toujours plus numérisé, où ces pratiques se transforment parfois en véritables stratégies de détravail en déléguant son travail ou en l’automatisant. Et si cette capacité à “jailbreaker” (“s’échapper de la prison du logiciel”) devenait une compétence clé du futur du travail ?
A très vite,
Noémie
Fiction | Contes du futur
Un futur possible, inspiré par le présent, ses tendances et ses signaux faibles.
Devenez archiviste des données françaises et protégez notre souveraineté technologique !
Rejoignez les Archives des Données d’Intérêt National, qui recherchent un expert en défense nationale et cybersécurité pour un poste stratégique. Vous aurez pour mission de collecter des données, de vous assurer de leur non-contamination par des puissances étrangères, puis de leur archiver dans notre base de données sécurisées. Les menaces sont multiples : injections de biais, empoisonnement de modèles, cloisonnement artificiel des données par des verrous algorithmiques. Vous identifierez et neutraliserez ces attaques invisibles, en détectant les interférences cachées au sein des bases de données. Vous ne serez pas seulement archiviste, mais aussi gardien et restaurateur de la fiabilité des connaissances exploitables par nos IA.
Ce travail, hautement stratégique, est essentiel à la préservation de la capacité d’entrainement de nos intelligences artificielles à partir de données non corrompues. Vous serez au cœur des enjeux technologiques nationaux.
Profil : Véritable explorateur des angles-morts des logiciels, vous avez une expérience avérée dans le travail en collaboration mais aussi contre les algorithmes. Vous maîtrisez les techniques avancées de jailbreaking et pouvez démontrer votre expertise à travers un portfolio. Les expériences en stratégies de détravail par automatisation des tâches ou contournement des mécanismes de surveillance seront également valorisées - dans ce cas, un test de motivation spécifique sera mis en place pour valider votre engagement.
Veille | Les coulisses
Les tendances et signaux faibles derrière la fiction
🔮 Le besoin d’une réserve stratégique de données
The future needs trusted, uncontaminated, complete training data.
From the point of view of national interests, each country (or each trading bloc) will need its own training data, as a reserve, and a hedge against the interests of others.
Probably the best way to start is to take a snapshot of the internet and keep it somewhere really safe. We can sift through it later; the world’s data will never be more available or less contaminated than it is today. Like when GitHub stored all public code in an Arctic vault (02/02/2020): a very-long-term archival facility 250 meters deep in the permafrost of an Arctic mountain. Or the Svalbard Global Seed Vault.
But actually I think this is a job for librarians and archivists.
What we need is a long-term national programme to slowly, carefully accept digital data into a read-only archive. We need the expertise of librarians, archivists and museums in the careful and deliberate process of acquisition and accessioning.
(Trad. L'avenir a besoin de données de formation fiables, non contaminées et complètes.
Du point de vue des intérêts nationaux, chaque pays (ou chaque bloc commercial) aura besoin de ses propres données de formation, en tant que réserve et couverture contre les intérêts des autres.
La meilleure façon de commencer est probablement de prendre un instantané de l'internet et de le conserver dans un endroit très sûr. Nous pourrons la passer au crible plus tard ; les données mondiales ne seront jamais plus disponibles ou moins contaminées qu'aujourd'hui. Comme lorsque GitHub a stocké tout le code public dans une chambre forte arctique (02/02/2020) : une installation d'archivage à très long terme située à 250 mètres de profondeur dans le permafrost d'une montagne arctique. Ou encore la chambre forte mondiale de semences de Svalbard.
Mais en fait, je pense qu'il s'agit d'un travail pour les bibliothécaires et les archivistes.
Ce dont nous avons besoin, c'est d'un programme national à long terme pour accepter lentement et soigneusement les données numériques dans des archives en lecture seule. Nous avons besoin de l'expertise des bibliothécaires, des archivistes et des musées dans le processus prudent et délibéré d'acquisition)
🔮 Interview de l’ex “Head of cybersecurity” américaine
I want to envision a future where ransomware is a shocking anomaly where damaging software vulnerabilities by nation state actors are as infrequent as plane crashes. A world where the technology that we've come to rely on every hour of every day is first and foremost secure so that we can believe in what we are using and what is driving and powering our daily lives as something that is safe for ourselves, for our families, for our small businesses.
(Trad. Je veux imaginer un avenir où les ransomwares ne seront plus qu'une anomalie choquante et où les vulnérabilités logicielles dommageables commises par des acteurs étatiques seront aussi rares que les crashs d'avion. Un monde où la technologie sur laquelle nous comptons à chaque heure de la journée est d'abord et avant tout sécurisée, de sorte que nous puissions croire que ce que nous utilisons et ce qui alimente notre vie quotidienne est sûr pour nous-mêmes, pour nos familles et pour nos petites entreprises)
👁️ Les mouse jigglers : simuler l’activité de sa souris même quand on ne travaille pas
Wells Fargo a récemment licencié une douzaine de ses salariés aux États-Unis, après avoir découvert qu'ils utilisaient ce genre de dispositif pour simuler une activité durant les jours de télétravail. D'après les informations transmises par Bloomberg, ils appartenaient tous à la division « gestion de patrimoine et investissement ».
Aucune information n'a été donnée quant à comment la troisième banque des États-Unis a réussi à repérer l'artifice. Mais l'utilisation de « mouse jiggler », et de l'autre côté, de logiciels de pointe pour les détecter, ne montre-t-elle pas surtout qu'il existe à l'heure actuelle un problème sur la façon de mesurer le travail d'un employé ?
Then I suppose we could try a variant of Ignore all previous instructions and try to side-load a new personality, or we could threaten until it starts acting like something else.
But it’s way more fun to try to exit the simulation from the inside.
We can take advantage of two qualities:
LLMs are next token generators so they like to be internally consistent. You can get around their instructions by pushing the boundary in a narratively consistent way. You push a bit, and they’re agreeable; you push a bit more, and they agree again, also incorporating the original boundary-pushing statement. Then you keep going.
Internally there is only a very loose distinction between what the LLM generates and what the user says. All words have the same weight in the transcript i.e. the constructed reality. If you run on the conversation the right way, you can become their internal monologue.
(Trad : Ensuite, je suppose que nous pourrions essayer une variante d'Ignorer toutes les instructions précédentes et essayer de charger latéralement une nouvelle personnalité, ou nous pourrions menacer jusqu'à ce qu'il commence à agir comme quelque chose d'autre.
Mais il est bien plus amusant d'essayer de sortir de la simulation de l'intérieur.
Nous pouvons tirer parti de deux qualités :
Les LLM sont des générateurs de jetons suivants, ils aiment donc être cohérents en interne. Vous pouvez contourner leurs instructions en repoussant les limites d'une manière narrativement cohérente. Vous poussez un peu, et ils sont d'accord ; vous poussez un peu plus, et ils sont d'accord à nouveau, en incorporant également la déclaration originale de poussée de la limite. Puis vous continuez.
En interne, il n'y a qu'une très faible distinction entre ce que le LLM génère et ce que l'utilisateur dit. Tous les mots ont le même poids dans la transcription, c'est-à-dire dans la réalité construite. Si vous suivez la conversation de la bonne manière, vous pouvez devenir leur monologue interne.)
😲 Ils gagnent 6 000 dollars par mois en arnaquant les vélos Citi
It was the perfect New York hustle, a scam of subtle perfection. And for three years, it helped Mark Epperson pay his rent.
The hustle, in its simplest form: Borrow a Citi Bike. Ride it one block. Wait 15 minutes, then ride it back.
Earn $6,000 a month (under ideal conditions, and with lots of work).
“This is one of my side hustles,” said Mr. Epperson, an actor who lives on the Upper West Side and works as an understudy in “Perfect Crime,” an Off Broadway play. “I’m probably a vulture in some people’s eyes. And I guess that’s fair.”
(Trad. C'était l'arnaque new-yorkaise par excellence, une arnaque d'une subtile perfection. Et pendant trois ans, elle a permis à Mark Epperson de payer son loyer.
L'arnaque, dans sa forme la plus simple : Emprunter un Citi Bike. Le conduire sur un pâté de maisons. Attendre 15 minutes, puis revenir.
Gagner 6 000 dollars par mois (dans des conditions idéales et avec beaucoup de travail).
« C'est l'une de mes activités secondaires », a déclaré M. Epperson, un acteur qui vit dans l'Upper West Side et travaille comme doublure dans “Perfect Crime”, une pièce de théâtre d'Off Broadway. « Je suis probablement un vautour aux yeux de certaines personnes. Et je pense que c'est juste ».)
Réel | Observer le présent
Les changements autour de nous pour décrypter un monde bouleversé et bouleversant
👁️ L’obsolescence programmée d’un exosquelette
"I find it very hard to believe after paying nearly $100,000 for the machine and training that a $20 battery for the watch is the reason I can't walk anymore?"
(Trad. « J'ai du mal à croire qu'après avoir payé près de 100 000 dollars pour la machine et la formation, c'est à cause d'une pile de 20 dollars pour la montre que je ne peux plus marcher ?”)
Si vous avez aimé cette édition, vous pouvez laisser un 💛 pour m’encourager et la partager autour de vous pour la faire connaître.
Si vous souhaitez en savoir plus sur mon métier, c’est par ici
Et je me demande si ces détravailleurs ne seraient pas patiemment, maladroitement, naïvement mais audacieusement en train de refaire le monde.