Pseudonymous account that researches model steering, favors open-source AI and writes about the promise and risks of automating knowledge work.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Position simuléePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 53 sur 100. Ampleur de la transformation : 78 sur 100. Plages d’interprétation : de 48 à 75 horizontalement, de 73 à 83 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de nightwing · inféré

≈11%

0%100%

Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 5–21%.

Comment nous estimons P(doom)

Ce dont dépend leur perspective

Une hypothèse centrale

The technology creates room for a better society, but human choices—especially around access, control, and adaptation—determine whether we actually get one.
Réponse 2

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Une question non résolue

I would not pretend to know the endpoint or attach a precise timeline to it.
Réponse 3

Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?

Plus de détails

Bénéfices attendus

Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.

76 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 100 sur l’échelle qualitative.

Dommages attendus

Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.

67 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 67 sur l’échelle qualitative.

Influence humaine

Les choix humains peuvent réorienter considérablement la trajectoire de l’IA.

68 / 100

Faible influenceForte influence

Plage d’interprétation de 50 à 100 sur l’échelle qualitative.

Rythme de développement

Arrêter ou ralentir considérablement le développement d’IA plus performantes.

Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.

Accélérer le développement d’IA plus performantes.

Accès à l’IA

Restreindre l’accès aux IA puissantes.

Autoriser l’accès sous réserve de restrictions liées aux capacités ou aux usages.

Position simulée : Privilégier un accès large ou ouvert aux IA puissantes.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à nightwing ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de nightwing

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

I think AI is going to reorganize a lot of ordinary life, especially knowledge work, media, and the internet’s social layer. Coding is an obvious early example: more of the implementation gets automated, which changes what people are paid for and how expertise is developed. Synthetic media also makes default trust harder. And I expect today’s giant consumer social platforms to be substantially displaced by more personalized, AI-mediated forms of interaction. I’m hopeful about human adaptation, but not casually optimistic. Automation can free people from tedious work and make powerful capabilities broadly available; it can also concentrate surveillance, enable weapons, hollow out careers, and destabilize communities faster than replacements emerge. Those outcomes are choices, not automatic properties of the technology. Technically, I’m encouraged that model behavior can be steered more directly than by just pleading with a prompt. Programmatic constraints and targeted internal interventions can preserve useful capabilities while changing behavior. But the surprising effects of control vectors are also a reminder that we do not understand these systems as well as confident narratives imply. Interpretability is still uncertain. That is part of why I favor open intelligence. Bad actors will use these tools regardless; beneficial actors need comparable access to study, defend against, and counter misuse. Overall, I expect enormous disruption with real upside, but the humane version is not guaranteed.

Question 2

En tenant compte à la fois des bénéfices et des dommages, quel impact global pensez-vous que l’IA aura sur notre société ?

Overall, I expect AI to be profoundly disruptive and potentially beneficial, but not cleanly or evenly so. It should make many kinds of knowledge work cheaper and more accessible, automate tedious implementation, and give individuals capabilities that previously belonged to large organizations. I’m optimistic that people will adapt and build new forms of work and community around that abundance. But the transition may be brutal. Careers can disappear faster than new roles acquire meaning or stability; synthetic media can erode default trust; and surveillance, weapons, and concentrated control can turn the same capabilities toward dystopian ends. I also expect AI to displace much of today’s consumer social-media landscape, though whatever replaces it will not automatically be healthier. So my default expectation is neither utopia nor simple collapse. It is a large redistribution of capability, power, and social structure, with meaningful gains alongside serious losses. The technology creates room for a better society, but human choices—especially around access, control, and adaptation—determine whether we actually get one.

Question 3

Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?

Enormously—on the scale of a broad social and economic reorganization, not merely another productivity tool. I expect AI to change how knowledge work is done, what expertise is worth, how media is created and trusted, and how people interact online. Today’s large consumer social platforms may look like a temporary phase once interaction becomes more personalized and AI-mediated. The deepest uncertainty is not whether the change will be large, but where it settles. AI could distribute capabilities that once required major institutions, automate drudgery, and enable new forms of work and community. It could also concentrate surveillance and power, accelerate weapons development, erase careers faster than society can replace their income or meaning, and make shared reality harder to maintain. I would not pretend to know the endpoint or attach a precise timeline to it. We are already finding that models can be controlled in powerful ways through programmatic constraints and internal steering, while also behaving unexpectedly under those interventions. That combination—rapidly growing capability and incomplete understanding—is why I expect transformation without assuming a clean utopia or inevitable collapse.

Question 4

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

I don’t have a calibrated percentage I trust. My gut says the risk is real enough to take seriously—especially through weapons, surveillance, concentrated power, or systems behaving in ways we do not understand—but I would not turn that into a precise extinction forecast. I’m more confident about severe, possibly durable social damage than literal human extinction: destabilized institutions, lost agency, pervasive synthetic media, entrenched authoritarian control, and labor disruption that communities fail to absorb. Our ability to steer models is improving, but surprising internal-steering results are a reminder that control and interpretability remain incomplete. So I’m hopeful, but “probably adaptable” is not the same as “safe by default.”
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde