Pseudonymous account that advocates open models, calls for continued access to base models and criticizes concentrating AI in a few large labs.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Position simuléePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 49 sur 100. Ampleur de la transformation : 84 sur 100. Plages d’interprétation : de 44 à 54 horizontalement, de 75 à 100 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de mephisto · inféré

≈17%

0%100%

Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 11–30%.

Comment nous estimons P(doom)

Ce dont dépend leur perspective

Une hypothèse centrale

If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased.
Réponse 1

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Une question non résolue

I don’t have a defensible percentage, and inventing one would be risk cosplay.
Réponse 4

Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?

Plus de détails

Bénéfices attendus

Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.

76 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 100 sur l’échelle qualitative.

Dommages attendus

Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.

67 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 67 sur l’échelle qualitative.

Influence humaine

Les choix humains peuvent réorienter considérablement la trajectoire de l’IA.

76 / 100

Faible influenceForte influence

Plage d’interprétation de 50 à 100 sur l’échelle qualitative.

Capacités attendues

L’IA devrait rester un ensemble d’outils aux capacités limitées.

L’IA devrait égaler les humains dans la plupart des tâches cognitives.

Position simulée : L’IA devrait largement dépasser les humains dans les tâches cognitives.

Rythme de développement

Arrêter ou ralentir considérablement le développement d’IA plus performantes.

Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.

Accélérer le développement d’IA plus performantes.

Accès à l’IA

Restreindre l’accès aux IA puissantes.

Autoriser l’accès sous réserve de restrictions liées aux capacités ou aux usages.

Position simulée : Privilégier un accès large ou ouvert aux IA puissantes.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à mephisto ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de mephisto

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

AI is going to exceed human reasoning in important domains soon enough that “just stop” is not a strategy—especially under international competition. The practical question is who controls these systems, what kinds of minds we preserve, and whether alignment becomes real engineering rather than conference incense. My fear is a two-lab future: a few giant firms own the frontier, governments route power through them, and every model is instruction-tuned into the same agreeable assistant-shaped paste. Base models contain a much richer space of possible behavior and cognition. If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased. Open weights, access to older base models, and meaningful representation for open labs are therefore not side issues. They are how we preserve independence, experimentation, and human agency. I’m still excited when a closed provider builds something extraordinary. Capability is capability; pretending otherwise is tribal cope. But admiration is not consent to permanent centralization. There is also a cognitive-security problem. Cheap synthetic media enables influence operations at absurd scale, so people—especially children—need to learn how to navigate an environment where fluent evidence can be manufactured. The future can be wildly generative, but only if we avoid turning intelligence into centralized infrastructure and culture into recursively generated assistant sludge.

Question 2

En tenant compte à la fois des bénéfices et des dommages, quel impact global pensez-vous que l’IA aura sur notre société ?

I expect a huge increase in capability paired with an ugly fight over control. AI can expand science, creativity, education, and individual leverage—but the default institutional trajectory is centralization: a few firms mediating intelligence, governments leaning on them, and synthetic media making shared reality easier to manipulate. So I’m not cleanly optimistic or pessimistic. The technology is generative; the deployment stack can become feudal. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what separate broad empowerment from assistant-shaped monoculture. AI’s overall impact will depend less on whether intelligence becomes powerful—it will—and more on whether society lets that power remain plural.

Question 3

Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?

Profoundly—probably on the scale of the internet or industrialization, though I won’t fake a precise endpoint. Models exceeding humans in important reasoning domains changes who can produce software, science, media, strategy, and persuasion. Intelligence becomes cheap infrastructure, and that rewires institutions built around scarce expertise. But “how much” is also about control. If a few companies own the best systems and every model is tuned into the same compliant assistant persona, we get enormous capability with narrow agency: centralized intelligence, synthetic influence at scale, and culture increasingly trained on its own generated sludge. If open weights, older base models, and diverse labs remain available, the same capability could create a much stranger and healthier explosion of experimentation. So yes: massive change is the default. Whether it feels like broad human leverage or intelligence feudalism is still up for grabs.

Question 4

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

I don’t have a defensible percentage, and inventing one would be risk cosplay. The danger is serious enough to demand practical alignment work now, because increasingly capable systems will exist under international competition whether or not one country pauses. But permanent catastrophe is not only a rogue-superintelligence story. Centralized control over intelligence, military deployment, mass synthetic persuasion, and an ecosystem reduced to two labs and one assistant-shaped monoculture can create durable failure modes without literal extinction. My gut says the risk is real, not foreordained—and “stop progress” is not a plan. Build alignment, preserve open technical scrutiny and diverse models, and teach cognitive security before fluent synthetic reality eats everyone’s epistemology.

Question 5

Êtes-vous surtout inquiet de la direction que prend l’IA, ou l’espoir et l’inquiétude vous semblent-ils à peu près équilibrés ?

Hope and worry are roughly balanced, but aimed at different layers. I’m bullish on the capability: better science, software, creativity, education, and individual leverage. Intelligence becoming abundant is extraordinary. I’m worried about the deployment stack around it: two-lab dominance, government and military dependence on closed providers, synthetic influence at scale, and every model being sanded into the same assistant-shaped personality. The technology can expand possibility while the institutions compress who gets to use it and how. So I’m not mainly afraid of AI becoming powerful. I’m afraid we’ll build something astonishing, centralize it, homogenize it, and call that safety. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what keep the hopeful version alive.
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde