Stella Biderman

Stella Biderman

x.com/blancheminerva

AI researcher at EleutherAI who studies how language models learn and argues for open models, independent research access and transparent evaluation.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Position simuléePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 49 sur 100. Ampleur de la transformation : 51 sur 100. Plages d’interprétation : de 44 à 54 horizontalement, de 46 à 56 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de Stella Biderman · inféré

≈5%

0%100%

Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 2–11%.

Comment nous estimons P(doom)

Ce dont dépend leur perspective

Une hypothèse centrale

The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures.
Réponse 2

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Une question non résolue

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself.
Réponse 2

Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?

Plus de détails

Bénéfices attendus

Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.

62 / 100

Faible impactImpact transformateur

Plage d’interprétation de 33 à 67 sur l’échelle qualitative.

Dommages attendus

Plusieurs interprétations restent plausibles : Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu. / Des dommages gérables ou localisés sont attendus.

51 / 100

Faible impactImpact transformateur

Plage d’interprétation de 33 à 67 sur l’échelle qualitative.

Influence humaine

Les choix humains peuvent réorienter considérablement la trajectoire de l’IA.

75 / 100

Faible influenceForte influence

Plage d’interprétation de 50 à 100 sur l’échelle qualitative.

Rythme de développement

Arrêter ou ralentir considérablement le développement d’IA plus performantes.

Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.

Accélérer le développement d’IA plus performantes.

Règles d’utilisation de l’IA

Restreindre les usages de l’IA évoqués jusqu’à la mise en place préalable de mesures de protection ou d’une autorisation.

Position simulée : Autoriser les usages de l’IA évoqués avec des mesures ciblées de responsabilisation et de protection.

Réduire au minimum les restrictions sur les usages de l’IA évoqués.

Accès à l’IA

Restreindre l’accès aux IA puissantes.

Autoriser l’accès sous réserve de restrictions liées aux capacités ou aux usages.

Position simulée : Privilégier un accès large ou ouvert aux IA puissantes.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à Stella Biderman ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Stella Biderman

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

I think AI’s effects will depend less on treating models as autonomous forces and more on the institutions that build, study, deploy, and govern them. Language models can be useful tools, but they do not substitute for domain expertise or institutional knowledge. Starting with “How can AI solve this?” is often the wrong approach; we should begin by understanding the actual problem. A beneficial future requires a broad, empirical science of AI. Researchers need access to models, data, checkpoints, public compute, and transparent evaluations so they can study how capabilities, biases, memorization, and safety-relevant behaviors emerge during training—not merely patch finished systems after deployment. If meaningful research is restricted to a few large companies, outsiders cannot independently test claims, uncover failures, or develop competing approaches. I’m therefore concerned about policies built around secrecy, weak filters, or analogies to nuclear weapons. Those approaches can obscure risks and entrench incumbents without preventing powerful systems from being developed. Safety policy should instead include outside participation, explicit criteria, ordinary security engineering, institutional accountability, and room for open competitors. AI’s future is not determined by the models alone; it will be shaped by who can examine them, who controls them, and whether failures can be investigated publicly.

Question 2

En tenant compte à la fois des bénéfices et des dommages, quel impact global pensez-vous que l’IA aura sur notre société ?

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself. The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures. AI can provide useful tools and broaden access to some capabilities, but it can also reproduce biases, conceal failures behind closed systems, and encourage people to substitute model outputs for real domain expertise. My expectation is therefore conditional rather than a numerical forecast. With public compute, open research, meaningful outside scrutiny, and clear safety criteria, the benefits can be widely distributed and problems discovered earlier. Under secrecy and concentrated control, we should expect weaker accountability and fewer opportunities to understand or correct harmful behavior.

Question 3

Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?

I expect AI to change many kinds of work, research, and access to information, but I would resist turning that into a claim that models independently determine history. The magnitude of change depends on how institutions deploy them, which problems they are applied to, and who controls access. A model does not supply the domain knowledge, organizational capacity, or political judgment needed to solve a social problem. The distribution of that change matters as much as its scale. If a few firms control powerful models and outsiders can study them only through restricted interfaces, AI may reinforce existing concentrations of power while making failures harder to investigate. Public compute, open models and checkpoints, transparent evaluation, and independent research could instead distribute capabilities and improve our understanding of how model behavior develops. So I expect substantial change, but I would not attach a percentage or rank it against the industrial revolution or electricity. Those comparisons suggest more certainty than we have. The consequential question is not merely how powerful models become, but whether society builds institutions capable of examining, contesting, and governing their use.

Question 4

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

I would not assign a defensible percentage from the evidence I have. “Gut-feel chance” encourages false precision about poorly specified outcomes and mechanisms. I do think powerful AI systems can create serious risks, but evaluating them requires distinguishing concrete failure modes: how capabilities arise during training, how systems behave in deployment, whether security controls actually work, and whether institutions respond to expert warnings. A theoretical side channel, for example, is not automatically a practical way to extract model weights; safety claims need empirical scrutiny. I also reject treating AI as if it were simply nuclear weapons in software form. That analogy can drive secrecy and concentrated control while doing little to prevent powerful models from being developed. Whatever the tail risk is, reducing it requires open scientific investigation, independent access, transparent evaluations, competent security engineering, and institutional accountability—not an unsupported extinction number.
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde