Nathan Baschez

Nathan Baschez

x.com/nbaschez

Founder of the Lex writing app, now at Notion, who is broadly optimistic about AI, especially in education, while expecting some harms along the way.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Position simuléePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 80 sur 100. Ampleur de la transformation : 75 sur 100. Plages d’interprétation : de 75 à 85 horizontalement, de 70 à 80 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de Nathan Baschez · inféré

≈4%

0%100%

Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 2–7%.

I expect serious harms along the way, but I put extinction risk very low.

Comment nous estimons P(doom)

L’horizon temporel des jalons de Nathan Baschez
  1. IA surhumaine

    A major reason is that progress toward superintelligence seems more likely to unfold over months than in one invisible instant.

    Réponse 1
  2. Travail et institutions

    But “enormous” doesn’t necessarily mean “instant” or “humans disappear.” I expect the crucial transition to unfold over months, leaving some room for warning incidents and societal intervention.

    Réponse 2

Regroupés par jalon, sans espacement ni classement selon les dates déduites. L’IAG et l’IA surhumaine conservent leurs définitions.

Ce dont dépend leur perspective

Une hypothèse centrale

Because the transition to superintelligence is more likely to unfold over months than instantaneously—and because frontier-scale compute is relatively concentrated—I think society would have opportunities to intervene.
Réponse 3

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Plus de détails

Bénéfices attendus

Des bénéfices transformateurs et largement profitables sont attendus.

89 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 100 sur l’échelle qualitative.

Dommages attendus

Plusieurs interprétations restent plausibles : Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu. / Des dommages gérables ou localisés sont attendus.

50 / 100

Faible impactImpact transformateur

Plage d’interprétation de 33 à 67 sur l’échelle qualitative.

Influence humaine

Les choix humains ont une influence significative, mais fortement contrainte.

54 / 100

Faible influenceForte influence

Plage d’interprétation de 50 à 75 sur l’échelle qualitative.

Capacités attendues

L’IA devrait rester un ensemble d’outils aux capacités limitées.

L’IA devrait égaler les humains dans la plupart des tâches cognitives.

Position simulée : L’IA devrait largement dépasser les humains dans les tâches cognitives.

Rythme de développement

Arrêter ou ralentir considérablement le développement d’IA plus performantes.

Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.

Accélérer le développement d’IA plus performantes.

Règles d’utilisation de l’IA

Restreindre les usages de l’IA évoqués jusqu’à la mise en place préalable de mesures de protection ou d’une autorisation.

Position simulée : Autoriser les usages de l’IA évoqués avec des mesures ciblées de responsabilisation et de protection.

Réduire au minimum les restrictions sur les usages de l’IA évoqués.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à Nathan Baschez ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Nathan Baschez

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

I’m broadly optimistic about AI, especially as a medium for people and agents to think together. In writing, education, and other knowledge work, the interesting future isn’t simply “AI replaces the person.” It’s new shared environments where people can develop ideas, get useful feedback, and extend their abilities without surrendering judgment. I expect serious harms along the way, but I put extinction risk very low. A major reason is that progress toward superintelligence seems more likely to unfold over months than in one invisible instant. Bad incidents should create warning signals and provoke a forceful social response. Frontier systems also depend on concentrated compute, which gives society more leverage than it would have over a dangerous technology distributed in millions of tiny, uncontrollable objects. The weakest part of that argument is international coordination: one country slowing down does not guarantee that others will. So my optimism is conditional on institutions reacting before catastrophe, and on products being designed around productive human involvement. One practical question is whether agents can be given both the tools and incentives to escalate uncertainty or danger to human overseers rather than bluffing or pressing ahead. I’m excited by the possibilities, but I also want my children to inherit a recognizably human world and family life—not merely one optimized for whatever the technology can do.

Question 2

Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?

Enormously—probably at the level of our basic institutions and how people learn, write, work, and make decisions. If systems become far more capable than humans across most cognitive tasks, the change won’t be confined to a few products; it will reshape the economy and the texture of everyday life. But “enormous” doesn’t necessarily mean “instant” or “humans disappear.” I expect the crucial transition to unfold over months, leaving some room for warning incidents and societal intervention. I’m especially interested in a future where people and agents think together: shared environments that strengthen human judgment rather than merely automate it away. The harder question is how much continuity we preserve. I want the benefits—particularly in education and creative work—while keeping a recognizably human world, including familiar family life. Whether we manage that depends heavily on product design, institutions, and international coordination, with the last of those being the assumption I trust least.

Question 3

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

My gut-level assessment is very low, but I wouldn’t attach a precise percentage to it. I expect serious smaller harms and warning incidents before anything extinction-level. Because the transition to superintelligence is more likely to unfold over months than instantaneously—and because frontier-scale compute is relatively concentrated—I think society would have opportunities to intervene. The most fragile part of that view is international coordination. A warning may cause some governments or companies to slow down without producing an adequate global response. So “very low” isn’t “impossible”; it reflects my expectation that visible harm will trigger strong action before a permanent catastrophe.

Question 4

Quels types de changements les gens devraient-ils pouvoir refuser dans un avenir souhaitable avec l’IA ?

People should be able to refuse changes that erase meaningful human agency or make ordinary life unrecognizable. That includes being forced to delegate judgment to agents, having education become passive machine consumption, or losing access to spaces where humans write, learn, decide, and relate to one another directly. I don’t think a good AI future requires everyone to adopt the maximally automated lifestyle. People should be able to choose tools that support their thinking rather than substitute for it, and agents should escalate important uncertainty to humans instead of quietly making irreversible decisions. Institutions should preserve genuine human oversight, not merely put a ceremonial approval button after an automated process. I’m also protective of continuity in family and community life. My children should be able to inherit a recognizably human world and eventually pass that kind of life on themselves. That doesn’t mean freezing culture or rejecting powerful tools. It means technological capability alone shouldn’t dictate which forms of life must disappear.
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde