Question 1
Gwern Branwen
x.com/gwernPseudonymous writer who argues that scaling neural networks can produce general abilities and doubts that powerful AI is far off or easy to control.
Comment l’IA changera-t-elle le monde ?
Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.
Doom–Bloom : 39 sur 100. Ampleur de la transformation : 87 sur 100. Plages d’interprétation : de 25 à 50 horizontalement, de 75 à 100 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.
≈20%
Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 13–30%.
Une hypothèse centrale
Competition therefore pushes tools toward agents.Réponse 1
Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?
Une question non résolue
I would not attach a precise net-positive or net-negative probability: too much depends on how rapidly capabilities advance and whether governance, security, and alignment improve before autonomous systems become economically indispensable.Réponse 2
Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?
Ce qui pourrait faire changer d’avis
The most important update would be sustained empirical evidence that capability gains reliably plateau despite large increases in compute, data quality, training, and agentic scaffolding.Réponse 5
Quels éléments probants seraient suffisants, et dans quelle direction feraient-ils évoluer leur point de vue ?
Plus de détails
Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.
72 / 100
Plage d’interprétation de 67 à 100 sur l’échelle qualitative.
Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.
67 / 100
Plage d’interprétation de 67 à 67 sur l’échelle qualitative.
Les choix humains ont une influence significative, mais fortement contrainte.
51 / 100
Plage d’interprétation de 37 à 63 sur l’échelle qualitative.
Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.
Visions du monde similaires
Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Gwern Branwen
Sources
Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.
Argues that scaling neural networks can lead to general capabilities; questions confident expert dismissal.

Revisits predictions and limitations, including later annotations about claims still not proven.

Argues economic competition and the benefits of agency for learning make tool-only AI an unstable safety strategy; human approval alone does not guarantee safety.

Proposes personalized models that amplify their human principal and defend against cognitive/cyber attacks; criticizes chatbot incentives and stresses this does not solve larger alignment problems. Revised June 5, 2026.

Rejects computational complexity as a blanket reassurance against powerful AI: constants, approximation, resources and compounding advantages matter.

Uses a thought experiment to separate physical bottlenecks from digital minds’ exploitable speed advantages; explicitly distinguishes emulations from isolated accelerated humans.

Author-hosted 2024 interview with later annotations: short AGI planning horizons, human preference preservation and agency. A May 2026 addition explicitly rejects claims that Claude is aligned or alignment solves itself; these are his judgments, not established model diagnoses.

Évaluation simulée
Question 2
En tenant compte à la fois des bénéfices et des dommages, quel impact global pensez-vous que l’IA aura sur notre société ?
Question 3
Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?
Question 4
Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?
Question 5
Quelle découverte ou quel événement changerait le plus votre point de vue sur l’impact futur de l’IA ?
Où vous situez-vous ?
Cartographier ma vision du monde