Question 1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
Comment l’IA changera-t-elle le monde ?
Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.
Doom–Bloom : 6 sur 100. Ampleur de la transformation : 93 sur 100. Plages d’interprétation : de 0 à 11 horizontalement, de 88 à 100 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · août 2025
Une hypothèse centrale
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.Réponse 1
Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?
Une question non résolue
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.Réponse 3
Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?
Plus de détails
Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.
61 / 100
Plage d’interprétation de 33 à 67 sur l’échelle qualitative.
Une perte catastrophique ou irréversible occupe une place centrale dans l’avenir attendu.
99 / 100
Plage d’interprétation de 100 à 100 sur l’échelle qualitative.
Les choix humains peuvent réorienter considérablement la trajectoire de l’IA.
81 / 100
Plage d’interprétation de 50 à 100 sur l’échelle qualitative.
L’IA devrait rester un ensemble d’outils aux capacités limitées.
L’IA devrait égaler les humains dans la plupart des tâches cognitives.
Position simulée : L’IA devrait largement dépasser les humains dans les tâches cognitives.
Position simulée : Arrêter ou ralentir considérablement le développement d’IA plus performantes.
Poursuivre le développement dans le cadre des mesures de protection annoncées.
Accélérer le développement d’IA plus performantes.
Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.
Visions du monde similaires
Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Robert Miles
Sources
Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

Évaluation simulée
Question 2
Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?
Question 3
Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?
Question 4
Quelles pressions façonneront, selon vous, la manière dont les entreprises d’IA gèrent la sécurité ?
Où vous situez-vous ?
Cartographier ma vision du monde