Frage 1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
Wie wird KI die Welt verändern?
Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 6 von 100. Ausmaß der Transformation: 93 von 100. Interpretationsbereiche: horizontal 0 bis 11, vertikal 88 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · Aug. 2025
Eine zentrale Annahme
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.Antwort 1
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?
Eine ungeklärte Frage
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.Antwort 3
Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?
Weitere Details
Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.
61 / 100
Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.
Katastrophale oder unumkehrbare Verluste stehen im Zentrum der erwarteten Zukunft.
99 / 100
Interpretationsbereich von 100 bis 100 auf der qualitativen Skala.
Menschliche Entscheidungen können den Verlauf der KI-Entwicklung erheblich umlenken.
81 / 100
Interpretationsbereich von 50 bis 100 auf der qualitativen Skala.
Es wird erwartet, dass KI auf begrenzte Werkzeuge beschränkt bleibt.
Es wird erwartet, dass KI bei den meisten kognitiven Tätigkeiten mit Menschen gleichzieht.
Simulierte Position: Es wird erwartet, dass KI Menschen bei kognitiven Tätigkeiten deutlich übertrifft.
Simulierte Position: Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.
Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.
Die Entwicklung leistungsfähigerer KI beschleunigen.
Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von Robert Miles am nächsten kommen
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

Simulierte Einschätzung
Frage 2
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 3
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Frage 4
Welche Zwänge werden deiner Meinung nach beeinflussen, wie KI-Unternehmen mit Sicherheit umgehen?
Wo stehst du?
Meine Weltsicht abbilden