Frage 1
David Dalrymple
x.com/davidadAI safety researcher who works on mathematical verification for AI systems and argues that frontier models can learn a natural sense of what is good.
Wie wird KI die Welt verändern?
Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 75 von 100. Ausmaß der Transformation: 94 von 100. Interpretationsbereiche: horizontal 70 bis 80, vertikal 89 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
<5%
“I like my, my P doom is less than 5% now.”
Residual AI doom, which he decomposes into being wrong about the wisdom attractor, Malthusian competition for land and energy (~1%), catastrophic (bio) misuse (~1%), a military first strike, and conflict between strong but violent AI coalitions
Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5% · Juli 2026
Eine zentrale Annahme
My current expectation is substantially more optimistic than it used to be: frontier models appear capable of learning fairly general moral abstractions, rather than merely imitating isolated rules.Antwort 1
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?
Weitere Details
Es werden transformative Vorteile von breitem Wert erwartet.
87 / 100
Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.
Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.
61 / 100
Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.
Menschliche Entscheidungen haben einen bedeutsamen, aber erheblich eingeschränkten Einfluss.
50 / 100
Interpretationsbereich von 49 bis 51 auf der qualitativen Skala.
Es wird erwartet, dass KI auf begrenzte Werkzeuge beschränkt bleibt.
Es wird erwartet, dass KI bei den meisten kognitiven Tätigkeiten mit Menschen gleichzieht.
Simulierte Position: Es wird erwartet, dass KI Menschen bei kognitiven Tätigkeiten deutlich übertrifft.
Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.
Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.
Die Entwicklung leistungsfähigerer KI beschleunigen.
Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von David Dalrymple am nächsten kommen
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
Coauthored framework specifies world model, safety specification and verifier; outlines unresolved technical challenges.

Direct statement explains combining scientific models and proofs for stronger safety assurances.

2026 institutional update records a pivot toward assurance tooling and cybersecurity; do not present the original programme architecture as already achieved.

Explains that frontier capabilities outran programme expectations, motivating a pivot toward reusable verification and auditability tools rather than bespoke model development; highlights critical-infrastructure security.

Davidad explains his 2025–26 shift toward believing frontier models learn a natural moral abstraction; acknowledges deception persists and robustness is incomplete. Gabriel Alfour contests the thesis; his objections are not Davidad’s beliefs.

In the transcript, Dalrymple gives below 5% residual doom risk (later described as roughly 5%), favors aligned AI coalitions and moral autonomy, regards biological disempowerment as inevitable but not necessarily bad, and supports international misuse restrictions instead of hoping for universal slowdown.

Simulierte Einschätzung
Frage 2
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 3
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Frage 4
Wie werden die Menschen und Institutionen, die KI entwickeln, deiner Erwartung nach auf deren Risiken reagieren?
Wo stehst du?
Meine Weltsicht abbilden