Pregunta 1
David Dalrymple
x.com/davidadAI safety researcher who works on mathematical verification for AI systems and argues that frontier models can learn a natural sense of what is good.
¿Cómo cambiará la IA el mundo?
Horizontal: su perspectiva Doom–Bloom expresada. Vertical: escala de la transformación.
Doom–Bloom: 75 de 100. Escala de la transformación: 94 de 100. Rangos de interpretación: de 70 a 80 en horizontal y de 89 a 100 en vertical. Son coordenadas de interpretación, no probabilidades de eventos.
<5%
“I like my, my P doom is less than 5% now.”
Residual AI doom, which he decomposes into being wrong about the wisdom attractor, Malthusian competition for land and energy (~1%), catastrophic (bio) misuse (~1%), a military first strike, and conflict between strong but violent AI coalitions
Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5% · jul 2026
Un supuesto central
My current expectation is substantially more optimistic than it used to be: frontier models appear capable of learning fairly general moral abstractions, rather than merely imitating isolated rules.Respuesta 1
Si este supuesto resultara distinto, ¿cómo cambiaría su perspectiva?
Más detalles
Se esperan beneficios transformadores y de gran valor para muchos.
87 / 100
Rango de interpretación de 67 a 100 en la escala cualitativa.
Se espera que los daños graves o generalizados sean una parte significativa del futuro.
61 / 100
Rango de interpretación de 33 a 67 en la escala cualitativa.
Las decisiones humanas tienen una influencia significativa, aunque muy condicionada.
50 / 100
Rango de interpretación de 49 a 51 en la escala cualitativa.
Se espera que la IA siga siendo un conjunto de herramientas acotadas.
Se espera que la IA iguale a las personas en la mayor parte del trabajo cognitivo.
Posición simulada: Se espera que la IA supere ampliamente a las personas en el trabajo cognitivo.
Detener o frenar considerablemente el desarrollo de IA más capaz.
Posición simulada: Continuar el desarrollo con las salvaguardas indicadas.
Acelerar el desarrollo de IA más capaz.
Estas interpretaciones conservan las condiciones que se indicaron. Los beneficios y los daños pueden ser considerables a la vez. Los rangos describen cómo leemos sus respuestas simuladas, no intervalos de confianza estadísticos.
Visiones similares
Líderes de opinión cuyas visiones simuladas son las más cercanas a la de David Dalrymple
Fuentes
Artículos, entrevistas y textos usados para fundamentar a este usuario simulado.
Coauthored framework specifies world model, safety specification and verifier; outlines unresolved technical challenges.

Direct statement explains combining scientific models and proofs for stronger safety assurances.

2026 institutional update records a pivot toward assurance tooling and cybersecurity; do not present the original programme architecture as already achieved.

Explains that frontier capabilities outran programme expectations, motivating a pivot toward reusable verification and auditability tools rather than bespoke model development; highlights critical-infrastructure security.

Davidad explains his 2025–26 shift toward believing frontier models learn a natural moral abstraction; acknowledges deception persists and robustness is incomplete. Gabriel Alfour contests the thesis; his objections are not Davidad’s beliefs.

In the transcript, Dalrymple gives below 5% residual doom risk (later described as roughly 5%), favors aligned AI coalitions and moral autonomy, regards biological disempowerment as inevitable but not necessarily bad, and supports international misuse restrictions instead of hoping for universal slowdown.

Evaluación simulada
Pregunta 2
¿Cuánto crees que la IA acabará cambiando el mundo?
Pregunta 3
¿Cuál es tu estimación intuitiva de la probabilidad de que la IA cause la extinción humana o una catástrofe permanente similar?
Pregunta 4
¿Cómo esperas que las personas e instituciones que desarrollan IA respondan a sus riesgos?
¿Dónde te ubicas?
Mapear mi visión de la IA