Pergunta 1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
Como a IA mudará o mundo?
Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.
Doom–Bloom: 6 de 100. Escala da transformação: 93 de 100. Intervalos de interpretação: 0 a 11 na horizontal, 88 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · ago. de 2025
Uma premissa central
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.Resposta 1
Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?
Uma questão não resolvida
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.Resposta 3
O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?
Mais detalhes
Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.
61 / 100
Intervalo de interpretação de 33 a 67 na escala qualitativa.
Uma perda catastrófica ou irreversível ocupa um lugar central no futuro esperado.
99 / 100
Intervalo de interpretação de 100 a 100 na escala qualitativa.
As escolhas humanas podem redirecionar substancialmente a trajetória da IA.
81 / 100
Intervalo de interpretação de 50 a 100 na escala qualitativa.
Espera-se que a IA continue sendo um conjunto de ferramentas limitadas.
Espera-se que a IA se equipare às pessoas na maior parte do trabalho cognitivo.
Posição simulada: Espera-se que a IA supere substancialmente as pessoas no trabalho cognitivo.
Posição simulada: Interromper ou desacelerar substancialmente o desenvolvimento de uma IA mais capaz.
Continuar o desenvolvimento sob as salvaguardas declaradas.
Acelerar o desenvolvimento de uma IA mais capaz.
Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.
Visões de mundo semelhantes
Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Robert Miles
Fontes
Artigos, entrevistas e textos usados para fundamentar este usuário simulado.
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

Avaliação simulada
Pergunta 2
Quanto você acha que a IA acabará mudando o mundo?
Pergunta 3
Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?
Pergunta 4
Que pressões você acha que influenciarão a forma como as empresas de IA lidam com a segurança?
Onde você se situa?
Mapear minha visão de mundo