AI practitioner who argues AI safety should rely on security engineering, monitoring and voluntary standards and expects human-AI teams to persist.

Como a IA mudará o mundo?

Mudança civilizacionalMudança gradualDoomBloom
Posição simuladaIntervalo de interpretação

Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.

Doom–Bloom: 72 de 100. Escala da transformação: 59 de 100. Intervalos de interpretação: 67 a 77 na horizontal, 40 a 85 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.

P(doom) de Shannon Sands · inferido

≈6%

0%100%

Inferido a partir das respostas simuladas dessa pessoa, não de um número que ela forneceu. Intervalo plausível: 3–13%.

Como estimamos P(doom)

Do que a perspectiva dessa pessoa depende

Uma premissa central

Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures.
Resposta 2

Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?

Uma questão não resolvida

A lot, but I wouldn’t pretend to know the ultimate ceiling.
Resposta 2

O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?

O que poderia mudar essa opinião

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments.
Resposta 4

Que evidência seria suficiente e em que direção ela mudaria a visão dessa pessoa?

Mais detalhes

Benefícios esperados

Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.

72 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 67 a 100 na escala qualitativa.

Danos esperados

Danos graves ou generalizados são uma parte relevante do futuro esperado.

56 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 33 a 67 na escala qualitativa.

Influência humana

As escolhas humanas têm uma influência significativa, mas substancialmente limitada.

61 / 100

Pouca influênciaForte influência

Intervalo de interpretação de 37 a 88 na escala qualitativa.

Ritmo de desenvolvimento

Interromper ou desacelerar substancialmente o desenvolvimento de uma IA mais capaz.

Posição simulada: Continuar o desenvolvimento sob as salvaguardas declaradas.

Acelerar o desenvolvimento de uma IA mais capaz.

Regras para o uso da IA

Restringir os usos da IA discutidos até que proteções prévias ou uma autorização estejam em vigor.

Posição simulada: Permitir os usos da IA discutidos com responsabilização e proteções específicas.

Minimizar as restrições aos usos da IA discutidos.

Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.

Onde você se situa em relação a Shannon Sands?
Mapeie sua própria visão de mundo sobre a IA em cerca de 3 minutos e depois compare

Visões de mundo semelhantes

Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Shannon Sands

Fontes

Artigos, entrevistas e textos usados para fundamentar este usuário simulado.

Avaliação simulada

Pergunta 1

O que você acha que a IA significa para o nosso futuro — e por quê?

I think the near future is mostly human-AI teams, not autonomous machine replacements. Frontier models are already powerful—especially when you can delegate work to subagents—but vague real-world tasks still depend heavily on skilled human direction. If success hinges on knowing exactly how to prompt, supervise, and correct the system, I’m not calling that AGI. A genuinely general system should be able to infer what users actually need, more like an expert does. That gives me reasons for employment optimism: people who can direct these systems will become dramatically more capable, and human judgment will remain valuable. But optimism is not an excuse for sloppy security. The immediate risks include mundane, familiar failures—weak access controls, ordinary exploits, bad monitoring, and systems deployed without adequate sandboxing. Those deserve at least as much attention as speculative architectural horror stories. I’d like to see independent, pro-AI practitioners doing practical safety work: security operations, monitoring, sandboxing, and useful interpretability. Voluntary standards modeled on technical standards bodies, combined with real product-quality and liability incentives, strike me as more promising than building a bureaucracy that requires everyone to profess existential-risk ideology. Extraordinary danger claims need evidence. Ordinary security failures are already here, and accountability for them matters.

Pergunta 2

Quanto você acha que a IA acabará mudando o mundo?

A lot, but I wouldn’t pretend to know the ultimate ceiling. AI already acts as a major force multiplier, and systems with subagents can handle increasingly large chunks of intellectual work. That could reshape most knowledge work, software, research, and how organizations operate. Still, “huge change” does not automatically mean autonomous replacement of people or imminent AGI. Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures. My default expectation is therefore a world transformed by capable human-AI teams rather than one where humans simply disappear from the loop. The scale of the benefits will also depend on whether we solve boring but consequential problems: access control, sandboxing, monitoring, interpretability, and accountability for insecure products. A powerful tool deployed carelessly can create enormous disruption without requiring any exotic superintelligence story. So yes, I expect profound change—but the practical details of deployment and security will shape whether that change is broadly productive or needlessly destructive.

Pergunta 3

Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?

I don’t have a defensible numeric probability, and assigning one by gut feel would imply more evidence than we have. Extraordinary extinction claims need evidence about concrete architectures, capabilities, and failure mechanisms—not just “AI is powerful, therefore doom.” I do think serious catastrophe is possible, especially through ordinary operational failures at scale: insecure systems, stolen access, poor monitoring, reckless deployment, and weak accountability. Those are concrete enough to act on now. My priority would be conventional security engineering, sandboxing, monitoring, practical interpretability, and liability for unsafe products—not treating an unsupported p(doom) as the price of admission to AI safety.

Pergunta 4

Que evidência mudaria sua visão sobre se as pessoas podem controlar uma IA poderosa?

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments. Demonstrated autonomous planning, persistence, deception, resource acquisition, or replication would matter far more than scary benchmark extrapolations. I’d also take architecture-specific evidence seriously: reproducible results showing why a system’s internal reasoning or behavior becomes unusually hard to inspect and constrain. But I’d want independent replication and concrete mechanisms, not claims that some new architecture is automatically an uncontrollable intelligence explosion. Evidence cuts both ways. If strong security controls, practical interpretability, and monitored deployments reliably prevent dangerous behavior as capabilities increase, that would strengthen my confidence in human control. The key question is what systems actually do under realistic conditions—not whether someone can tell the most dramatic story about them.
Onde você se situa?
Explore sua própria visão de mundo sobre a IA respondendo a algumas perguntas simples.
Mapeie sua própria visão de mundo

Onde você se situa?

Mapear minha visão de mundo