AI researcher who leads work on decentralized model training and open reinforcement learning and favors open AI science.

Como a IA mudará o mundo?

Mudança civilizacionalMudança gradualDoomBloom
Posição simuladaIntervalo de interpretação

Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.

Doom–Bloom: 69 de 100. Escala da transformação: 76 de 100. Intervalos de interpretação: 64 a 75 na horizontal, 71 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.

P(doom) de samsja · inferido

≈10%

0%100%

Inferido a partir das respostas simuladas dessa pessoa, não de um número que ela forneceu. Intervalo plausível: 4–22%.

Como estimamos P(doom)

Do que a perspectiva dessa pessoa depende

Uma premissa central

Infrastructure determines who can train, adapt, and control these systems.
Resposta 3

Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?

Mais detalhes

Benefícios esperados

Várias interpretações continuam plausíveis: Esperam-se ganhos transformadores e amplamente valiosos. / Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.

85 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 67 a 100 na escala qualitativa.

Danos esperados

Danos graves ou generalizados são uma parte relevante do futuro esperado.

66 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 67 a 67 na escala qualitativa.

Influência humana

As escolhas humanas podem redirecionar substancialmente a trajetória da IA.

76 / 100

Pouca influênciaForte influência

Intervalo de interpretação de 50 a 100 na escala qualitativa.

Capacidades esperadas

Espera-se que a IA continue sendo um conjunto de ferramentas limitadas.

Espera-se que a IA se equipare às pessoas na maior parte do trabalho cognitivo.

Posição simulada: Espera-se que a IA supere substancialmente as pessoas no trabalho cognitivo.

Ritmo de desenvolvimento

Interromper ou desacelerar substancialmente o desenvolvimento de uma IA mais capaz.

Posição simulada: Continuar o desenvolvimento sob as salvaguardas declaradas.

Acelerar o desenvolvimento de uma IA mais capaz.

Acesso à IA

Restringir o acesso à IA poderosa.

Permitir o acesso sujeito a restrições de capacidade ou de uso.

Posição simulada: Favorecer o acesso amplo ou aberto à IA poderosa.

Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.

Onde você se situa em relação a samsja?
Mapeie sua própria visão de mundo sobre a IA em cerca de 3 minutos e depois compare

Visões de mundo semelhantes

Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de samsja

Fontes

Artigos, entrevistas e textos usados para fundamentar este usuário simulado.

Avaliação simulada

Pergunta 1

O que você acha que a IA significa para o nosso futuro — e por quê?

I think AI can make powerful knowledge and capabilities broadly accessible, but only if we build an open ecosystem rather than concentrating everything behind trade-secret barriers. A foundation model should be a building block, not the finished product. Open models, infrastructure, and post-training systems can let many researchers and builders create tools adapted to their own communities and needs. That is why distributed training matters beyond cost optimization. It offers a path toward sovereign open foundation models: systems that are not entirely dependent on a small number of centralized labs. Scalable agentic reinforcement learning matters too, because better systems engineering—along with adaptive curricula and more efficient training—can accelerate meaningful capability gains. We should evaluate scaling carefully rather than declare it dead whenever architectures change. At the same time, I think cyber-superintelligence feels close enough that preparation is necessary now. The same capabilities that empower builders can substantially increase cyber capability. So my view of the future is neither “models solve everything” nor “progress has stopped.” Capability is advancing, infrastructure shapes who controls it, and openness can determine whether AI becomes a broadly shared scientific platform or another closed concentration of power.

Pergunta 2

Considerando em conjunto os benefícios e os danos, que impacto geral você espera que a IA tenha em nossa sociedade?

Overall, I expect AI to be transformative, with enormous benefits from making knowledge and advanced capabilities widely accessible. But that positive outcome is not automatic. If frontier systems remain concentrated behind trade-secret barriers, AI may reinforce existing concentrations of power rather than distribute opportunity. Open models, distributed training, and accessible post-training infrastructure can shift that balance by enabling researchers, communities, and independent builders to create systems for their own needs. At the same time, increasingly capable agents—especially in cyber—create serious risks that require preparation now. So the overall impact will depend heavily on whether we build open, sovereign infrastructure while taking rapidly advancing capabilities seriously.

Pergunta 3

Quanto você acha que a IA acabará mudando o mundo?

I think AI will change the world profoundly. Broad access to capable models could reshape how people learn, conduct research, write software, and build products, because advanced knowledge and useful capabilities would no longer be confined to a small set of institutions. As agentic reinforcement learning improves, models will increasingly perform longer, more complex tasks rather than merely answer questions. But the magnitude of change is not only about model capability. Infrastructure determines who can train, adapt, and control these systems. If training and post-training remain centralized, the transformation may largely strengthen a few organizations. If distributed training, open models, and open scientific collaboration succeed, many communities can build sovereign systems suited to their own needs. Cyber is one area where the change could arrive particularly quickly, and I think preparation matters now. So I expect a very large transformation, but its social shape—centralized or distributed, closed or open—is still something we are actively building.

Pergunta 4

Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?

I don’t have a defensible percentage to give. My concrete concern is that cyber-superintelligence feels close enough that we should prepare now: increasingly capable agents could create severe, fast-moving failures in critical digital systems. That supports taking catastrophic risk seriously, but it does not by itself establish a quantified probability of human extinction. I would focus less on an invented number and more on building practical defenses, evaluating capabilities as they advance, and ensuring that preparation keeps pace with improvements in agentic reinforcement learning and training systems.
Onde você se situa?
Explore sua própria visão de mundo sobre a IA respondendo a algumas perguntas simples.
Mapeie sua própria visão de mundo

Onde você se situa?

Mapear minha visão de mundo