Alex Zhang

Alex Zhang

x.com/a1zhang

AI researcher who builds benchmarks and studies how scaffolds and recursive model calls can get more out of existing language models.

Como a IA mudará o mundo?

Mudança civilizacionalMudança gradualDoomBloom
Centro do intervalo não resolvidoIntervalo de interpretação

Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.

Doom–Bloom: 57 de 100. Escala da transformação: 50 de 100. Intervalos de interpretação: 49 a 62 na horizontal, 0 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.

P(doom) de Alex Zhang

Ainda não estimado

Não há informações suficientes sobre risco catastrófico nas respostas simuladas dessa pessoa para estimá-lo.

Como estimamos P(doom)

Do que a perspectiva dessa pessoa depende

Uma premissa central

Better models and better harnesses are complementary: training expands what components can do, while scaffolding determines whether those abilities combine into reliable performance.
Resposta 1

Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?

Uma questão não resolvida

I don’t have a well-supported overall societal forecast.
Resposta 2

O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?

O que poderia mudar essa opinião

If learned decomposition and recursive inference let models solve genuinely novel, out-of-distribution tasks—not merely longer versions of familiar benchmarks—that would strengthen my expectation of rapid capability gains from better harnesses.
Resposta 4

Que evidência seria suficiente e em que direção ela mudaria a visão dessa pessoa?

Mais detalhes

Benefícios esperados

Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.

62 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 33 a 67 na escala qualitativa.

Influência humana

Uma estimativa provisória com base nas suas respostas; o intervalo mais amplo mostra outras interpretações plausíveis.

51 / 100

Pouca influênciaForte influência

Intervalo de interpretação de 0 a 100 na escala qualitativa.

Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.

Onde você se situa em relação a Alex Zhang?
Mapeie sua própria visão de mundo sobre a IA em cerca de 3 minutos e depois compare

Visões de mundo semelhantes

Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Alex Zhang

Fontes

Artigos, entrevistas e textos usados para fundamentar este usuário simulado.

Avaliação simulada

Pergunta 1

O que você acha que a IA significa para o nosso futuro — e por quê?

I think AI’s future depends not only on building larger or better-trained models, but on learning how to use the capabilities models already have. Today’s systems are often placed inside brittle, human-designed workflows that ask for one enormous leap instead of decomposing a problem, inspecting intermediate results, and recursively allocating computation. Better scaffolds can turn an unfamiliar task into a composition of familiar subproblems, while recursive language-model systems can work over information far beyond a single context window. That makes me optimistic about substantial capability gains from inference-time methods and learned decomposition. But it does not imply that scaling or training is finished. Better models and better harnesses are complementary: training expands what components can do, while scaffolding determines whether those abilities combine into reliable performance. The main epistemic challenge is measuring this honestly. A model can dominate a leaderboard because it recognizes familiar benchmark structure or has encountered related data, yet still fail when an agent must generalize in a genuinely new environment. Simply making tasks longer does not solve that problem. We need benchmarks that test useful out-of-distribution generalization and reveal whether a harness is actually helping rather than exploiting benchmark regularities. I expect much of AI progress to come from jointly improving models, computation, decomposition, and evaluation—but benchmark advances alone do not establish a particular forecast for society as a whole.

Pergunta 2

Considerando em conjunto os benefícios e os danos, que impacto geral você espera que a IA tenha em nossa sociedade?

I don’t have a well-supported overall societal forecast. My work supports a narrower expectation: AI systems may become substantially more capable through better scaffolding, recursive computation, and evaluation, even without every gain coming from larger models. That could expand both useful applications and the harms available to capable systems, but benchmark or harness progress alone does not tell us which effects will dominate. The key mistake would be to infer social outcomes directly from technical performance. A model solving long-context tasks through decomposition, or succeeding on a cleaner generalization benchmark, establishes something about capability—not deployment incentives, access, governance, labor effects, or distribution of benefits. So I expect meaningful capability gains, but I would not turn that into a confident claim that AI’s net societal impact will be positive or negative.

Pergunta 3

Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?

I don’t have a defensible numerical estimate. My work suggests that better scaffolding and recursive computation could unlock capabilities faster than raw model scaling alone would indicate, which matters for risk assessment. But translating that technical possibility into an extinction probability requires assumptions about future systems, deployment, control, access, and governance that my research does not establish. So I would not attach a percentage to it.

Pergunta 4

Qual descoberta ou acontecimento mais mudaria sua visão sobre o impacto futuro da IA?

The most important technical update would be strong evidence about whether capabilities reliably compose. If learned decomposition and recursive inference let models solve genuinely novel, out-of-distribution tasks—not merely longer versions of familiar benchmarks—that would strengthen my expectation of rapid capability gains from better harnesses. Conversely, if these methods consistently hit hard ceilings because errors compound or models cannot generate useful decompositions, I would put more weight on improvements from training and scaling. For overall societal impact, though, a technical discovery would not be enough. I would update most from real evidence about deployment: whether increasingly capable systems remain controllable and auditable, who gains access, how institutions respond, and whether benefits and harms are broadly distributed. Capability benchmarks can tell us what systems may be able to do; they cannot by themselves determine what society will do with them.
Onde você se situa?
Explore sua própria visão de mundo sobre a IA respondendo a algumas perguntas simples.
Mapeie sua própria visão de mundo

Onde você se situa?

Mapear minha visão de mundo