Alex Zhang

Alex Zhang

x.com/a1zhang

AI researcher who builds benchmarks and studies how scaffolds and recursive model calls can get more out of existing language models.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Mitte des ungeklärten BereichsInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 57 von 100. Ausmaß der Transformation: 50 von 100. Interpretationsbereiche: horizontal 49 bis 62, vertikal 0 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von Alex Zhang

Noch nicht geschätzt

Deren simulierte Antworten enthalten nicht genug zum Katastrophenrisiko, um es zu schätzen.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine zentrale Annahme

Better models and better harnesses are complementary: training expands what components can do, while scaffolding determines whether those abilities combine into reliable performance.
Antwort 1

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?

Eine ungeklärte Frage

I don’t have a well-supported overall societal forecast.
Antwort 2

Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?

Was ihre Meinung ändern könnte

If learned decomposition and recursive inference let models solve genuinely novel, out-of-distribution tasks—not merely longer versions of familiar benchmarks—that would strengthen my expectation of rapid capability gains from better harnesses.
Antwort 4

Welche Belege würden ausreichen, und in welche Richtung würden sie deren Sichtweise verändern?

Weitere Details

Erwartete Vorteile

Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

62 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Eine vorläufige Schätzung auf Grundlage deiner Antworten; der breitere Bereich zeigt andere plausible Deutungen.

51 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 0 bis 100 auf der qualitativen Skala.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu Alex Zhang?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von Alex Zhang am nächsten kommen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I think AI’s future depends not only on building larger or better-trained models, but on learning how to use the capabilities models already have. Today’s systems are often placed inside brittle, human-designed workflows that ask for one enormous leap instead of decomposing a problem, inspecting intermediate results, and recursively allocating computation. Better scaffolds can turn an unfamiliar task into a composition of familiar subproblems, while recursive language-model systems can work over information far beyond a single context window. That makes me optimistic about substantial capability gains from inference-time methods and learned decomposition. But it does not imply that scaling or training is finished. Better models and better harnesses are complementary: training expands what components can do, while scaffolding determines whether those abilities combine into reliable performance. The main epistemic challenge is measuring this honestly. A model can dominate a leaderboard because it recognizes familiar benchmark structure or has encountered related data, yet still fail when an agent must generalize in a genuinely new environment. Simply making tasks longer does not solve that problem. We need benchmarks that test useful out-of-distribution generalization and reveal whether a harness is actually helping rather than exploiting benchmark regularities. I expect much of AI progress to come from jointly improving models, computation, decomposition, and evaluation—but benchmark advances alone do not establish a particular forecast for society as a whole.

Frage 2

Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?

I don’t have a well-supported overall societal forecast. My work supports a narrower expectation: AI systems may become substantially more capable through better scaffolding, recursive computation, and evaluation, even without every gain coming from larger models. That could expand both useful applications and the harms available to capable systems, but benchmark or harness progress alone does not tell us which effects will dominate. The key mistake would be to infer social outcomes directly from technical performance. A model solving long-context tasks through decomposition, or succeeding on a cleaner generalization benchmark, establishes something about capability—not deployment incentives, access, governance, labor effects, or distribution of benefits. So I expect meaningful capability gains, but I would not turn that into a confident claim that AI’s net societal impact will be positive or negative.

Frage 3

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible numerical estimate. My work suggests that better scaffolding and recursive computation could unlock capabilities faster than raw model scaling alone would indicate, which matters for risk assessment. But translating that technical possibility into an extinction probability requires assumptions about future systems, deployment, control, access, and governance that my research does not establish. So I would not attach a percentage to it.

Frage 4

Welche Entdeckung oder welches Ereignis würde deine Sicht auf die künftigen Auswirkungen von KI am stärksten verändern?

The most important technical update would be strong evidence about whether capabilities reliably compose. If learned decomposition and recursive inference let models solve genuinely novel, out-of-distribution tasks—not merely longer versions of familiar benchmarks—that would strengthen my expectation of rapid capability gains from better harnesses. Conversely, if these methods consistently hit hard ceilings because errors compound or models cannot generate useful decompositions, I would put more weight on improvements from training and scaling. For overall societal impact, though, a technical discovery would not be enough. I would update most from real evidence about deployment: whether increasingly capable systems remain controllable and auditable, who gains access, how institutions respond, and whether benefits and harms are broadly distributed. Capability benchmarks can tell us what systems may be able to do; they cannot by themselves determine what society will do with them.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden