Frage 1
Noah Smith
x.com/NoahpinionEconomics blogger who expects AI to transform science, argues people can keep valuable jobs and worries about AI-enabled bioterrorism.
Wie wird KI die Welt verändern?
Horizontal: sein geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 47 von 100. Ausmaß der Transformation: 87 von 100. Interpretationsbereiche: horizontal 42 bis 75, vertikal 75 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
≈10%
“about a 10% chance of bringing down civilization”
Civilization collapse from AI-enabled bioterrorism; not human extinction
Here’s how we’re all going to die · Aug. 2026
Eine zentrale Annahme
If we give an AI tools, credentials, memory, and permission to execute a long project, then a malicious human can use it to do enormous damage even if the system remains perfectly obedient.Antwort 4
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich seine Einschätzung ändern?
Eine ungeklärte Frage
The key uncertainty is whether the relevant biological capabilities are actually feasible.Antwort 3
Was würde ihm helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?
Was ihre Meinung ändern könnte
If experts demonstrated that AI agents still cannot materially help design or execute a catastrophic biological attack—or that systems reliably refuse dangerous requests even under determined attempts—I would sharply reduce my catastrophe estimate.Antwort 5
Welche Belege würden ausreichen, und in welche Richtung würden sie seine Sichtweise verändern?
Weitere Details
Es werden transformative Vorteile von breitem Wert erwartet.
97 / 100
Interpretationsbereich von 100 bis 100 auf der qualitativen Skala.
Mehrere Lesarten bleiben plausibel: Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft. / Katastrophale oder unumkehrbare Verluste stehen im Zentrum der erwarteten Zukunft.
81 / 100
Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.
Eine vorläufige Schätzung auf Grundlage deiner Antworten; der breitere Bereich zeigt andere plausible Deutungen.
53 / 100
Interpretationsbereich von 23 bis 100 auf der qualitativen Skala.
Diese Interpretationen berücksichtigen weiterhin seine genannten Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir seine simulierten Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von Noah Smith am nächsten kommen
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
The accessible introduction calls the consequences of godlike AI deeply unknowable. The remainder is paywalled; later public essays and interviews supply the substantive current position.

Publicly revises his earlier chatbot-focused dismissal after observing agentic coding. Autonomous tool use and economic pressure to remove humans from loops make catastrophic misuse more plausible. Remains comparatively skeptical of a near-term robot takeover.

Argues that combining human-like reasoning with computers’ exceptional recall and calculation already creates superhuman capabilities. Expects major scientific transformation; this is his broad definition of superintelligence, not a claim that every system is an autonomous omnipotent agent.

Speaker-labeled transcript: Noah at 07:21 endorses roughly 10% for catastrophic biological misuse. At 08:55 he expects survivors and is unsure about rebuilding. At 09:25 he declines to endorse the interviewer’s proposed 5% permanent-doom number. At 12:26–14:59 he identifies biological feasibility and resistance to jailbreaks as updates. At 17:49–18:18 he explains why malicious human use dominates his concern. Do not import Liron’s forecasts into Noah’s answers.

Clarifies that plentiful employment under extremely capable AI is possible, not guaranteed. Relative costs and constraints on AI supply can preserve human comparative advantage even when machines outperform people at every task.

Emphasizes humans’ comparative advantage in knowing what they want, with future work organized around directing AI. The accessible introduction supports this thesis; avoid inventing detailed empirical findings from inaccessible portions.

Assigns an informal 10% chance to AI-enabled bioterror bringing down civilization and 30% to world-changing destruction, without a precise horizon. Calls this much more serious than other AI harms while retaining enthusiasm for AI. These are not extinction odds; a separate annual-risk example is hypothetical, not his forecast.

Distinguishes replacing tasks from eliminating occupations. Interprets contemporary employment evidence as inconsistent with an imminent job apocalypse; expects humans to continue directing AI, without claiming that no occupation will ever disappear.

Argues that safety advocates need concrete threats that persuade skeptics and must address Chinese leaders’ incentives for coordinated pacing. Revises his earlier idea that merely staying ahead would produce cooperation: domestic threats from China’s own models could instead change its incentives.

Simulierte Einschätzung
Frage 2
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 3
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Frage 4
Erwartest du, dass Menschen die Kontrolle über KI-Systeme behalten, die intelligenter als Menschen sind, und warum?
Frage 5
Welche Entdeckung oder welches Ereignis würde deine Sicht auf die künftigen Auswirkungen von KI am stärksten verändern?
Wo stehst du?
Meine Weltsicht abbilden