質問1
Noah Smith
x.com/NoahpinionEconomics blogger who expects AI to transform science, argues people can keep valuable jobs and worries about AI-enabled bioterrorism.
AIは世界をどのように変えるでしょうか?
横軸:彼が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中47。変革の規模:100点中87。解釈範囲:横方向は42から75、縦方向は75から100。これらは解釈上の座標であり、事象の確率ではありません。
≈10%
“about a 10% chance of bringing down civilization”
Civilization collapse from AI-enabled bioterrorism; not human extinction
Here’s how we’re all going to die · 2026年8月
中心的な前提
If we give an AI tools, credentials, memory, and permission to execute a long project, then a malicious human can use it to do enormous damage even if the system remains perfectly obedient.回答4
この前提が実際には異なると判明した場合、彼の見通しはどう変わりますか?
未解決の問い
The key uncertainty is whether the relevant biological capabilities are actually feasible.回答3
ここで考えられる結果を彼が見分けるうえで、何が役立ちますか?
考えを変え得るもの
If experts demonstrated that AI agents still cannot materially help design or execute a catastrophic biological attack—or that systems reliably refuse dangerous requests even under determined attempts—I would sharply reduce my catastrophe estimate.回答5
どのような証拠なら十分で、それによって彼の見解はどちらの方向に変わりますか?
詳細
変革をもたらし、広く価値のある恩恵が予想されています。
97 / 100
質的尺度での解釈範囲は100から100です。
複数の解釈が依然として妥当です:深刻または広範な害が、予想される将来の実質的な一部となっています。 / 破局的または不可逆的な喪失が、予想される将来の中心となっています。
81 / 100
質的尺度での解釈範囲は67から100です。
回答に基づく暫定的な推定です。より広い範囲は、ほかにあり得る解釈を示しています。
53 / 100
質的尺度での解釈範囲は23から100です。
これらの解釈では、彼が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、彼のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がNoah Smithの世界観に最も近いオピニオンリーダー
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
The accessible introduction calls the consequences of godlike AI deeply unknowable. The remainder is paywalled; later public essays and interviews supply the substantive current position.

Publicly revises his earlier chatbot-focused dismissal after observing agentic coding. Autonomous tool use and economic pressure to remove humans from loops make catastrophic misuse more plausible. Remains comparatively skeptical of a near-term robot takeover.

Argues that combining human-like reasoning with computers’ exceptional recall and calculation already creates superhuman capabilities. Expects major scientific transformation; this is his broad definition of superintelligence, not a claim that every system is an autonomous omnipotent agent.

Speaker-labeled transcript: Noah at 07:21 endorses roughly 10% for catastrophic biological misuse. At 08:55 he expects survivors and is unsure about rebuilding. At 09:25 he declines to endorse the interviewer’s proposed 5% permanent-doom number. At 12:26–14:59 he identifies biological feasibility and resistance to jailbreaks as updates. At 17:49–18:18 he explains why malicious human use dominates his concern. Do not import Liron’s forecasts into Noah’s answers.

Clarifies that plentiful employment under extremely capable AI is possible, not guaranteed. Relative costs and constraints on AI supply can preserve human comparative advantage even when machines outperform people at every task.

Emphasizes humans’ comparative advantage in knowing what they want, with future work organized around directing AI. The accessible introduction supports this thesis; avoid inventing detailed empirical findings from inaccessible portions.

Assigns an informal 10% chance to AI-enabled bioterror bringing down civilization and 30% to world-changing destruction, without a precise horizon. Calls this much more serious than other AI harms while retaining enthusiasm for AI. These are not extinction odds; a separate annual-risk example is hypothetical, not his forecast.

Distinguishes replacing tasks from eliminating occupations. Interprets contemporary employment evidence as inconsistent with an imminent job apocalypse; expects humans to continue directing AI, without claiming that no occupation will ever disappear.

Argues that safety advocates need concrete threats that persuade skeptics and must address Chinese leaders’ incentives for coordinated pacing. Revises his earlier idea that merely staying ahead would produce cooperation: domestic threats from China’s own models could instead change its incentives.

シミュレーション評価
質問2
AIは最終的に世界をどの程度変えると思いますか?
質問3
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問4
人間より賢いAIシステムを、人々が引き続き制御できると思いますか?また、なぜそう思いますか?
質問5
どのような発見や出来事があれば、AIが将来もたらす影響についてのあなたの見解が最も大きく変わりますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする