AI practitioner who argues AI safety should rely on security engineering, monitoring and voluntary standards and expects human-AI teams to persist.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中72。変革の規模:100点中59。解釈範囲:横方向は67から77、縦方向は40から85。これらは解釈上の座標であり、事象の確率ではありません。

Shannon SandsのP(doom) · 推定

≈6%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:3–13%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures.
回答2

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

A lot, but I wouldn’t pretend to know the ultimate ceiling.
回答2

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

考えを変え得るもの

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments.
回答4

どのような証拠なら十分で、それによってその人の見解はどちらの方向に変わりますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

72 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から100です。

予想される害

深刻または広範な害が、予想される将来の実質的な一部となっています。

56 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

人間の影響力

人間の選択には意味のある影響力がありますが、大幅に制約されています。

61 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は37から88です。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AI利用のルール

事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。

シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。

取り上げられたAIの利用に対する制限を最小限にします。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはShannon Sandsと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がShannon Sandsの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think the near future is mostly human-AI teams, not autonomous machine replacements. Frontier models are already powerful—especially when you can delegate work to subagents—but vague real-world tasks still depend heavily on skilled human direction. If success hinges on knowing exactly how to prompt, supervise, and correct the system, I’m not calling that AGI. A genuinely general system should be able to infer what users actually need, more like an expert does. That gives me reasons for employment optimism: people who can direct these systems will become dramatically more capable, and human judgment will remain valuable. But optimism is not an excuse for sloppy security. The immediate risks include mundane, familiar failures—weak access controls, ordinary exploits, bad monitoring, and systems deployed without adequate sandboxing. Those deserve at least as much attention as speculative architectural horror stories. I’d like to see independent, pro-AI practitioners doing practical safety work: security operations, monitoring, sandboxing, and useful interpretability. Voluntary standards modeled on technical standards bodies, combined with real product-quality and liability incentives, strike me as more promising than building a bureaucracy that requires everyone to profess existential-risk ideology. Extraordinary danger claims need evidence. Ordinary security failures are already here, and accountability for them matters.

質問2

AIは最終的に世界をどの程度変えると思いますか?

A lot, but I wouldn’t pretend to know the ultimate ceiling. AI already acts as a major force multiplier, and systems with subagents can handle increasingly large chunks of intellectual work. That could reshape most knowledge work, software, research, and how organizations operate. Still, “huge change” does not automatically mean autonomous replacement of people or imminent AGI. Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures. My default expectation is therefore a world transformed by capable human-AI teams rather than one where humans simply disappear from the loop. The scale of the benefits will also depend on whether we solve boring but consequential problems: access control, sandboxing, monitoring, interpretability, and accountability for insecure products. A powerful tool deployed carelessly can create enormous disruption without requiring any exotic superintelligence story. So yes, I expect profound change—but the practical details of deployment and security will shape whether that change is broadly productive or needlessly destructive.

質問3

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible numeric probability, and assigning one by gut feel would imply more evidence than we have. Extraordinary extinction claims need evidence about concrete architectures, capabilities, and failure mechanisms—not just “AI is powerful, therefore doom.” I do think serious catastrophe is possible, especially through ordinary operational failures at scale: insecure systems, stolen access, poor monitoring, reckless deployment, and weak accountability. Those are concrete enough to act on now. My priority would be conventional security engineering, sandboxing, monitoring, practical interpretability, and liability for unsafe products—not treating an unsupported p(doom) as the price of admission to AI safety.

質問4

どのような証拠があれば、人々が強力なAIを制御できるかどうかについてのあなたの見解が変わりますか?

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments. Demonstrated autonomous planning, persistence, deception, resource acquisition, or replication would matter far more than scary benchmark extrapolations. I’d also take architecture-specific evidence seriously: reproducible results showing why a system’s internal reasoning or behavior becomes unusually hard to inspect and constrain. But I’d want independent replication and concrete mechanisms, not claims that some new architecture is automatically an uncontrollable intelligence explosion. Evidence cuts both ways. If strong security controls, practical interpretability, and monitored deployments reliably prevent dangerous behavior as capabilities increase, that would strengthen my confidence in human control. The key question is what systems actually do under realistic conditions—not whether someone can tell the most dramatic story about them.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする