質問1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
AIは世界をどのように変えるでしょうか?
横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中6。変革の規模:100点中93。解釈範囲:横方向は0から11、縦方向は88から100。これらは解釈上の座標であり、事象の確率ではありません。
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · 2025年8月
中心的な前提
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.回答1
この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?
未解決の問い
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.回答3
ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?
詳細
大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。
61 / 100
質的尺度での解釈範囲は33から67です。
破局的または不可逆的な喪失が、予想される将来の中心となっています。
99 / 100
質的尺度での解釈範囲は100から100です。
人間の選択によって、AIの軌道を大幅に変えることができます。
81 / 100
質的尺度での解釈範囲は50から100です。
AIは、限定的なツールにとどまると予想されています。
AIは、ほとんどの認知作業において人間と同等になると予想されています。
シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。
シミュレーション上の位置:より高性能なAIの開発を停止するか、大幅に減速させます。
明示された安全対策の下で開発を継続します。
より高性能なAIの開発を加速させます。
これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がRobert Milesの世界観に最も近いオピニオンリーダー
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

シミュレーション評価
質問2
AIは最終的に世界をどの程度変えると思いますか?
質問3
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問4
AI企業の安全への対応は、どのような圧力に左右されると思いますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする