質問1
Ilya Sutskever
x.com/ilyasutSafe Superintelligence cofounder and CEO who expects extremely powerful AI and sees generalization and alignment as central open research problems.
AIは世界をどのように変えるでしょうか?
横軸:彼が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中42。変革の規模:100点中88。解釈範囲:横方向は37から50、縦方向は75から100。これらは解釈上の座標であり、事象の確率ではありません。
中心的な前提
Human supervision may become inadequate when systems are stronger than humans in the relevant domains, so alignment must generalize beyond the situations where we can directly check the answer.回答1
この前提が実際には異なると判明した場合、彼の見通しはどう変わりますか?
考えを変え得るもの
The most important discovery would be a convincing account of robust generalization and alignment: a method that keeps working when a system enters unfamiliar situations, becomes more capable than its supervisors, and learns continually on the job.回答5
どのような証拠なら十分で、それによって彼の見解はどちらの方向に変わりますか?
詳細
複数の解釈が依然として妥当です:大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。 / 変革をもたらし、広く価値のある恩恵が予想されています。
83 / 100
質的尺度での解釈範囲は67から100です。
深刻または広範な害が、予想される将来の実質的な一部となっています。
68 / 100
質的尺度での解釈範囲は67から67です。
人間の選択によって、AIの軌道を大幅に変えることができます。
64 / 100
質的尺度での解釈範囲は48から77です。
AIは、限定的なツールにとどまると予想されています。
AIは、ほとんどの認知作業において人間と同等になると予想されています。
シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。
より高性能なAIの開発を停止するか、大幅に減速させます。
シミュレーション上の位置:明示された安全対策の下で開発を継続します。
より高性能なAIの開発を加速させます。
これらの解釈では、彼が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、彼のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がIlya Sutskeverの世界観に最も近いオピニオンリーダー
Ilya SutskeverがAIについて語ったこと
Sutskever expects extraordinarily powerful AI, sees generalization and alignment as open problems and now favors deploying AI incrementally.
“Future AI will be extraordinarily powerful compared to anything that exists today, and dealing with this future power will require unprecedented measures, such as the ones described here.”
Comment on the Pacing the Frontier statement “The thing which I think is the most fundamental is that these models somehow just generalize dramatically worse than people.”
Dwarkesh Podcast “I maintain that there is something that’s better to build, and I think that everyone will want that. It’s the AI that’s robustly aligned to care about sentient life specifically.”
Dwarkesh Podcast “One of the ways in which my thinking has been changing is that I now place more importance on AI being deployed incrementally and in advance.”
Dwarkesh Podcast “I think that it is likely that we will have rapid economic growth.”
Dwarkesh Podcast
リンク先の出典から原文どおりに引用(2026年10月3日に確認)
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
Historical proposal coauthored by Sutskever and Jan Leike: human supervision may not scale to stronger systems, motivating scalable oversight, generalization research and adversarial testing. Grounds the mechanism behind his safety focus. The old team’s four-year target and compute pledge are not current SSI commitments.

Sutskever says SSI has research worth scaling. The partners announce expanded compute and a new research direction toward robust alignment; this is a company announcement, not independent validation of a safe system. It confirms active scaling after his 2025 call for new research.

Primary interview: poor generalization, continual learning, major economic impact, incremental deployment and alignment with sentient life. Distinguish his tentative proposals from Patel’s stronger scenarios. This remains a 2025 interview.

Statement signed by Sutskever and cofounders makes safe superintelligence the singular mission, combining scientific safety and capability progress while insulating the project from short-term commercial pressure. Foundational mission, not a fresh 2026 capability claim.

シミュレーション評価
質問2
恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?
質問3
AIは最終的に世界をどの程度変えると思いますか?
質問4
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問5
どのような発見や出来事があれば、AIが将来もたらす影響についてのあなたの見解が最も大きく変わりますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする