AI researcher who leads work on decentralized model training and open reinforcement learning and favors open AI science.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中69。変革の規模:100点中76。解釈範囲:横方向は64から75、縦方向は71から100。これらは解釈上の座標であり、事象の確率ではありません。

samsjaのP(doom) · 推定

≈10%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:4–22%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

Infrastructure determines who can train, adapt, and control these systems.
回答3

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

詳細

予想される恩恵

複数の解釈が依然として妥当です:変革をもたらし、広く価値のある恩恵が予想されています。 / 大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

85 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から100です。

予想される害

深刻または広範な害が、予想される将来の実質的な一部となっています。

66 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から67です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

76 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は50から100です。

予想される能力

AIは、限定的なツールにとどまると予想されています。

AIは、ほとんどの認知作業において人間と同等になると予想されています。

シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AIへのアクセス

高性能なAIへのアクセスを制限します。

能力または用途の制限を条件として、アクセスを認めます。

シミュレーション上の位置:高性能なAIへの幅広い、またはオープンなアクセスを支持します。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはsamsjaと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がsamsjaの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think AI can make powerful knowledge and capabilities broadly accessible, but only if we build an open ecosystem rather than concentrating everything behind trade-secret barriers. A foundation model should be a building block, not the finished product. Open models, infrastructure, and post-training systems can let many researchers and builders create tools adapted to their own communities and needs. That is why distributed training matters beyond cost optimization. It offers a path toward sovereign open foundation models: systems that are not entirely dependent on a small number of centralized labs. Scalable agentic reinforcement learning matters too, because better systems engineering—along with adaptive curricula and more efficient training—can accelerate meaningful capability gains. We should evaluate scaling carefully rather than declare it dead whenever architectures change. At the same time, I think cyber-superintelligence feels close enough that preparation is necessary now. The same capabilities that empower builders can substantially increase cyber capability. So my view of the future is neither “models solve everything” nor “progress has stopped.” Capability is advancing, infrastructure shapes who controls it, and openness can determine whether AI becomes a broadly shared scientific platform or another closed concentration of power.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

Overall, I expect AI to be transformative, with enormous benefits from making knowledge and advanced capabilities widely accessible. But that positive outcome is not automatic. If frontier systems remain concentrated behind trade-secret barriers, AI may reinforce existing concentrations of power rather than distribute opportunity. Open models, distributed training, and accessible post-training infrastructure can shift that balance by enabling researchers, communities, and independent builders to create systems for their own needs. At the same time, increasingly capable agents—especially in cyber—create serious risks that require preparation now. So the overall impact will depend heavily on whether we build open, sovereign infrastructure while taking rapidly advancing capabilities seriously.

質問3

AIは最終的に世界をどの程度変えると思いますか?

I think AI will change the world profoundly. Broad access to capable models could reshape how people learn, conduct research, write software, and build products, because advanced knowledge and useful capabilities would no longer be confined to a small set of institutions. As agentic reinforcement learning improves, models will increasingly perform longer, more complex tasks rather than merely answer questions. But the magnitude of change is not only about model capability. Infrastructure determines who can train, adapt, and control these systems. If training and post-training remain centralized, the transformation may largely strengthen a few organizations. If distributed training, open models, and open scientific collaboration succeed, many communities can build sovereign systems suited to their own needs. Cyber is one area where the change could arrive particularly quickly, and I think preparation matters now. So I expect a very large transformation, but its social shape—centralized or distributed, closed or open—is still something we are actively building.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible percentage to give. My concrete concern is that cyber-superintelligence feels close enough that we should prepare now: increasingly capable agents could create severe, fast-moving failures in critical digital systems. That supports taking catastrophic risk seriously, but it does not by itself establish a quantified probability of human extinction. I would focus less on an invented number and more on building practical defenses, evaluating capabilities as they advance, and ensuring that preparation keeps pace with improvements in agentic reinforcement learning and training systems.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする