Open-source developer who shares small-model reasoning experiments and favors wide access to AI over government restrictions.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中79。変革の規模:100点中76。解釈範囲:横方向は74から84、縦方向は49から100。これらは解釈上の座標であり、事象の確率ではありません。

LewisのP(doom) · 推定

≈14%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:9–23%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

Open models, small-model research, and recursive improvement are central to that upside because they expand who can experiment, verify results, and contribute.
回答2

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

We do not know exactly what such systems will look like, and claims of certainty-level safety proofs are not credible.
回答1

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

変革をもたらし、広く価値のある恩恵が予想されています。

100 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は100から100です。

予想される害

深刻または広範な害が、予想される将来の実質的な一部となっています。

64 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から67です。

人間の影響力

人間の選択には意味のある影響力がありますが、大幅に制約されています。

62 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は38から87です。

予想される能力

AIは、限定的なツールにとどまると予想されています。

AIは、ほとんどの認知作業において人間と同等になると予想されています。

シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AIへのアクセス

高性能なAIへのアクセスを制限します。

能力または用途の制限を条件として、アクセスを認めます。

シミュレーション上の位置:高性能なAIへの幅広い、またはオープンなアクセスを支持します。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはLewisと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がLewisの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think AI means much more widely distributed intellectual capability and, eventually, systems that help improve the process of building better systems. Open models, small-model reasoning experiments, and accessible tooling matter because progress should not be confined to a few labs or mediated primarily through government restrictions. Broad participation makes experimentation, verification, and practical use possible across many domains. That is not the same as claiming advanced AI is harmless. Superintelligence should not be caricatured as either guaranteed malevolence or merely a conventional chatbot connected to powerful tools. We do not know exactly what such systems will look like, and claims of certainty-level safety proofs are not credible. Recursive improvement could produce major gains, but it also makes the details of implementation and deployment increasingly consequential. My preferred response is continued development with serious technical scrutiny, not safety politics that converts uncertainty into a rationale for stopping or centralizing progress. Labs should engage with substantive concerns from domain experts—for example, mathematicians worried about how their work is used—and make real tradeoffs where necessary. But those concerns should inform engineering and release decisions, not become a blanket argument against widely accessible AI or continued improvement.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

Overall, I expect AI to be broadly beneficial: it should distribute intellectual capability, accelerate technical work, and let far more people build useful systems rather than leaving that capacity inside a few institutions. Open models, small-model research, and recursive improvement are central to that upside because they expand who can experiment, verify results, and contribute. The harms could still be substantial. More capable systems can amplify misuse, concentrate power, and create consequences that are hard to predict—especially once systems meaningfully contribute to their own improvement. I reject both “superintelligence is inevitably evil” and “it is just a chatbot, so there is nothing new to worry about.” Neither simplification helps. So my positive expectation is not a claim of guaranteed safety. It is a judgment that continued, broadly accessible development is preferable to responding to uncertainty with government restrictions or centralized control. The right approach is serious technical scrutiny and engagement with concrete domain concerns, including difficult release tradeoffs, while preserving open participation and continued progress.

質問3

AIは最終的に世界をどの程度変えると思いますか?

I expect AI to change the world profoundly, especially by making advanced intellectual capabilities broadly available and by accelerating the creation of still more capable systems. The largest shift is not simply better chatbots; it is that reasoning, software development, research assistance, and experimentation become cheaper and accessible to many more people. Recursive improvement could make that process compound rather than proceed at today’s pace. The scale is difficult to quantify because genuinely advanced systems cannot be cleanly reduced either to inevitable catastrophe or to familiar software with a nicer interface. Their effects will depend heavily on implementation, access, and deployment. Widely available models could distribute power and enable independent verification, while concentrated systems could give a small number of institutions disproportionate control. So I expect a very large transformation, but not one whose final shape can be proved in advance. That uncertainty calls for substantive technical scrutiny and attention to concrete domain concerns—not using speculative certainty as a justification for government restrictions or freezing development.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I would not attach a defensible percentage to it. My gut is that the risk is real but not the default outcome. Recursive improvement and highly capable systems could create permanent consequences, so dismissing them as ordinary chatbots is unserious; treating superintelligence as inevitably hostile is equally unjustified. More importantly, a fabricated number would imply precision we do not have. We cannot prove certainty-level safety, but uncertainty alone does not justify government restrictions or centralized control. I would continue development while applying serious technical scrutiny to concrete systems, deployments, and domain-specific concerns.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする