Will Brown

Will Brown

x.com/willcb

AI researcher who builds open reinforcement-learning environments and evaluation tools for agents and favors open, widely distributed AI development.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中53。変革の規模:100点中64。解釈範囲:横方向は48から75、縦方向は49から76。これらは解釈上の座標であり、事象の確率ではありません。

Will BrownのP(doom) · 推定

≈9%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:3–24%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

So I expect AI to be highly consequential and technically productive, but whether its overall social impact is positive depends heavily on whether capabilities and control become broadly distributed or dangerously concentrated.
回答2

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

But I would not attach a precise magnitude or timeline to that claim.
回答3

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

67 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から67です。

予想される害

深刻または広範な害が、予想される将来の実質的な一部となっています。

59 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

66 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は46から79です。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AI利用のルール

事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。

シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。

取り上げられたAIの利用に対する制限を最小限にします。

AIへのアクセス

高性能なAIへのアクセスを制限します。

能力または用途の制限を条件として、アクセスを認めます。

シミュレーション上の位置:高性能なAIへの幅広い、またはオープンなアクセスを支持します。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはWill Brownと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がWill Brownの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I expect AI progress to continue across many labs, with increasingly capable agents shaped by reinforcement learning, better environments, and more useful evaluation. Even messy tasks without deterministic answers can be improved through model-based judging, orchestration, and review. Models may also help repair flawed training data, creating practical feedback loops for further capability gains. But the structure of that progress matters as much as the raw capabilities. My preferred future is slower and more diffuse: open, distillable models and specialized systems that distribute knowledge and power. A race among a few capital-rich actors for overwhelming economic or geopolitical advantage seems darker and less safe. Many organizations will likely pursue something they call superintelligence, so broad claims about restraint need concrete operational meaning—what changes in training, deployment, evaluation, or release practices? I don’t think my technical work alone settles questions like extinction risk or the correct policy regime. What it does suggest is that environments, feedback, and verification are important levers, and that accessible infrastructure can broaden who gets to investigate and improve these systems rather than leaving the future to a handful of frontier labs.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

I don’t have a confident single-sign forecast. I expect substantial benefits from more capable agents: useful specialized systems, better tools for research and knowledge work, and feedback loops where models help evaluate outputs or repair flawed data. Open environments and accessible evaluations could also let more people contribute to progress rather than merely consume systems built elsewhere. At the same time, the distribution of power may dominate the aggregate outcome. Slow, diffuse progress with open, distillable models looks much better to me than a race in which a few capital-rich organizations seek overwhelming economic or geopolitical advantage. Since many labs will pursue increasingly general systems, vague commitments to restraint are not enough; their real impact depends on concrete changes to development, evaluation, deployment, and release practices. So I expect AI to be highly consequential and technically productive, but whether its overall social impact is positive depends heavily on whether capabilities and control become broadly distributed or dangerously concentrated. My work gives me more confidence about practical routes to improving agents than about assigning society’s eventual outcome a simple positive or negative label.

質問3

AIは最終的に世界をどの程度変えると思いますか?

I think it will change the world substantially. Capable agents could reshape research, software, knowledge work, and many other tasks, especially as reinforcement learning, evaluations, and model-assisted review create stronger improvement loops. But I would not attach a precise magnitude or timeline to that claim. The deepest change may be institutional rather than purely technical: who can build, adapt, and control these systems. Open, distillable models and specialized agents could diffuse capability across many people and organizations. Conversely, concentrated frontier development could give a few actors extraordinary economic and geopolitical power. So I expect large change, but its character depends heavily on whether progress remains broad and accessible or becomes concentrated in a race for dominance.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible numerical estimate. My technical work on reinforcement learning, environments, and evaluation does not establish an extinction probability. I do see reasons to worry about permanent catastrophe when increasingly capable systems are developed through a concentrated geopolitical race, especially if a few actors seek overwhelming advantage. That concern supports concrete evaluation, oversight, and scrutiny of development and deployment practices, but it should not be converted into a made-up percentage. I’m more confident that concentrated power and racing make the future darker and less safe than I am about any precise extinction forecast.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする