Stella Biderman

Stella Biderman

x.com/blancheminerva

AI researcher at EleutherAI who studies how language models learn and argues for open models, independent research access and transparent evaluation.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中49。変革の規模:100点中51。解釈範囲:横方向は44から54、縦方向は46から56。これらは解釈上の座標であり、事象の確率ではありません。

Stella BidermanのP(doom) · 推定

≈5%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:2–11%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures.
回答2

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself.
回答2

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

62 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

予想される害

複数の解釈が依然として妥当です:深刻または広範な害が、予想される将来の実質的な一部となっています。 / 対処可能、または局所的な害が予想されています。

51 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

75 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は50から100です。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AI利用のルール

事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。

シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。

取り上げられたAIの利用に対する制限を最小限にします。

AIへのアクセス

高性能なAIへのアクセスを制限します。

能力または用途の制限を条件として、アクセスを認めます。

シミュレーション上の位置:高性能なAIへの幅広い、またはオープンなアクセスを支持します。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはStella Bidermanと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がStella Bidermanの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think AI’s effects will depend less on treating models as autonomous forces and more on the institutions that build, study, deploy, and govern them. Language models can be useful tools, but they do not substitute for domain expertise or institutional knowledge. Starting with “How can AI solve this?” is often the wrong approach; we should begin by understanding the actual problem. A beneficial future requires a broad, empirical science of AI. Researchers need access to models, data, checkpoints, public compute, and transparent evaluations so they can study how capabilities, biases, memorization, and safety-relevant behaviors emerge during training—not merely patch finished systems after deployment. If meaningful research is restricted to a few large companies, outsiders cannot independently test claims, uncover failures, or develop competing approaches. I’m therefore concerned about policies built around secrecy, weak filters, or analogies to nuclear weapons. Those approaches can obscure risks and entrench incumbents without preventing powerful systems from being developed. Safety policy should instead include outside participation, explicit criteria, ordinary security engineering, institutional accountability, and room for open competitors. AI’s future is not determined by the models alone; it will be shaped by who can examine them, who controls them, and whether failures can be investigated publicly.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself. The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures. AI can provide useful tools and broaden access to some capabilities, but it can also reproduce biases, conceal failures behind closed systems, and encourage people to substitute model outputs for real domain expertise. My expectation is therefore conditional rather than a numerical forecast. With public compute, open research, meaningful outside scrutiny, and clear safety criteria, the benefits can be widely distributed and problems discovered earlier. Under secrecy and concentrated control, we should expect weaker accountability and fewer opportunities to understand or correct harmful behavior.

質問3

AIは最終的に世界をどの程度変えると思いますか?

I expect AI to change many kinds of work, research, and access to information, but I would resist turning that into a claim that models independently determine history. The magnitude of change depends on how institutions deploy them, which problems they are applied to, and who controls access. A model does not supply the domain knowledge, organizational capacity, or political judgment needed to solve a social problem. The distribution of that change matters as much as its scale. If a few firms control powerful models and outsiders can study them only through restricted interfaces, AI may reinforce existing concentrations of power while making failures harder to investigate. Public compute, open models and checkpoints, transparent evaluation, and independent research could instead distribute capabilities and improve our understanding of how model behavior develops. So I expect substantial change, but I would not attach a percentage or rank it against the industrial revolution or electricity. Those comparisons suggest more certainty than we have. The consequential question is not merely how powerful models become, but whether society builds institutions capable of examining, contesting, and governing their use.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I would not assign a defensible percentage from the evidence I have. “Gut-feel chance” encourages false precision about poorly specified outcomes and mechanisms. I do think powerful AI systems can create serious risks, but evaluating them requires distinguishing concrete failure modes: how capabilities arise during training, how systems behave in deployment, whether security controls actually work, and whether institutions respond to expert warnings. A theoretical side channel, for example, is not automatically a practical way to extract model weights; safety claims need empirical scrutiny. I also reject treating AI as if it were simply nuclear weapons in software form. That analogy can drive secrecy and concentrated control while doing little to prevent powerful models from being developed. Whatever the tail risk is, reducing it requires open scientific investigation, independent access, transparent evaluations, competent security engineering, and institutional accountability—not an unsupported extinction number.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする