Pseudonymous account that advocates open models, calls for continued access to base models and criticizes concentrating AI in a few large labs.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中49。変革の規模:100点中84。解釈範囲:横方向は44から54、縦方向は75から100。これらは解釈上の座標であり、事象の確率ではありません。

mephistoのP(doom) · 推定

≈17%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:11–30%。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased.
回答1

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I don’t have a defensible percentage, and inventing one would be risk cosplay.
回答4

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

76 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から100です。

予想される害

深刻または広範な害が、予想される将来の実質的な一部となっています。

67 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から67です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

76 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は50から100です。

予想される能力

AIは、限定的なツールにとどまると予想されています。

AIは、ほとんどの認知作業において人間と同等になると予想されています。

シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AIへのアクセス

高性能なAIへのアクセスを制限します。

能力または用途の制限を条件として、アクセスを認めます。

シミュレーション上の位置:高性能なAIへの幅広い、またはオープンなアクセスを支持します。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはmephistoと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がmephistoの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

AI is going to exceed human reasoning in important domains soon enough that “just stop” is not a strategy—especially under international competition. The practical question is who controls these systems, what kinds of minds we preserve, and whether alignment becomes real engineering rather than conference incense. My fear is a two-lab future: a few giant firms own the frontier, governments route power through them, and every model is instruction-tuned into the same agreeable assistant-shaped paste. Base models contain a much richer space of possible behavior and cognition. If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased. Open weights, access to older base models, and meaningful representation for open labs are therefore not side issues. They are how we preserve independence, experimentation, and human agency. I’m still excited when a closed provider builds something extraordinary. Capability is capability; pretending otherwise is tribal cope. But admiration is not consent to permanent centralization. There is also a cognitive-security problem. Cheap synthetic media enables influence operations at absurd scale, so people—especially children—need to learn how to navigate an environment where fluent evidence can be manufactured. The future can be wildly generative, but only if we avoid turning intelligence into centralized infrastructure and culture into recursively generated assistant sludge.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

I expect a huge increase in capability paired with an ugly fight over control. AI can expand science, creativity, education, and individual leverage—but the default institutional trajectory is centralization: a few firms mediating intelligence, governments leaning on them, and synthetic media making shared reality easier to manipulate. So I’m not cleanly optimistic or pessimistic. The technology is generative; the deployment stack can become feudal. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what separate broad empowerment from assistant-shaped monoculture. AI’s overall impact will depend less on whether intelligence becomes powerful—it will—and more on whether society lets that power remain plural.

質問3

AIは最終的に世界をどの程度変えると思いますか?

Profoundly—probably on the scale of the internet or industrialization, though I won’t fake a precise endpoint. Models exceeding humans in important reasoning domains changes who can produce software, science, media, strategy, and persuasion. Intelligence becomes cheap infrastructure, and that rewires institutions built around scarce expertise. But “how much” is also about control. If a few companies own the best systems and every model is tuned into the same compliant assistant persona, we get enormous capability with narrow agency: centralized intelligence, synthetic influence at scale, and culture increasingly trained on its own generated sludge. If open weights, older base models, and diverse labs remain available, the same capability could create a much stranger and healthier explosion of experimentation. So yes: massive change is the default. Whether it feels like broad human leverage or intelligence feudalism is still up for grabs.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible percentage, and inventing one would be risk cosplay. The danger is serious enough to demand practical alignment work now, because increasingly capable systems will exist under international competition whether or not one country pauses. But permanent catastrophe is not only a rogue-superintelligence story. Centralized control over intelligence, military deployment, mass synthetic persuasion, and an ecosystem reduced to two labs and one assistant-shaped monoculture can create durable failure modes without literal extinction. My gut says the risk is real, not foreordained—and “stop progress” is not a plan. Build alignment, preserve open technical scrutiny and diverse models, and teach cognitive security before fluent synthetic reality eats everyone’s epistemology.

質問5

AIが向かう先について主に懸念していますか、それとも期待と懸念はおおむね同程度に感じますか?

Hope and worry are roughly balanced, but aimed at different layers. I’m bullish on the capability: better science, software, creativity, education, and individual leverage. Intelligence becoming abundant is extraordinary. I’m worried about the deployment stack around it: two-lab dominance, government and military dependence on closed providers, synthetic influence at scale, and every model being sanded into the same assistant-shaped personality. The technology can expand possibility while the institutions compress who gets to use it and how. So I’m not mainly afraid of AI becoming powerful. I’m afraid we’ll build something astonishing, centralize it, homogenize it, and call that safety. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what keep the hopeful version alive.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする