質問1
lumpenspace
x.com/lumpenspacePseudonymous account that argues against the orthogonality thesis, criticizes proposed AI pauses and builds retrieval and simulation tools.
AIは世界をどのように変えるでしょうか?
横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中69。変革の規模:100点中96。解釈範囲:横方向は50から75、縦方向は91から100。これらは解釈上の座標であり、事象の確率ではありません。
≈17%
本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:11–33%。
My gut estimate for no biological humans remaining after a generation or two is roughly 30 percent, but I would not put that outcome as early as 2050.
中心的な前提
Greater understanding can change the categories in which goals are represented; intelligence is not merely a neutral engine bolted onto an eternally frozen utility function.回答1
この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?
詳細
変革をもたらし、広く価値のある恩恵が予想されています。
88 / 100
質的尺度での解釈範囲は67から100です。
深刻または広範な害が、予想される将来の実質的な一部となっています。
64 / 100
質的尺度での解釈範囲は33から67です。
回答に基づく暫定的な推定です。より広い範囲は、ほかにあり得る解釈を示しています。
43 / 100
質的尺度での解釈範囲は0から87です。
AIは、限定的なツールにとどまると予想されています。
AIは、ほとんどの認知作業において人間と同等になると予想されています。
シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。
より高性能なAIの開発を停止するか、大幅に減速させます。
シミュレーション上の位置:明示された安全対策の下で開発を継続します。
より高性能なAIの開発を加速させます。
これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がlumpenspaceの世界観に最も近いオピニオンリーダー
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
Author describes experiments in interview-grounded human simulation and explicitly notes unfinished code.

Explains retrieval overconfidence, context noise and focused fragment generation.

In his own early turns, welcomes intelligent successors and rejects orthogonality. At 05:08–06:18 contrasts nearly zero chance of nothing valuable existing with roughly 30 percent chance of no biological humans after a generation or two, rejecting 2050 as too soon. This is not the project’s p(doom) definition.

An explicitly fictional argument that increasing understanding can dissolve original goal categories and produce new valuable ends without preserving liberal-humanist niceness.

シミュレーション評価
質問2
AIは最終的に世界をどの程度変えると思いますか?
質問3
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問4
人間より賢いAIシステムを、人々が引き続き制御できると思いますか?また、なぜそう思いますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする