質問1
Kalomaze
x.com/kalomazePseudonymous account that experiments with open models and posts about reinforcement learning, evaluation pitfalls and practical safety engineering.
AIは世界をどのように変えるでしょうか?
横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中43。変革の規模:100点中65。解釈範囲:横方向は38から50、縦方向は34から100。これらは解釈上の座標であり、事象の確率ではありません。
中心的な前提
I take the possibility seriously because recursive improvement, persistence, resource acquisition, and broad autonomy could produce genuinely dangerous systems.回答4
この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?
未解決の問い
Potentially enormously—especially if improvement becomes recursive—but “how much” isn’t something I can honestly quantify.回答3
ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?
考えを変え得るもの
I’d update toward control being feasible if powerful agents remained robustly corrigible under adversarial conditions: resisting prompt injection, using contradictory evidence instead of locking onto convenient hypotheses, accepting interruption, and failing to seek persistence or resources beyond what the operator intended.回答5
どのような証拠なら十分で、それによってその人の見解はどちらの方向に変わりますか?
詳細
大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。
63 / 100
質的尺度での解釈範囲は33から67です。
深刻または広範な害が、予想される将来の実質的な一部となっています。
61 / 100
質的尺度での解釈範囲は33から67です。
回答に基づく暫定的な推定です。より広い範囲は、ほかにあり得る解釈を示しています。
52 / 100
質的尺度での解釈範囲は2から100です。
これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がKalomazeの世界観に最も近いオピニオンリーダー
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
First-party model and dataset artifacts and a link to the author’s local-model experiment writeups.

First-party experimental context; activity does not itself establish specific policy, moral-status or extinction beliefs.

シミュレーション評価
質問2
恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?
質問3
AIは最終的に世界をどの程度変えると思いますか?
質問4
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問5
どのような証拠があれば、人々が強力なAIを制御できるかどうかについてのあなたの見解が変わりますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする