質問1
Shannon Sands
x.com/max_paperclipsAI practitioner who argues AI safety should rely on security engineering, monitoring and voluntary standards and expects human-AI teams to persist.
AIは世界をどのように変えるでしょうか?
横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。
Doom–Bloom:100点中72。変革の規模:100点中59。解釈範囲:横方向は67から77、縦方向は40から85。これらは解釈上の座標であり、事象の確率ではありません。
中心的な前提
Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures.回答2
この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?
未解決の問い
A lot, but I wouldn’t pretend to know the ultimate ceiling.回答2
ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?
考えを変え得るもの
I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments.回答4
どのような証拠なら十分で、それによってその人の見解はどちらの方向に変わりますか?
詳細
大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。
72 / 100
質的尺度での解釈範囲は67から100です。
深刻または広範な害が、予想される将来の実質的な一部となっています。
56 / 100
質的尺度での解釈範囲は33から67です。
人間の選択には意味のある影響力がありますが、大幅に制約されています。
61 / 100
質的尺度での解釈範囲は37から88です。
より高性能なAIの開発を停止するか、大幅に減速させます。
シミュレーション上の位置:明示された安全対策の下で開発を継続します。
より高性能なAIの開発を加速させます。
事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。
シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。
取り上げられたAIの利用に対する制限を最小限にします。
これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。
似ている世界観
シミュレーションされた世界観がShannon Sandsの世界観に最も近いオピニオンリーダー
出典
このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。
シミュレーション評価
質問2
AIは最終的に世界をどの程度変えると思いますか?
質問3
AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?
質問4
どのような証拠があれば、人々が強力なAIを制御できるかどうかについてのあなたの見解が変わりますか?
あなたはどの位置でしょうか?
自分の世界観をマッピングする
