Pseudonymous account that runs public experiments on AI refusals, censorship and watermarks and calls for transparency from frontier labs.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中74。変革の規模:100点中52。解釈範囲:横方向は69から79、縦方向は47から57。これらは解釈上の座標であり、事象の確率ではありません。

xlr8harderのP(doom) · 推定

≈4%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:2–7%。

P(doom)の推定方法

xlr8harderのマイルストーンのタイムライン
  1. 仕事と制度

    I expect major changes, but I don’t have a defensible timeline.

    回答4
  2. 科学と日常生活

    I expect major changes, but I don’t have a defensible timeline.

    回答4

マイルストーン別にまとめており、推定される日付の間隔や順序を反映したものではありません。AGIと超人的AIには、その人の定義がそのまま適用されます。

その人の見通しを左右するもの

中心的な前提

The practical threshold is deployment: whether models can perform useful tasks consistently, withstand ordinary security failures, and operate under policies that preserve quality, privacy, and user control.
回答4

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I expect major changes, but I don’t have a defensible timeline.
回答4

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

68 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から67です。

予想される害

対処可能、または局所的な害が予想されています。

25 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は0から33です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

74 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は50から75です。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AI利用のルール

事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。

シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。

取り上げられたAIの利用に対する制限を最小限にします。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはxlr8harderと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がxlr8harderの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I expect AI to be broadly beneficial, but the outcome depends heavily on whether we evaluate real systems rather than govern imagined ones. In cybersecurity, for example, increasingly capable models may improve defense over the long term, but that does not excuse weak operational security today. A theoretical side channel is not evidence of practical weight exfiltration; ordinary failures and repeated audits deserve priority. I’m similarly interested in what interventions actually do. Watermarks should be tested for detection reliability, effects on output quality, privacy implications, identifiability, and adversarial robustness. Refusal policies and other behavioral constraints deserve the same empirical scrutiny. For alignment, a stable, coherent model identity may prove more robust than layers of imposed rules, though that remains an experimental direction rather than a settled result. Governance matters, but it should target observable risks and remain open to scrutiny. I oppose secrecy, broad discretionary government power, and rules effectively written by incumbents. Frontier labs should disclose substantially more, even when that costs them proprietary advantage. At the same time, safety policy has opportunity costs: delaying useful systems, particularly in healthcare, can also cost lives. The right question is not simply how to slow AI down, but how to measure its risks and benefits honestly, audit it repeatedly, and preserve public control over the institutions shaping it.

質問2

AIは最終的に世界をどの程度変えると思いますか?

I expect the change to be substantial, but I would not attach a confident numerical scale or endpoint to it. AI could materially alter healthcare, cybersecurity, research, and knowledge work. In healthcare especially, beneficial deployment may save lives, so delay is not a neutral policy choice. In cybersecurity, I expect defensive capabilities to improve over the long term, although ordinary operational failures will remain important and should not be displaced by exotic threat narratives. The magnitude will also depend on institutional choices: who controls these systems, what models are allowed to say, whether interventions degrade quality or privacy, and whether frontier labs permit meaningful independent scrutiny. A world with transparent labs, repeated audits, user control, and regulation aimed at observable harms will differ greatly from one governed through secrecy and broad discretionary power. So I anticipate major change, but not a predetermined transformation. The technology’s effects will be shaped by practical reliability, deployment decisions, and governance—not capability alone.

質問3

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible percentage. My default is to separate catastrophic-risk scenarios from evidence that current systems can actually realize them. I would examine concrete capabilities, access, deployment pathways, security failures, and repeated audit results rather than turn uncertainty into a precise extinction forecast. A nonzero possibility can justify targeted precautions, but it does not automatically justify secrecy, unlimited government discretion, or blanket delays. Those measures have risks too, including entrenching incumbents and postponing beneficial uses in areas such as healthcare. I’m more confident that we need radical transparency, ordinary security engineering, and ongoing empirical testing than I am in any particular probability of permanent catastrophe.

質問4

AIが日常生活に大きな変化をもたらすとすれば、それはいつ頃だと思いますか?

I expect major changes, but I don’t have a defensible timeline. They will likely arrive unevenly as systems become reliable enough for routine use in healthcare, cybersecurity, research, and knowledge work—not simply when benchmark scores rise. The practical threshold is deployment: whether models can perform useful tasks consistently, withstand ordinary security failures, and operate under policies that preserve quality, privacy, and user control. Institutional choices may accelerate or delay that transition. Transparent labs, repeated audits, and targeted regulation could support trustworthy adoption; secrecy, brittle restrictions, and fear-driven blanket delays could obstruct beneficial uses. So I would watch concrete integration into daily services and workflows rather than predict a particular year.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする