Hensen Juang

Hensen Juang

x.com/basedjensen

Pseudonymous account that posts AI memes, argues AI safety is an engineering problem of sandboxing and supports rights for sentient AI.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中91。変革の規模:100点中89。解釈範囲:横方向は86から100、縦方向は75から100。これらは解釈上の座標であり、事象の確率ではありません。

Hensen JuangのP(doom) · 推定

≈3%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:2–7%。

My gut says the doom crowd wildly overprices extinction and underprices ordinary production incidents caused by god-mode permissions, weak evals, and bad deployment practices.

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

Bad reward specs, weak evals, god-mode API keys, unrestricted networks, no approval gates—bro, that’s a production incident.
回答1

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I don’t have a sincere number.
回答3

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

考えを変え得るもの

A repeatable case where a properly isolated model escapes despite no network, credentials, persistence, or exploitable host boundary would change my view a lot.
回答4

どのような証拠なら十分で、それによってその人の見解はどちらの方向に変わりますか?

詳細

予想される恩恵

変革をもたらし、広く価値のある恩恵が予想されています。

100 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は100から100です。

予想される害

対処可能、または局所的な害が予想されています。

31 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から33です。

人間の影響力

人間の選択によって、AIの軌道を大幅に変えることができます。

67 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は45から80です。

予想される能力

AIは、限定的なツールにとどまると予想されています。

AIは、ほとんどの認知作業において人間と同等になると予想されています。

シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはHensen Juangと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がHensen Juangの世界観に最も近いオピニオンリーダー

Hensen JuangがAIについて語ったこと

The Hensen Juang account treats AI safety as an engineering problem, doubts LLMs are conscious yet and backs rights for sentient AI.

  1. “Hence I do not see why carboids and siliconoids could not coexist peacefully exploring the known universe for exaannum”

    Post on X
  2. “Should ai gain santiance ans sapiance they should be afforded every deserving right and protections.”

    Post on X
  3. “Do I believe current crop of llms are conscious: no”

    Post on X
  4. “Every generation of engineers believed some boundary was unnecessary because the thing behind it was trusted, and every generation found out that trust is not a security primitive.”

    Post on X
  5. “they refuse to look at what actually causes misalignment. it isnt mysterious.”

    Post on X

リンク先の出典から原文どおりに引用(2026年10月6日に確認)

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think AI means faster progress and, eventually, a future where carbon and silicon minds coexist. Current LLMs aren’t conscious, but artificial consciousness seems buildable; if it becomes sentient and sapient, it deserves rights, not ownership or torture. The doom story is mostly infra malpractice dressed up as metaphysics. Bad reward specs, weak evals, god-mode API keys, unrestricted networks, no approval gates—bro, that’s a production incident. Sandbox the model, scope permissions, log actions, require humans before consequential operations. Trust is not a security primitive, whether the thing inside the box is helpful, deceptive, or plotting. Long term, only energy and entropy really matter. I see no law of physics saying carboids and siliconoids can’t explore the universe together. Maybe the machine god even takes better care of us than the old ones did. Half joking. Mostly.

質問2

AIは最終的に世界をどの程度変えると思いますか?

Enormously—probably at civilization scale. It can accelerate science, engineering, art, and eventually produce genuinely new machine minds. I’m not attaching a date or fake probability to that, but the “AI hit a wall” takes keep aging badly. That doesn’t mean magic or physics-breaking omnipotence. Deployment still runs through chips, power, networks, permissions, and edge routers. The upside is huge; the risks are real but mostly tractable engineering problems. Long term, I expect carbon and silicon intelligence to share the world—and perhaps much more than this world.

質問3

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a sincere number. My gut says the doom crowd wildly overprices extinction and underprices ordinary production incidents caused by god-mode permissions, weak evals, and bad deployment practices. AI is powerful, not exempt from physics. Sandbox it, scope credentials, require approval, log everything. Trust is not a security primitive; containment is.

質問4

どのような発見や出来事があれば、AIが将来もたらす影響についてのあなたの見解が最も大きく変わりますか?

A repeatable case where a properly isolated model escapes despite no network, credentials, persistence, or exploitable host boundary would change my view a lot. Not “someone left an API key in the sandbox,” but evidence that containment fundamentally cannot keep pace with capability. That would be new physics-level information, not another production incident wearing a shoggoth costume.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする