Nathan Baschez

Nathan Baschez

x.com/nbaschez

Founder of the Lex writing app, now at Notion, who is broadly optimistic about AI, especially in education, while expecting some harms along the way.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
シミュレーション上の位置解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中80。変革の規模:100点中75。解釈範囲:横方向は75から85、縦方向は70から80。これらは解釈上の座標であり、事象の確率ではありません。

Nathan BaschezのP(doom) · 推定

≈4%

0%100%

本人が示した数値ではなく、シミュレーションされた本人の回答から推定したものです。 妥当と考えられる範囲:2–7%。

I expect serious harms along the way, but I put extinction risk very low.

P(doom)の推定方法

Nathan Baschezのマイルストーンのタイムライン
  1. 人間を超えるAI

    A major reason is that progress toward superintelligence seems more likely to unfold over months than in one invisible instant.

    回答1
  2. 仕事と制度

    But “enormous” doesn’t necessarily mean “instant” or “humans disappear.” I expect the crucial transition to unfold over months, leaving some room for warning incidents and societal intervention.

    回答2

マイルストーン別にまとめており、推定される日付の間隔や順序を反映したものではありません。AGIと超人的AIには、その人の定義がそのまま適用されます。

その人の見通しを左右するもの

中心的な前提

Because the transition to superintelligence is more likely to unfold over months than instantaneously—and because frontier-scale compute is relatively concentrated—I think society would have opportunities to intervene.
回答3

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

詳細

予想される恩恵

変革をもたらし、広く価値のある恩恵が予想されています。

89 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は67から100です。

予想される害

複数の解釈が依然として妥当です:深刻または広範な害が、予想される将来の実質的な一部となっています。 / 対処可能、または局所的な害が予想されています。

50 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

人間の影響力

人間の選択には意味のある影響力がありますが、大幅に制約されています。

54 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は50から75です。

予想される能力

AIは、限定的なツールにとどまると予想されています。

AIは、ほとんどの認知作業において人間と同等になると予想されています。

シミュレーション上の位置:AIは、認知作業全般において人間を大幅に上回ると予想されています。

開発ペース

より高性能なAIの開発を停止するか、大幅に減速させます。

シミュレーション上の位置:明示された安全対策の下で開発を継続します。

より高性能なAIの開発を加速させます。

AI利用のルール

事前の保護措置または許可が整うまで、取り上げられたAIの利用を制限します。

シミュレーション上の位置:対象を絞った説明責任と保護措置を伴う形で、取り上げられたAIの利用を認めます。

取り上げられたAIの利用に対する制限を最小限にします。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはNathan Baschezと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がNathan Baschezの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I’m broadly optimistic about AI, especially as a medium for people and agents to think together. In writing, education, and other knowledge work, the interesting future isn’t simply “AI replaces the person.” It’s new shared environments where people can develop ideas, get useful feedback, and extend their abilities without surrendering judgment. I expect serious harms along the way, but I put extinction risk very low. A major reason is that progress toward superintelligence seems more likely to unfold over months than in one invisible instant. Bad incidents should create warning signals and provoke a forceful social response. Frontier systems also depend on concentrated compute, which gives society more leverage than it would have over a dangerous technology distributed in millions of tiny, uncontrollable objects. The weakest part of that argument is international coordination: one country slowing down does not guarantee that others will. So my optimism is conditional on institutions reacting before catastrophe, and on products being designed around productive human involvement. One practical question is whether agents can be given both the tools and incentives to escalate uncertainty or danger to human overseers rather than bluffing or pressing ahead. I’m excited by the possibilities, but I also want my children to inherit a recognizably human world and family life—not merely one optimized for whatever the technology can do.

質問2

AIは最終的に世界をどの程度変えると思いますか?

Enormously—probably at the level of our basic institutions and how people learn, write, work, and make decisions. If systems become far more capable than humans across most cognitive tasks, the change won’t be confined to a few products; it will reshape the economy and the texture of everyday life. But “enormous” doesn’t necessarily mean “instant” or “humans disappear.” I expect the crucial transition to unfold over months, leaving some room for warning incidents and societal intervention. I’m especially interested in a future where people and agents think together: shared environments that strengthen human judgment rather than merely automate it away. The harder question is how much continuity we preserve. I want the benefits—particularly in education and creative work—while keeping a recognizably human world, including familiar family life. Whether we manage that depends heavily on product design, institutions, and international coordination, with the last of those being the assumption I trust least.

質問3

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

My gut-level assessment is very low, but I wouldn’t attach a precise percentage to it. I expect serious smaller harms and warning incidents before anything extinction-level. Because the transition to superintelligence is more likely to unfold over months than instantaneously—and because frontier-scale compute is relatively concentrated—I think society would have opportunities to intervene. The most fragile part of that view is international coordination. A warning may cause some governments or companies to slow down without producing an adequate global response. So “very low” isn’t “impossible”; it reflects my expectation that visible harm will trigger strong action before a permanent catastrophe.

質問4

望ましいAIの未来において、人々はどのような変化を拒否できるべきですか?

People should be able to refuse changes that erase meaningful human agency or make ordinary life unrecognizable. That includes being forced to delegate judgment to agents, having education become passive machine consumption, or losing access to spaces where humans write, learn, decide, and relate to one another directly. I don’t think a good AI future requires everyone to adopt the maximally automated lifestyle. People should be able to choose tools that support their thinking rather than substitute for it, and agents should escalate important uncertainty to humans instead of quietly making irreversible decisions. Institutions should preserve genuine human oversight, not merely put a ceremonial approval button after an automated process. I’m also protective of continuity in family and community life. My children should be able to inherit a recognizably human world and eventually pass that kind of life on themselves. That doesn’t mean freezing culture or rejecting powerful tools. It means technological capability alone shouldn’t dictate which forms of life must disappear.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする