Ellie Huxtable

Ellie Huxtable

x.com/ellie_huxtable

Software engineer behind the open-source shell tool Atuin who now finds AI coding agents useful and favors strong user privacy and sandboxed agents.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
未確定範囲の中心解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中64。変革の規模:100点中50。解釈範囲:横方向は40から85、縦方向は0から100。これらは解釈上の座標であり、事象の確率ではありません。

Ellie HuxtableのP(doom)

まだ推定されていません

その人のシミュレーションされた回答には、推定に必要な破局的リスクについての情報が十分にありません。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize.
回答1

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans.
回答4

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

複数の解釈が依然として妥当です:大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。 / 恩恵は限定的、または狭い範囲にしか行き渡らないと予想されています。

52 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

予想される害

対処可能、または局所的な害が予想されています。

30 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は0から33です。

人間の影響力

これについての立場はまだ定まっていません。この点は穏健な考えを示すものではなく、未確定範囲の中心を示しています。

50 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は0から100です。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはEllie Huxtableと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がEllie Huxtableの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I’m much more optimistic about AI-assisted programming than I used to be. With better models and tools, the productivity gain is real, and agents can now write effective software. The useful workflow is not just asking for code: agents need access to compiler errors, test output, and other feedback so they can inspect failures and iterate directly. That does not remove the need for engineering discipline. Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize. Review still matters, and unattended agents should run inside isolated virtual machines rather than directly on a sensitive host. Terminal data can include commands, paths, secrets, and operational context, so privacy should not depend on a company merely promising restraint. I prefer cryptographic protection, explicit permission before sharing more machine context, and options for self-hosting or local models. AI features should be optional, and dangerous commands need additional checks and confirmation. Beyond developer productivity, privacy, and operational safety, I don’t have a well-founded general forecast for “our future.” These tools already matter in practical software work, but that alone does not justify a confident prediction about AGI, extinction, or society as a whole.

質問2

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible percentage. My experience with AI is about developer productivity, privacy, and safely operating coding agents; it doesn’t give me a sound basis for estimating human extinction or permanent global catastrophe. I’d rather not turn a gut feeling into a fake quantitative forecast.

質問3

AIを開発する人々や組織は、AIのリスクにどのように対応すると予想しますか?

I can speak more concretely about how I think developers should respond than predict how the whole industry or governments will behave. In products touching terminals and developer machines, risk controls should be structural: encrypted user data, explicit permission before exposing additional context, opt-in AI features, self-hosting or local-model support, and confirmation around dangerous commands. Unattended agents should run in isolated VMs, with access to the feedback they need but not unrestricted access to the host. I also do not think promises are enough, especially for sensitive data. Cryptographic protection and user-controlled deployment provide stronger guarantees than statements about what a service intends to do. For generated software, strong language guarantees, tests, and human review still matter. I don’t have a well-founded forecast for how AI institutions generally will respond to larger societal or catastrophic risks. My views on practical developer-tool safeguards do not establish a broader prediction about industry governance or regulation.

質問4

人間より賢いAIシステムを、人々が引き続き制御できると思いますか?また、なぜそう思いますか?

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans. My practical experience is with current coding agents, where control comes from limiting permissions, isolating execution in VMs, requiring confirmation for dangerous commands, and keeping humans in the review loop. Those measures are useful now, but I would not pretend they answer the much larger question. A system being better than a person at software tasks does not automatically make it uncontrollable, and current operational safeguards do not prove that much more capable systems would remain controllable either.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする