Ellie Huxtable

Ellie Huxtable

x.com/ellie_huxtable

Software engineer behind the open-source shell tool Atuin who now finds AI coding agents useful and favors strong user privacy and sandboxed agents.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Centre de la plage non résoluePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 64 sur 100. Ampleur de la transformation : 50 sur 100. Plages d’interprétation : de 40 à 85 horizontalement, de 0 à 100 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de Ellie Huxtable

Pas encore estimé

Leurs réponses simulées ne contiennent pas assez d’éléments sur le risque catastrophique pour permettre de l’estimer.

Comment nous estimons P(doom)

Ce dont dépend leur perspective

Une hypothèse centrale

Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize.
Réponse 1

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Une question non résolue

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans.
Réponse 4

Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?

Plus de détails

Bénéfices attendus

Plusieurs interprétations restent plausibles : Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition. / Des bénéfices limités ou répartis de manière restreinte sont attendus.

52 / 100

Faible impactImpact transformateur

Plage d’interprétation de 33 à 67 sur l’échelle qualitative.

Dommages attendus

Des dommages gérables ou localisés sont attendus.

30 / 100

Faible impactImpact transformateur

Plage d’interprétation de 0 à 33 sur l’échelle qualitative.

Influence humaine

Vous n’avez pas encore arrêté votre position sur ce point. Le point indique le centre de la plage ouverte, et non une opinion modérée.

50 / 100

Faible influenceForte influence

Plage d’interprétation de 0 à 100 sur l’échelle qualitative.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à Ellie Huxtable ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Ellie Huxtable

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

I’m much more optimistic about AI-assisted programming than I used to be. With better models and tools, the productivity gain is real, and agents can now write effective software. The useful workflow is not just asking for code: agents need access to compiler errors, test output, and other feedback so they can inspect failures and iterate directly. That does not remove the need for engineering discipline. Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize. Review still matters, and unattended agents should run inside isolated virtual machines rather than directly on a sensitive host. Terminal data can include commands, paths, secrets, and operational context, so privacy should not depend on a company merely promising restraint. I prefer cryptographic protection, explicit permission before sharing more machine context, and options for self-hosting or local models. AI features should be optional, and dangerous commands need additional checks and confirmation. Beyond developer productivity, privacy, and operational safety, I don’t have a well-founded general forecast for “our future.” These tools already matter in practical software work, but that alone does not justify a confident prediction about AGI, extinction, or society as a whole.

Question 2

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

I don’t have a defensible percentage. My experience with AI is about developer productivity, privacy, and safely operating coding agents; it doesn’t give me a sound basis for estimating human extinction or permanent global catastrophe. I’d rather not turn a gut feeling into a fake quantitative forecast.

Question 3

Comment pensez-vous que les personnes et les institutions qui développent l’IA réagiront à ses risques ?

I can speak more concretely about how I think developers should respond than predict how the whole industry or governments will behave. In products touching terminals and developer machines, risk controls should be structural: encrypted user data, explicit permission before exposing additional context, opt-in AI features, self-hosting or local-model support, and confirmation around dangerous commands. Unattended agents should run in isolated VMs, with access to the feedback they need but not unrestricted access to the host. I also do not think promises are enough, especially for sensitive data. Cryptographic protection and user-controlled deployment provide stronger guarantees than statements about what a service intends to do. For generated software, strong language guarantees, tests, and human review still matter. I don’t have a well-founded forecast for how AI institutions generally will respond to larger societal or catastrophic risks. My views on practical developer-tool safeguards do not establish a broader prediction about industry governance or regulation.

Question 4

Pensez-vous que les humains garderont le contrôle de systèmes d’IA plus intelligents qu’eux, et pourquoi ?

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans. My practical experience is with current coding agents, where control comes from limiting permissions, isolating execution in VMs, requiring confirmation for dangerous commands, and keeping humans in the review loop. Those measures are useful now, but I would not pretend they answer the much larger question. A system being better than a person at software tasks does not automatically make it uncontrollable, and current operational safeguards do not prove that much more capable systems would remain controllable either.
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde