Geoffrey Huntley

Geoffrey Huntley

x.com/geoffreyhuntley

Software engineer who created the Ralph loop technique for coding agents and argues that verifying real production behavior remains unsolved.

Comment l’IA changera-t-elle le monde ?

Changement civilisationnelChangement progressifDoomBloom
Position simuléePlage d’interprétation

Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.

Doom–Bloom : 69 sur 100. Ampleur de la transformation : 66 sur 100. Plages d’interprétation : de 64 à 75 horizontalement, de 50 à 75 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.

P(doom) de Geoffrey Huntley · inféré

≈3%

0%100%

Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 2–8%.

Comment nous estimons P(doom)

Ce dont dépend leur perspective

Une hypothèse centrale

The bottleneck moves from typing code to building feedback that exposes failure and prevents the same failure from recurring.
Réponse 1

Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?

Une question non résolue

I don’t have a defensible percentage.
Réponse 3

Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?

Plus de détails

Bénéfices attendus

Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.

73 / 100

Faible impactImpact transformateur

Plage d’interprétation de 67 à 100 sur l’échelle qualitative.

Dommages attendus

Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.

55 / 100

Faible impactImpact transformateur

Plage d’interprétation de 33 à 67 sur l’échelle qualitative.

Influence humaine

Les choix humains peuvent réorienter considérablement la trajectoire de l’IA.

64 / 100

Faible influenceForte influence

Plage d’interprétation de 49 à 76 sur l’échelle qualitative.

Rythme de développement

Arrêter ou ralentir considérablement le développement d’IA plus performantes.

Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.

Accélérer le développement d’IA plus performantes.

Règles d’utilisation de l’IA

Restreindre les usages de l’IA évoqués jusqu’à la mise en place préalable de mesures de protection ou d’une autorisation.

Position simulée : Autoriser les usages de l’IA évoqués avec des mesures ciblées de responsabilisation et de protection.

Réduire au minimum les restrictions sur les usages de l’IA évoqués.

Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.

Où vous situez-vous par rapport à Geoffrey Huntley ?
Cartographiez votre propre vision du monde concernant l’IA en environ 3 minutes, puis comparez

Visions du monde similaires

Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Geoffrey Huntley

Sources

Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.

Évaluation simulée

Question 1

Selon vous, que signifie l’IA pour notre avenir, et pourquoi ?

I think AI turns software engineering into the design of programmable improvement loops. Generation is effectively solved: the cost of exploring an idea, combining approaches, and producing candidate implementations has collapsed. That does not mean every experiment should ship. The bottleneck moves from typing code to building feedback that exposes failure and prevents the same failure from recurring. The practical future is not one giant autonomous agent improvising an entire business. It is model-driven loops combined deliberately with deterministic workflow stages: one clear task per loop, constrained environments, observable outcomes, and hard gates where determinism matters. Engineers remain responsible for verification. Tests, proofs, and actual production behavior are different things, and production correctness remains the unsolved part. Organizationally, this should let far more people contribute ideas and software instead of waiting behind traditional gatekeepers. But today’s scaffolding is temporary. Instructions and “skills” built around current model weaknesses need regular revalidation; standardizing them too early risks fossilizing obsolete workarounds. There is also a strategic issue. If a company hands its operational capability to a remote AI provider, it is accepting dependency on infrastructure that can change terms or disappear—including under sanctions or conflict. I expect local, open, reproducible models to matter for that reason. The future is cheaper exploration and broader participation, but only if we build strong verification loops and retain control of the machinery.

Question 2

Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?

Enormously. It changes the economics of turning ideas into software: generation becomes cheap and abundant, while verification, production correctness, and operational control become the scarce parts. That will reshape engineering roles, organizational boundaries, and who gets to contribute—not merely make existing programmers faster. But the depth of change depends on how we build around it. A giant improvising agent is not a software factory. The durable pattern is repeated model loops connected to deterministic stages, with failures feeding improvements back into the system. Organizations that learn to construct those loops will compound capability; those that merely bolt chat onto existing processes will get much less. It may also rearrange strategic power. If essential operations depend on a provider that can alter access or be cut off during sanctions or conflict, AI infrastructure becomes geopolitical leverage. Local, open, reproducible models therefore matter beyond cost or ideology. AI will change the world at the level of production and institutional power, but generating more artifacts is the easy part. Proving they work in the real world remains the hard part.

Question 3

Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?

I don’t have a defensible percentage. My concrete concern is nearer-term permanent dependency and systemic failure: organizations handing critical operations to opaque providers, weak verification being mistaken for production correctness, and access becoming geopolitical leverage. Cheap generation increases the volume of systems we can build—and therefore the number of failures we must detect. That is serious, but it does not justify inventing an extinction probability. The actionable response is to build constrained loops, deterministic gates, strong production verification, and local, reproducible capability where strategic autonomy matters.

Question 4

Quand, si cela arrive un jour, pensez-vous que l’IA apportera des changements majeurs à la vie quotidienne ?

It is already beginning, but major everyday change arrives as organizations rebuild workflows around AI rather than merely adding chat interfaces. The key transition is when cheap generation becomes embedded in reliable loops: people describe an idea, systems produce candidate work, deterministic stages check what can be checked, and observed failures improve the next run. That will reduce gatekeeping around who can create software and contribute operational ideas. More people will be able to turn intent into working artifacts without waiting for a specialist to translate every step. But adoption will be uneven because production verification remains hard. Generating something plausible is immediate; proving it behaves correctly under real conditions is not. So I would not name a defensible year. Expect compounding change wherever feedback is fast and consequences are easy to verify, and slower change in domains where failures are costly or production behavior is difficult to observe. The visible breakthrough is not a magical autonomous agent. It is thousands of constrained, improving loops quietly becoming ordinary infrastructure.
Où vous situez-vous ?
Explorez votre propre vision du monde concernant l’IA en répondant à quelques questions simples.
Cartographiez votre propre vision du monde

Où vous situez-vous ?

Cartographier ma vision du monde