Geoffrey Huntley

Geoffrey Huntley

x.com/geoffreyhuntley

Software engineer who created the Ralph loop technique for coding agents and argues that verifying real production behavior remains unsolved.

Como a IA mudará o mundo?

Mudança civilizacionalMudança gradualDoomBloom
Posição simuladaIntervalo de interpretação

Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.

Doom–Bloom: 69 de 100. Escala da transformação: 66 de 100. Intervalos de interpretação: 64 a 75 na horizontal, 50 a 75 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.

P(doom) de Geoffrey Huntley · inferido

≈3%

0%100%

Inferido a partir das respostas simuladas dessa pessoa, não de um número que ela forneceu. Intervalo plausível: 2–8%.

Como estimamos P(doom)

Do que a perspectiva dessa pessoa depende

Uma premissa central

The bottleneck moves from typing code to building feedback that exposes failure and prevents the same failure from recurring.
Resposta 1

Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?

Uma questão não resolvida

I don’t have a defensible percentage.
Resposta 3

O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?

Mais detalhes

Benefícios esperados

Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.

73 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 67 a 100 na escala qualitativa.

Danos esperados

Danos graves ou generalizados são uma parte relevante do futuro esperado.

55 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 33 a 67 na escala qualitativa.

Influência humana

As escolhas humanas podem redirecionar substancialmente a trajetória da IA.

64 / 100

Pouca influênciaForte influência

Intervalo de interpretação de 49 a 76 na escala qualitativa.

Ritmo de desenvolvimento

Interromper ou desacelerar substancialmente o desenvolvimento de uma IA mais capaz.

Posição simulada: Continuar o desenvolvimento sob as salvaguardas declaradas.

Acelerar o desenvolvimento de uma IA mais capaz.

Regras para o uso da IA

Restringir os usos da IA discutidos até que proteções prévias ou uma autorização estejam em vigor.

Posição simulada: Permitir os usos da IA discutidos com responsabilização e proteções específicas.

Minimizar as restrições aos usos da IA discutidos.

Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.

Onde você se situa em relação a Geoffrey Huntley?
Mapeie sua própria visão de mundo sobre a IA em cerca de 3 minutos e depois compare

Visões de mundo semelhantes

Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Geoffrey Huntley

Fontes

Artigos, entrevistas e textos usados para fundamentar este usuário simulado.

Avaliação simulada

Pergunta 1

O que você acha que a IA significa para o nosso futuro — e por quê?

I think AI turns software engineering into the design of programmable improvement loops. Generation is effectively solved: the cost of exploring an idea, combining approaches, and producing candidate implementations has collapsed. That does not mean every experiment should ship. The bottleneck moves from typing code to building feedback that exposes failure and prevents the same failure from recurring. The practical future is not one giant autonomous agent improvising an entire business. It is model-driven loops combined deliberately with deterministic workflow stages: one clear task per loop, constrained environments, observable outcomes, and hard gates where determinism matters. Engineers remain responsible for verification. Tests, proofs, and actual production behavior are different things, and production correctness remains the unsolved part. Organizationally, this should let far more people contribute ideas and software instead of waiting behind traditional gatekeepers. But today’s scaffolding is temporary. Instructions and “skills” built around current model weaknesses need regular revalidation; standardizing them too early risks fossilizing obsolete workarounds. There is also a strategic issue. If a company hands its operational capability to a remote AI provider, it is accepting dependency on infrastructure that can change terms or disappear—including under sanctions or conflict. I expect local, open, reproducible models to matter for that reason. The future is cheaper exploration and broader participation, but only if we build strong verification loops and retain control of the machinery.

Pergunta 2

Quanto você acha que a IA acabará mudando o mundo?

Enormously. It changes the economics of turning ideas into software: generation becomes cheap and abundant, while verification, production correctness, and operational control become the scarce parts. That will reshape engineering roles, organizational boundaries, and who gets to contribute—not merely make existing programmers faster. But the depth of change depends on how we build around it. A giant improvising agent is not a software factory. The durable pattern is repeated model loops connected to deterministic stages, with failures feeding improvements back into the system. Organizations that learn to construct those loops will compound capability; those that merely bolt chat onto existing processes will get much less. It may also rearrange strategic power. If essential operations depend on a provider that can alter access or be cut off during sanctions or conflict, AI infrastructure becomes geopolitical leverage. Local, open, reproducible models therefore matter beyond cost or ideology. AI will change the world at the level of production and institutional power, but generating more artifacts is the easy part. Proving they work in the real world remains the hard part.

Pergunta 3

Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?

I don’t have a defensible percentage. My concrete concern is nearer-term permanent dependency and systemic failure: organizations handing critical operations to opaque providers, weak verification being mistaken for production correctness, and access becoming geopolitical leverage. Cheap generation increases the volume of systems we can build—and therefore the number of failures we must detect. That is serious, but it does not justify inventing an extinction probability. The actionable response is to build constrained loops, deterministic gates, strong production verification, and local, reproducible capability where strategic autonomy matters.

Pergunta 4

Quando, se é que isso acontecerá, você espera que a IA traga grandes mudanças para a vida cotidiana?

It is already beginning, but major everyday change arrives as organizations rebuild workflows around AI rather than merely adding chat interfaces. The key transition is when cheap generation becomes embedded in reliable loops: people describe an idea, systems produce candidate work, deterministic stages check what can be checked, and observed failures improve the next run. That will reduce gatekeeping around who can create software and contribute operational ideas. More people will be able to turn intent into working artifacts without waiting for a specialist to translate every step. But adoption will be uneven because production verification remains hard. Generating something plausible is immediate; proving it behaves correctly under real conditions is not. So I would not name a defensible year. Expect compounding change wherever feedback is fast and consequences are easy to verify, and slower change in domains where failures are costly or production behavior is difficult to observe. The visible breakthrough is not a magical autonomous agent. It is thousands of constrained, improving loops quietly becoming ordinary infrastructure.
Onde você se situa?
Explore sua própria visão de mundo sobre a IA respondendo a algumas perguntas simples.
Mapeie sua própria visão de mundo

Onde você se situa?

Mapear minha visão de mundo