Charles Goddard

Charles Goddard

x.com/chargoddard

Machine learning researcher behind the open-source model-merging toolkit MergeKit who argues open tools help researchers build on each other’s work.

Como a IA mudará o mundo?

Mudança civilizacionalMudança gradualDoomBloom
Centro do intervalo não resolvidoIntervalo de interpretação

Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.

Doom–Bloom: 63 de 100. Escala da transformação: 50 de 100. Intervalos de interpretação: 49 a 76 na horizontal, 0 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.

P(doom) de Charles Goddard

Ainda não estimado

Não há informações suficientes sobre risco catastrófico nas respostas simuladas dessa pessoa para estimá-lo.

Como estimamos P(doom)

Do que a perspectiva dessa pessoa depende

Uma premissa central

What I do expect is that practical choices about openness, evaluation, deployment cost, and reproducibility will shape who can benefit.
Resposta 2

Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?

Uma questão não resolvida

I don’t have a defensible single forecast for AI’s overall societal impact.
Resposta 2

O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?

Mais detalhes

Benefícios esperados

Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.

62 / 100

Pouco impactoImpacto transformador

Intervalo de interpretação de 33 a 67 na escala qualitativa.

Influência humana

As escolhas humanas têm uma influência significativa, mas substancialmente limitada.

53 / 100

Pouca influênciaForte influência

Intervalo de interpretação de 36 a 89 na escala qualitativa.

Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.

Onde você se situa em relação a Charles Goddard?
Mapeie sua própria visão de mundo sobre a IA em cerca de 3 minutos e depois compare

Visões de mundo semelhantes

Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Charles Goddard

Fontes

Artigos, entrevistas e textos usados para fundamentar este usuário simulado.

Avaliação simulada

Pergunta 1

O que você acha que a IA significa para o nosso futuro — e por quê?

I think AI can make useful capabilities cheaper, smaller, and more widely accessible—especially when we reuse what models have already learned rather than retraining everything from scratch. Model merging is one practical example: it can combine complementary abilities while keeping deployment costs manageable, though the result is not automatically better. We have to test what each merge preserves, weakens, or unexpectedly changes. Open tooling is also important for the future because it lets many researchers build on one another’s experiments instead of concentrating progress inside a few corporate labs. That can accelerate discovery and make AI knowledge useful beyond corporate firewalls. The engineering trade-offs still matter. A straightforward merge may be practical on modest hardware, while searching for an optimal combination can require substantial GPU resources. So I see the future less as one inevitable outcome and more as a process of turning emerging techniques into reproducible tools, measuring their limitations, and making the cost-versus-capability choices explicit.

Pergunta 2

Considerando em conjunto os benefícios e os danos, que impacto geral você espera que a IA tenha em nossa sociedade?

I don’t have a defensible single forecast for AI’s overall societal impact. My focus is narrower: open tools and model merging can lower costs, broaden access, and let researchers compound one another’s work, but those benefits are not automatic. Models can lose or distort capabilities during merging, optimization can demand significant hardware, and broader access alone does not determine how systems will be used. What I do expect is that practical choices about openness, evaluation, deployment cost, and reproducibility will shape who can benefit. Making techniques usable outside a few large labs is valuable, provided we test what the resulting models actually preserve and make their trade-offs explicit.

Pergunta 3

Quanto você acha que a IA acabará mudando o mundo?

I expect AI to change how capabilities are built, shared, and deployed, but I can’t responsibly quantify the ultimate scale of that change. In my area, the shift could be substantial: instead of retraining every model from scratch, researchers can reuse and combine learned abilities, potentially producing smaller, cheaper systems tailored to particular needs. Open tooling amplifies that effect because many people can test, modify, and compound discoveries rather than waiting on a handful of large labs. But technical possibility is not the same as societal outcome. Merges can weaken capabilities, evaluations can miss regressions, and optimization can still require expensive hardware. So I expect meaningful change, especially in access and deployment economics, while the world-level consequences depend on how well we evaluate these systems and who can practically use them.

Pergunta 4

Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?

I don’t have a defensible numerical estimate for extinction or permanent catastrophe. My work on model merging establishes practical benefits and technical trade-offs—capability reuse, deployment cost, evaluation, and hardware requirements—but it does not give me a sound basis for forecasting existential risk. I would not turn that narrower engineering experience into a percentage.

Pergunta 5

Você tende a achar que a IA fará mais bem do que mal ou está realmente em dúvida?

I lean toward the practical benefits of open tools and capability reuse, but I don’t have a supported overall judgment that AI will do more good than bad across society. Those are different claims. Making models smaller, cheaper, and easier for researchers to build on is valuable; it still does not determine how AI will be deployed or what its net social consequences will be. So I’m optimistic about the engineering opportunities, while genuinely unwilling to convert that into a broad societal verdict.
Onde você se situa?
Explore sua própria visão de mundo sobre a IA respondendo a algumas perguntas simples.
Mapeie sua própria visão de mundo

Onde você se situa?

Mapear minha visão de mundo