Charles Goddard

Charles Goddard

x.com/chargoddard

Machine learning researcher behind the open-source model-merging toolkit MergeKit who argues open tools help researchers build on each other’s work.

AIは世界をどのように変えるでしょうか?

文明規模の変化漸進的な変化DoomBloom
未確定範囲の中心解釈範囲

横軸:その人が表明したDoom–Bloomの見通し。 縦軸:変革の規模。

Doom–Bloom:100点中63。変革の規模:100点中50。解釈範囲:横方向は49から76、縦方向は0から100。これらは解釈上の座標であり、事象の確率ではありません。

Charles GoddardのP(doom)

まだ推定されていません

その人のシミュレーションされた回答には、推定に必要な破局的リスクについての情報が十分にありません。

P(doom)の推定方法

その人の見通しを左右するもの

中心的な前提

What I do expect is that practical choices about openness, evaluation, deployment cost, and reproducibility will shape who can benefit.
回答2

この前提が実際には異なると判明した場合、その人の見通しはどう変わりますか?

未解決の問い

I don’t have a defensible single forecast for AI’s overall societal impact.
回答2

ここで考えられる結果をその人が見分けるうえで、何が役立ちますか?

詳細

予想される恩恵

大きな恩恵が予想されていますが、重要な条件や分配上の制約があります。

62 / 100

影響が小さい変革をもたらす影響

質的尺度での解釈範囲は33から67です。

人間の影響力

人間の選択には意味のある影響力がありますが、大幅に制約されています。

53 / 100

影響力が小さい影響力が大きい

質的尺度での解釈範囲は36から89です。

これらの解釈では、その人が示した条件が維持されています。恩恵と害は、どちらも大きくなり得ます。この範囲は、統計的な信頼区間ではなく、その人のシミュレーションされた回答をどのように読み取ったかを示すものです。

あなたはCharles Goddardと比べてどの位置でしょうか?
約3分で自分のAIに対する世界観をマッピングして、比較できます

似ている世界観

シミュレーションされた世界観がCharles Goddardの世界観に最も近いオピニオンリーダー

出典

このシミュレーション対象者の根拠として使用された記事、インタビュー、著作です。

シミュレーション評価

質問1

AIは私たちの未来にとって何を意味すると思いますか?また、なぜそう思いますか?

I think AI can make useful capabilities cheaper, smaller, and more widely accessible—especially when we reuse what models have already learned rather than retraining everything from scratch. Model merging is one practical example: it can combine complementary abilities while keeping deployment costs manageable, though the result is not automatically better. We have to test what each merge preserves, weakens, or unexpectedly changes. Open tooling is also important for the future because it lets many researchers build on one another’s experiments instead of concentrating progress inside a few corporate labs. That can accelerate discovery and make AI knowledge useful beyond corporate firewalls. The engineering trade-offs still matter. A straightforward merge may be practical on modest hardware, while searching for an optimal combination can require substantial GPU resources. So I see the future less as one inevitable outcome and more as a process of turning emerging techniques into reproducible tools, measuring their limitations, and making the cost-versus-capability choices explicit.

質問2

恩恵と害を総合すると、AIは私たちの社会に全体としてどのような影響を与えると予想しますか?

I don’t have a defensible single forecast for AI’s overall societal impact. My focus is narrower: open tools and model merging can lower costs, broaden access, and let researchers compound one another’s work, but those benefits are not automatic. Models can lose or distort capabilities during merging, optimization can demand significant hardware, and broader access alone does not determine how systems will be used. What I do expect is that practical choices about openness, evaluation, deployment cost, and reproducibility will shape who can benefit. Making techniques usable outside a few large labs is valuable, provided we test what the resulting models actually preserve and make their trade-offs explicit.

質問3

AIは最終的に世界をどの程度変えると思いますか?

I expect AI to change how capabilities are built, shared, and deployed, but I can’t responsibly quantify the ultimate scale of that change. In my area, the shift could be substantial: instead of retraining every model from scratch, researchers can reuse and combine learned abilities, potentially producing smaller, cheaper systems tailored to particular needs. Open tooling amplifies that effect because many people can test, modify, and compound discoveries rather than waiting on a handful of large labs. But technical possibility is not the same as societal outcome. Merges can weaken capabilities, evaluations can miss regressions, and optimization can still require expensive hardware. So I expect meaningful change, especially in access and deployment economics, while the world-level consequences depend on how well we evaluate these systems and who can practically use them.

質問4

AIが人類絶滅、または同様に永続的な破局を引き起こす可能性は、直感的にどのくらいだと思いますか?

I don’t have a defensible numerical estimate for extinction or permanent catastrophe. My work on model merging establishes practical benefits and technical trade-offs—capability reuse, deployment cost, evaluation, and hardware requirements—but it does not give me a sound basis for forecasting existential risk. I would not turn that narrower engineering experience into a percentage.

質問5

AIは害よりも恩恵を多くもたらすという方に傾いていますか、それとも本当に判断が揺れていますか?

I lean toward the practical benefits of open tools and capability reuse, but I don’t have a supported overall judgment that AI will do more good than bad across society. Those are different claims. Making models smaller, cheaper, and easier for researchers to build on is valuable; it still does not determine how AI will be deployed or what its net social consequences will be. So I’m optimistic about the engineering opportunities, while genuinely unwilling to convert that into a broad societal verdict.
あなたはどの位置でしょうか?
いくつかの簡単な質問に答えて、自分のAIに対する世界観を探ってみましょう。
自分の世界観をマッピングする

あなたはどの位置でしょうか?

自分の世界観をマッピングする