Julia Galef

Julia Galef

x.com/juliagalef

Author of “The Scout Mindset” who writes about reasoning well and changing one’s mind, and has explored why people disagree about advanced AI.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Mitte des ungeklärten BereichsInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 50 von 100. Ausmaß der Transformation: 50 von 100. Interpretationsbereiche: horizontal 45 bis 55, vertikal 0 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von Julia Galef

Noch nicht geschätzt

Deren simulierte Antworten enthalten nicht genug zum Katastrophenrisiko, um es zu schätzen.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine ungeklärte Frage

I don’t have a confident overall forecast.
Antwort 1

Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?

Weitere Details

Menschlicher Einfluss

Du hast dich hierzu noch nicht festgelegt. Der Punkt markiert die Mitte des offenen Bereichs, nicht eine gemäßigte Überzeugung.

50 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 0 bis 100 auf der qualitativen Skala.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu Julia Galef?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Meinungsführer, die der simulierten Weltsicht von Julia Galef bei den wenigen Positionen, die sie zum Ausdruck bringt, am nächsten stehen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I don’t have a confident overall forecast. The key questions are still how difficult AGI is, how much recent progress should update our expectations, and what models drive disagreement about the consequences of systems that surpass human capabilities. Before jumping to optimism, doom, or a policy conclusion, I’d want to identify the real cruxes. Are people disagreeing about scaling, bottlenecks in reasoning, the feasibility of controlling highly capable systems, or the institutions governing deployment? What observations would change each side’s mind? “AI means progress” and “AI means catastrophe” can both function more like team slogans than forecasts unless we unpack the mechanisms behind them. So my strongest view is methodological: we should treat confidence as something to earn through investigation, calibration, and serious engagement with disagreement. The future could depend enormously on AI, but that importance makes careful reasoning more necessary, not less.

Frage 2

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible numerical estimate. Giving a gut percentage would suggest more calibration than I can justify. I’d first want to resolve—or at least better understand—the main cruxes: how likely broadly superhuman systems are, what capabilities imply about control, and whether institutions can respond before failures become irreversible. The magnitude of the possible harm makes the question important, but it doesn’t by itself determine the probability.

Frage 3

Welche wesentlichen Schäden, wenn überhaupt, wird KI deiner Erwartung nach verursachen?

I don’t have a well-supported forecast of which major harms AI will actually cause. Plausible concerns range from misuse and institutional failures to loss of control over systems that become broadly more capable than humans, but listing scenarios is not the same as assigning them high probability. I’d want to separate several questions: What capabilities are likely to emerge? Who will have access to them? Which failures are reversible, and which could become permanent? How much warning would we get, and could institutions respond in time? The most useful debate would identify where people’s models diverge and what evidence would update them, rather than treating either reassurance or catastrophe as the default conclusion.

Frage 4

Welche wesentlichen Vorteile, wenn überhaupt, werden Menschen deiner Erwartung nach durch KI haben?

AI could plausibly accelerate scientific discovery, improve decision-making, and make valuable expertise more widely available. But those are potential benefits, not a confident forecast about what people will actually receive. I’d want to distinguish capability from distribution and outcomes. A system may become excellent at research, education, or medicine without its gains being broadly shared—or without institutions using it well. The key questions are which tasks AI can reliably perform, how humans and organizations adapt, who controls access, and what evidence would show that apparent progress is translating into durable human welfare. I’m optimistic about the range of possible benefits, but I don’t think that alone justifies a confident overall prediction.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden