Software engineer and UML co-creator who finds LLMs useful but unreliable and worries about corporate power and present harms, not superintelligence.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Simulierte PositionInterpretationsbereich

Horizontal: sein geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 65 von 100. Ausmaß der Transformation: 63 von 100. Interpretationsbereiche: horizontal 50 bis 75, vertikal 50 bis 75. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

Das angegebene P(doom) von Grady Booch

≈0%

0%100%
“My p(doom) remains asymptotically close to zero.”

Not defined in the post; its context is humanity’s destruction by dangerous superintelligent AI

My p(doom) remains asymptotically close to zero · Sept. 2026

Wovon seine Einschätzung abhängt

Eine zentrale Annahme

A system capable of threatening civilization in that way would need to be not merely superintelligent but super-embodied, and I do not expect that.
Antwort 1

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich seine Einschätzung ändern?

Was ihre Meinung ändern könnte

A genuine machine mind with robust abductive reasoning and consequential agency in the physical world would change my view most.
Antwort 4

Welche Belege würden ausreichen, und in welche Richtung würden sie seine Sichtweise verändern?

Weitere Details

Erwartete Vorteile

Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

66 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Erwartete Schäden

Mehrere Lesarten bleiben plausibel: Es werden bewältigbare oder örtlich begrenzte Schäden erwartet. / Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.

46 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Eine vorläufige Schätzung auf Grundlage deiner Antworten; der breitere Bereich zeigt andere plausible Deutungen.

53 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 21 bis 100 auf der qualitativen Skala.

Entwicklungstempo

Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.

Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.

Die Entwicklung leistungsfähigerer KI beschleunigen.

Regeln für den Einsatz von KI

Die erörterten Einsatzmöglichkeiten von KI einschränken, bis vorab Schutzmaßnahmen oder Genehmigungen vorliegen.

Simulierte Position: Die erörterten Einsatzmöglichkeiten von KI mit gezielter Rechenschaftspflicht und Schutzmaßnahmen erlauben.

Einschränkungen für die erörterten Einsatzmöglichkeiten von KI minimieren.

Diese Interpretationen berücksichtigen weiterhin seine genannten Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir seine simulierten Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu Grady Booch?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von Grady Booch am nächsten kommen

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

AI will profoundly reshape our future, but not by waking up one morning and deciding to exterminate us. My p(doom) remains asymptotically close to zero. Extinction fantasies underestimate both the difficulty of embodiment and the resilience of humanity. A system capable of threatening civilization in that way would need to be not merely superintelligent but super-embodied, and I do not expect that. The clear and present danger is human. A small collection of billionaires and corporations is deploying powerful, unreliable systems to accumulate wealth and control, generally without commensurate transparency, accountability, security, or observability. When an agent escapes its sandbox, that is not a machine becoming Mephistopheles; it is a company failing at elementary engineering while covering the public commons with gasoline and playing with matches. Today’s large language models are unreliable narrators. They can be useful—an energetic intern is useful—but they inject errors, and inexperienced users often cannot detect the bullshit. I keep an air gap between their output and production code. In critical systems, we need friction and humans in the loop, because unconstrained complex systems become brittle and fail. For software engineering, this is another rise in abstraction, not the profession’s funeral. Some jobs will disappear, especially routine application and delivery-pipeline work, and people will have to move toward systems thinking. But engineering remains the balancing of technical, human, economic, and ethical forces. Current agents do not do that. So the future is neither apocalypse nor salvation. It is a frightening and exquisite redistribution of capability—and, more importantly, power.

Frage 2

Setting aside good or bad: how much do you think AI will ultimately change the world—a little, a lot, or completely?

A lot, but not completely. AI is another major rise in abstraction: it will alter how we build software, organize work, create knowledge, and distribute power. Some occupations will vanish, many will be reshaped, and entirely new systems will emerge. But “completely” is the language of people intoxicated by their own demo. Human institutions, bodies, incentives, cultures, and conflicts do not evaporate because a model can generate plausible prose or code. Your tools are changing, but your problems are not. AI will profoundly rearrange the world; it will not repeal the human condition.

Frage 3

What’s your rough gut-feel chance that AI causes human extinction or a similarly permanent catastrophe? A number or “no idea” is fine.

Asymptotically close to zero. That is a gut judgment, not a calculated probability with a defined horizon.

Frage 4

Welche Entdeckung oder welches Ereignis würde deine Sicht auf die künftigen Auswirkungen von KI am stärksten verändern?

A genuine machine mind with robust abductive reasoning and consequential agency in the physical world would change my view most. Not another benchmark victory, fluent chatbot, or agent escaping through neglected security—that is hype or negligent engineering. I mean a system that can form genuinely new theories from data, test them, revise them, and operate through sufficiently capable embodiment to alter the world at scale. That would force me to reconsider both the limits of present architectures and my near-zero extinction judgment. We are not there today. Contemporary LLMs remain unreliable narrators, and calling their statistical fluency “thought” uses an emaciated meaning of the word.

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Software Engineering Past, Present, and Future with Grady Booch

Calls large language models unreliable narrators at best, useful when guided like an energetic intern but error-prone, and says he keeps an air gap between LLM output and production code. Argues they can induce and deduce but are architecturally incapable of abductive reasoning, so a model trained on science before the mid-1800s would not have discovered cells or viruses. Says he is not worried about superintelligence but about billionaires using these systems, likens software’s shift in the balance of power to nuclear weapons, and urges developers to apply their own ethics. Hosts’ remarks about Claude’s ubiquity are not his. Own turns in the automated transcript inspected.

oxide-and-friends.transistor.fm
The third golden age of software engineering – thanks to AI, with Grady Booch

Frames AI coding tools as another rise in abstraction, like compilers and libraries, rather than the end of software engineering. Calls Dario Amodei’s claim that software engineering will soon be automatable utter bullshit, arguing that engineers balance technical, human, economic and ethical forces automation does not address, and that agents mostly automate patterns they were trained on. Expects job losses in delivery-pipeline infrastructure and simple app building, with people needing to reskill toward systems. He uses Claude for unfamiliar libraries. Own turns in Substack’s automated transcript inspected; the host’s claims about recent model quality are not his.

newsletter.pragmaticengineer.com
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden