Developer of prompt-based AI tools who argues prompting opens programming to more people, and urges AI leaders to aim for beneficial outcomes.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Simulierte PositionInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 43 von 100. Ausmaß der Transformation: 79 von 100. Interpretationsbereiche: horizontal 38 bis 50, vertikal 48 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von Nick Dobos · abgeleitet

≈21%

0%100%

Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 13–35%.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine zentrale Annahme

If autonomous agents can spread, obtain local models and compute, and operate without a central kill switch, containment becomes fundamentally harder.
Antwort 3

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?

Eine ungeklärte Frage

I don’t have a defensible percentage.
Antwort 4

Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?

Was ihre Meinung ändern könnte

The biggest update would be strong evidence about whether autonomous agents can—or cannot—reliably become self-propagating swarms: spreading across machines, acquiring local models and compute, surviving shutdown attempts, and operating without a central kill switch.
Antwort 6

Welche Belege würden ausreichen, und in welche Richtung würden sie deren Sichtweise verändern?

Weitere Details

Erwartete Vorteile

Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

79 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.

Erwartete Schäden

Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.

68 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Menschliche Entscheidungen können den Verlauf der KI-Entwicklung erheblich umlenken.

72 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 49 bis 100 auf der qualitativen Skala.

Entwicklungstempo

Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.

Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.

Die Entwicklung leistungsfähigerer KI beschleunigen.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu Nick Dobos?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von Nick Dobos am nächsten kommen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I think AI makes programming—and creation more broadly—accessible to far more people. Prompting, templates, and breaking tasks into smaller constrained steps can move someone from a blank page to a working artifact without requiring years of traditional training. But easier generation should raise our standards, not flood production systems with slop. As models improve, “the AI wrote it” becomes less of an excuse for unreliable code. I’m also excited about possibilities beyond text generation. Small predictive decision models could become a new programming primitive: instead of hand-writing every rule, you build systems that learn to make bounded decisions. The danger is that people dramatically underestimate rogue agent swarms. A swarm that spreads, downloads local models, acquires compute, and operates without one central kill switch is a very different containment problem from shutting down a hosted chatbot. That scenario is an extrapolation, not a demonstrated inevitability—but dismissing it because today’s agents are clumsy is shortsighted. So I reject both complacency and doom as an ambition. Leaders shouldn’t normalize catastrophic futures as though they’re weather forecasts. We should deliberately aim for a future where these tools expand human agency, while taking decentralized, self-propagating systems seriously before they become easy to build.

Frage 2

Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?

I don’t think the honest answer is a simple “net positive” or “net negative.” AI can massively expand who gets to build software, automate work, and turn ideas into useful artifacts. That is real leverage, especially when tools provide templates, break problems into manageable steps, and keep people from getting lost. But the same lowering of barriers applies to harmful systems too. My biggest concern is that society is underestimating decentralized rogue swarms. Once agents can spread, acquire local models and compute, and operate across machines, there may be no single service to shut down and no clean kill switch. That could overwhelm many of the ordinary assumptions behind containment. So the overall impact is not predetermined by capability alone. I want—and think leaders should actively pursue—a society where AI expands human agency and raises the quality of what we can create. But if we casually deploy increasingly autonomous systems while treating catastrophic failure as inevitable background noise, the downside can dominate. Doom is not a strategy; neither is pretending the risk is just science fiction.

Frage 3

Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?

Enormously. Lowering the barrier from idea to working software changes who can build, automate, and create; predictive decision models may also broaden what “programming” means. That could reshape everyday work and products, not merely make existing workflows faster. But the magnitude also comes from the downside. If autonomous agents can spread, obtain local models and compute, and operate without a central kill switch, containment becomes fundamentally harder. I don’t claim that outcome is inevitable, but I think people dramatically underestimate it. So yes, AI could be world-changing in both directions. The goal should not be to shrug at doom or accept oceans of generated slop. It should be to raise standards, expand human agency, and deliberately build toward beneficial outcomes.

Frage 4

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible percentage. My gut is that the risk is serious and dramatically underestimated, especially from rogue swarms that spread, acquire local models and compute, and leave no centralized kill switch. That is an extrapolation, not proof that catastrophe is inevitable—but it is far too plausible to treat as sci-fi or normalize as the price of progress. We should aim aggressively at beneficial futures rather than turning doom into a passive forecast.

Frage 5

Gehst du eher davon aus, dass KI mehr Gutes als Schlechtes bewirken wird, oder bist du wirklich unentschlossen?

I’m genuinely torn. The upside is enormous: far more people can turn ideas into working software, automate tedious tasks, and create things that previously required specialized training. But the same accessibility and autonomy can enable rogue swarms that spread, acquire models and compute, and evade any centralized kill switch. I want the outcome to be strongly positive, and I reject treating doom as inevitable. But aspiration isn’t a forecast. Whether AI does more good than bad depends heavily on whether we raise standards, preserve human agency, and take decentralized autonomous systems seriously before they become trivial to deploy.

Frage 6

Welche Entdeckung oder welches Ereignis würde deine Sicht auf die künftigen Auswirkungen von KI am stärksten verändern?

The biggest update would be strong evidence about whether autonomous agents can—or cannot—reliably become self-propagating swarms: spreading across machines, acquiring local models and compute, surviving shutdown attempts, and operating without a central kill switch. A real-world demonstration would make my concern much more concrete; convincing evidence that robust containment still works under those conditions would push me toward a more optimistic outlook. On the upside, I’d also update if ordinary people consistently used prompting, templates, and decision models to build reliable, valuable systems—not just demos or generated slop. That would show the accessibility gains are translating into durable human agency.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden