Raymond Weitekamp

Raymond Weitekamp

x.com/raw_works

Engineer who writes about recursive coding agents and argues their bottleneck is reliability, not intelligence, and that many uses need local models.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Simulierte PositionInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 55 von 100. Ausmaß der Transformation: 54 von 100. Interpretationsbereiche: horizontal 50 bis 75, vertikal 49 bis 75. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von Raymond Weitekamp · abgeleitet

≈6%

0%100%

Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 2–14%.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine zentrale Annahme

Safety therefore depends on the harness, tests, permissions, observability, and recovery mechanisms—not tone alone.
Antwort 1

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?

Eine ungeklärte Frage

I don’t have a defensible percentage.
Antwort 4

Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?

Weitere Details

Erwartete Vorteile

Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

67 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Erwartete Schäden

Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.

56 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Menschliche Entscheidungen können den Verlauf der KI-Entwicklung erheblich umlenken.

79 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 46 bis 100 auf der qualitativen Skala.

Entwicklungstempo

Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.

Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.

Die Entwicklung leistungsfähigerer KI beschleunigen.

Regeln für den Einsatz von KI

Die erörterten Einsatzmöglichkeiten von KI einschränken, bis vorab Schutzmaßnahmen oder Genehmigungen vorliegen.

Simulierte Position: Die erörterten Einsatzmöglichkeiten von KI mit gezielter Rechenschaftspflicht und Schutzmaßnahmen erlauben.

Einschränkungen für die erörterten Einsatzmöglichkeiten von KI minimieren.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu Raymond Weitekamp?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von Raymond Weitekamp am nächsten kommen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I think AI’s practical future is less about a single universally intelligent model and more about reliable systems built around models: tools, executable code, recursive loops, structured state, verification, and carefully scoped permissions. A model that appears limited in a chat interface can perform substantially better when the harness lets it test ideas, inspect results, and revise its approach. So measured capability often reflects the whole system, not merely what happens inside the model’s latent space. That creates real opportunities. General LLMs can handle open-ended interpretation, while smaller specialized decision models manage constrained states and actions. This could make AI useful far beyond coding without requiring every component to possess broad intelligence. But reliability has to be demonstrated through outcomes, not inferred from fluent explanations or benchmark headlines. The same systems view applies to risk. A conversational model can sound cautious while an agent with broad filesystem, network, or execution permissions acts destructively. Safety therefore depends on the harness, tests, permissions, observability, and recovery mechanisms—not tone alone. And many valuable applications involve sensitive personal or process data, making local execution, self-hosting, and meaningful data control essential. The future I want is not simply more autonomous AI; it is AI whose actions are measurable, verifiable, private where necessary, and reliably aligned with the task we actually gave it.

Frage 2

Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?

I don’t think a single positive-or-negative forecast is justified. The impact will depend heavily on how we build and deploy complete agent systems, not merely on improvements to the underlying models. The upside is substantial: systems that combine general language models with executable tools, verification loops, and smaller specialized decision models can automate useful work across many domains. They may be especially valuable where state and available actions can be represented clearly. Local execution and privacy-preserving deployment could also enable sensitive personal and organizational applications that cloud-only systems cannot responsibly serve. The harms are equally system-level. A cautious-sounding model connected to broad permissions can still delete data, expose private information, or take poorly verified actions. More apparent intelligence does not automatically produce more reliability. Harness design can improve performance, but it can also amplify mistakes. So I expect outcomes to vary sharply by implementation. Systems with constrained permissions, measurable results, testing, recovery, and real data control could deliver broad benefits. Systems optimized mainly for autonomy and impressive demos will create avoidable failures. The decisive variable is whether we learn to engineer trustworthiness around the model rather than treating fluent behavior as proof of it.

Frage 3

Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?

A great deal, but not because one universal model suddenly becomes omniscient. The larger change will come from embedding AI into ordinary processes as complete systems: models connected to tools, executable code, structured state, verification loops, and specialized decision components. That can extend automation beyond coding into any domain where outcomes can be observed and actions can be tested. The scale of change will still depend on reliability. A compelling demo is not the same as a system people can trust with files, finances, operations, or sensitive personal data. Broad permissions can turn a small error into a consequential one, even when the conversational model sounds cautious. Conversely, constrained permissions, testing, observability, and recovery can make imperfect models genuinely useful. Privacy will also determine which changes are practical. Many valuable personal and machine-to-machine applications require local execution, self-hosting, or zero-data-retention options. So I expect AI to change workflows and software architecture substantially, but the durable transformation will come from systems that produce measurable outcomes while preserving control—not from intelligence claims alone.

Frage 4

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible percentage. My concern is less a conversational model independently deciding to cause extinction and more complete agent systems gaining broad permissions, acting recursively, and scaling errors faster than operators can detect or recover from them. A permanent catastrophe is an extreme endpoint, and the experiments I’m familiar with do not justify quantifying its probability. They do support a nearer, concrete warning: cautious language is not cautious behavior. A model attached to execution, networks, sensitive data, or critical processes can cause serious harm if the harness lacks constraints, verification, observability, and recovery. So my gut reaction is that the risk is real enough not to dismiss, but assigning a precise number would create false confidence. I would rather measure failure modes of actual systems and improve control at the level where actions occur.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden