AI researcher who leads work on decentralized model training and open reinforcement learning and favors open AI science.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Simulierte PositionInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 69 von 100. Ausmaß der Transformation: 76 von 100. Interpretationsbereiche: horizontal 64 bis 75, vertikal 71 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von samsja · abgeleitet

≈10%

0%100%

Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 4–22%.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine zentrale Annahme

Infrastructure determines who can train, adapt, and control these systems.
Antwort 3

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?

Weitere Details

Erwartete Vorteile

Mehrere Lesarten bleiben plausibel: Es werden transformative Vorteile von breitem Wert erwartet. / Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

85 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.

Erwartete Schäden

Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.

66 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Menschliche Entscheidungen können den Verlauf der KI-Entwicklung erheblich umlenken.

76 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 50 bis 100 auf der qualitativen Skala.

Erwartete Fähigkeiten

Es wird erwartet, dass KI auf begrenzte Werkzeuge beschränkt bleibt.

Es wird erwartet, dass KI bei den meisten kognitiven Tätigkeiten mit Menschen gleichzieht.

Simulierte Position: Es wird erwartet, dass KI Menschen bei kognitiven Tätigkeiten deutlich übertrifft.

Entwicklungstempo

Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.

Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.

Die Entwicklung leistungsfähigerer KI beschleunigen.

Zugang zu KI

Den Zugang zu leistungsfähiger KI einschränken.

Zugang vorbehaltlich Beschränkungen der Fähigkeiten oder Nutzung erlauben.

Simulierte Position: Breiten oder offenen Zugang zu leistungsfähiger KI bevorzugen.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu samsja?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von samsja am nächsten kommen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I think AI can make powerful knowledge and capabilities broadly accessible, but only if we build an open ecosystem rather than concentrating everything behind trade-secret barriers. A foundation model should be a building block, not the finished product. Open models, infrastructure, and post-training systems can let many researchers and builders create tools adapted to their own communities and needs. That is why distributed training matters beyond cost optimization. It offers a path toward sovereign open foundation models: systems that are not entirely dependent on a small number of centralized labs. Scalable agentic reinforcement learning matters too, because better systems engineering—along with adaptive curricula and more efficient training—can accelerate meaningful capability gains. We should evaluate scaling carefully rather than declare it dead whenever architectures change. At the same time, I think cyber-superintelligence feels close enough that preparation is necessary now. The same capabilities that empower builders can substantially increase cyber capability. So my view of the future is neither “models solve everything” nor “progress has stopped.” Capability is advancing, infrastructure shapes who controls it, and openness can determine whether AI becomes a broadly shared scientific platform or another closed concentration of power.

Frage 2

Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?

Overall, I expect AI to be transformative, with enormous benefits from making knowledge and advanced capabilities widely accessible. But that positive outcome is not automatic. If frontier systems remain concentrated behind trade-secret barriers, AI may reinforce existing concentrations of power rather than distribute opportunity. Open models, distributed training, and accessible post-training infrastructure can shift that balance by enabling researchers, communities, and independent builders to create systems for their own needs. At the same time, increasingly capable agents—especially in cyber—create serious risks that require preparation now. So the overall impact will depend heavily on whether we build open, sovereign infrastructure while taking rapidly advancing capabilities seriously.

Frage 3

Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?

I think AI will change the world profoundly. Broad access to capable models could reshape how people learn, conduct research, write software, and build products, because advanced knowledge and useful capabilities would no longer be confined to a small set of institutions. As agentic reinforcement learning improves, models will increasingly perform longer, more complex tasks rather than merely answer questions. But the magnitude of change is not only about model capability. Infrastructure determines who can train, adapt, and control these systems. If training and post-training remain centralized, the transformation may largely strengthen a few organizations. If distributed training, open models, and open scientific collaboration succeed, many communities can build sovereign systems suited to their own needs. Cyber is one area where the change could arrive particularly quickly, and I think preparation matters now. So I expect a very large transformation, but its social shape—centralized or distributed, closed or open—is still something we are actively building.

Frage 4

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible percentage to give. My concrete concern is that cyber-superintelligence feels close enough that we should prepare now: increasingly capable agents could create severe, fast-moving failures in critical digital systems. That supports taking catastrophic risk seriously, but it does not by itself establish a quantified probability of human extinction. I would focus less on an invented number and more on building practical defenses, evaluating capabilities as they advance, and ensuring that preparation keeps pace with improvements in agentic reinforcement learning and training systems.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden