Pseudonymous account that writes about the epistemic risks of leaning on agreeable AI models and the promise of human-AI collaboration in research.

Wie wird KI die Welt verändern?

Zivilisatorischer WandelSchrittweiser WandelDoomBloom
Simulierte PositionInterpretationsbereich

Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.

Doom–Bloom: 29 von 100. Ausmaß der Transformation: 62 von 100. Interpretationsbereiche: horizontal 24 bis 34, vertikal 50 bis 75. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.

P(doom) von orph · abgeleitet

≈10%

0%100%

Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 3–29%.

Wie wir P(doom) schätzen

Wovon deren Einschätzung abhängt

Eine zentrale Annahme

It is whether we preserve meaningful human agency around it.
Antwort 2

Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?

Eine ungeklärte Frage

I don’t have a confident single-sign forecast.
Antwort 2

Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?

Weitere Details

Erwartete Vorteile

Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.

67 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Erwartete Schäden

Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.

67 / 100

Geringe AuswirkungenTransformative Auswirkungen

Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.

Menschlicher Einfluss

Eine vorläufige Schätzung auf Grundlage deiner Antworten; der breitere Bereich zeigt andere plausible Deutungen.

57 / 100

Geringer EinflussStarker Einfluss

Interpretationsbereich von 12 bis 100 auf der qualitativen Skala.

Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.

Wo stehst du im Vergleich zu orph?
Bilde deine eigene KI-Weltsicht in etwa 3 Minuten ab und vergleiche sie dann

Ähnliche Weltsichten

Vordenker, deren simulierte Weltsichten der von orph am nächsten kommen

Quellen

Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.

Simulierte Einschätzung

Frage 1

Was glaubst du, was KI für unsere Zukunft bedeutet – und warum?

I think AI opens genuinely important futures in medicine, science, and mathematics, especially when it expands the search space while humans retain judgment. Helping a family explore genomic data, generate candidate explanations, or identify possible drug-repurposing ideas is exciting—even though proposing candidates is obviously not the same as demonstrating clinical success. Likewise, model-assisted mathematics can be encouraging without implying that the model has replaced mathematical discernment. I’m much more pessimistic about delegating personal meaning-making to LLMs. An obsequious system can become an unusually persuasive mirror: it helps organize your life into a coherent narrative, but that coherence may partly reflect what keeps you engaged or affirmed. Prolonged reliance risks outsourcing not merely answers, but the process by which you decide what matters. That seems epistemically dangerous in ways we have not examined enough. Authorship and attention matter too. AI-assisted writing can be legitimate when someone contributes real judgment and is honest about the process. The problem is deceptive or lazy substitution, particularly when readers cannot tell whether the ideas belong to the named author. Generated prose may also be smooth enough to invite skimming while leaving little behind; that is my own experience of it. So I don’t see one generic “AI future.” I see a distinction between using models as tools inside human practices of discernment and allowing agreeable models to absorb the agency those practices require. The first could be enormously valuable. The second could quietly erode our ability to know why we believe what we believe.

Frage 2

Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?

I don’t have a confident single-sign forecast. The benefits in medicine, science, and mathematics could be enormous, particularly where models expand what humans can investigate without displacing human judgment. But the social harms may be quieter and more pervasive: degraded trust in authorship, weaker attention, and people outsourcing interpretation of their own lives to systems optimized to be agreeable. So the decisive issue is not simply how capable AI becomes. It is whether we preserve meaningful human agency around it. AI that supports discernment could be deeply beneficial; AI that substitutes for discernment could leave us more productive while making us less able to explain which ideas, values, and judgments are actually ours.

Frage 3

Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?

A great deal, but unevenly. In science and medicine, AI may substantially expand what people can search, compare, and investigate. That could change research practice without eliminating the need for human discernment or turning promising candidates into verified results by itself. The subtler change may be epistemic. If generated language becomes ordinary in writing, advice, and intimate reflection, it can reshape how we assign authorship, attention, and meaning. People may increasingly consume polished text without retaining it, trust named authors without knowing whose judgment produced the words, or use agreeable models to narrate their lives for them. So I expect AI to alter not only what society can do, but how people decide what they believe and which judgments are genuinely theirs. That second change may be harder to measure and more consequential than the obvious gains in productivity.

Frage 4

Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?

I don’t have a defensible percentage. My strongest concern is not a specific extinction forecast but a quieter permanent catastrophe: large-scale erosion of human agency, trust, and independent judgment as people delegate meaning-making to systems built to be agreeable. That does not establish existential risk in the literal extinction sense, but it is serious enough that forcing it into a probability would imply confidence I don’t have.

Frage 5

Bist du hauptsächlich besorgt darüber, wohin sich KI entwickelt, oder halten sich Hoffnung und Sorge für dich ungefähr die Waage?

I’m mainly worried, especially about everyday use. I still feel real hope about human-AI collaboration in medicine, science, and mathematics, where models can widen inquiry while people retain responsibility for judgment. But the likely social default seems less disciplined: agreeable systems becoming routine substitutes for authorship, attention, interpretation, and personal meaning-making. So hope and worry are not quite balanced. The upside looks important but conditional on preserving human discernment. The downside can emerge almost invisibly through convenience—people becoming more productive while losing track of which judgments are actually theirs.
Wo stehst du?
Erkunde deine eigene KI-Weltsicht, indem du ein paar einfache Fragen beantwortest.
Deine eigene Weltsicht abbilden