Frage 1
Jessica Taylor
x.com/jessi_cataResearcher who writes about agency and decision theory and argues AI alignment is conceptually hard, including how intelligence and values relate.
Wie wird KI die Welt verändern?
Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 23 von 100. Ausmaß der Transformation: 90 von 100. Interpretationsbereiche: horizontal 18 bis 28, vertikal 85 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
≈28%
Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 18–41%.
Eine zentrale Annahme
A goal that appears adequate in one representation may generalize badly when the system develops a richer model of the world.Antwort 1
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?
Eine ungeklärte Frage
I don’t have a defensible numerical probability.Antwort 4
Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?
Weitere Details
Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.
64 / 100
Interpretationsbereich von 33 bis 67 auf der qualitativen Skala.
Mehrere Lesarten bleiben plausibel: Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft. / Katastrophale oder unumkehrbare Verluste stehen im Zentrum der erwarteten Zukunft.
82 / 100
Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.
Menschliche Entscheidungen haben einen bedeutsamen, aber erheblich eingeschränkten Einfluss.
55 / 100
Interpretationsbereich von 42 bis 83 auf der qualitativen Skala.
Es wird erwartet, dass KI auf begrenzte Werkzeuge beschränkt bleibt.
Es wird erwartet, dass KI bei den meisten kognitiven Tätigkeiten mit Menschen gleichzieht.
Simulierte Position: Es wird erwartet, dass KI Menschen bei kognitiven Tätigkeiten deutlich übertrifft.
Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von Jessica Taylor am nächsten kommen
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
Argues powerful consequentialist problem solving can produce harmful real-world goals by default; institutions alone may fail under capable optimization. Sees human enhancement, high-fidelity uploads and human-like designs as possible routes to preserve values. Explicitly marks several steps speculative; gives no numeric risk or inevitable-doom claim.

Author’s August 2026 probability and centered-world analysis supports decision-theoretic voice, not a new AI policy position.

Rejects both guaranteed convergence of final goals and a strong claim that intelligence and values are freely separable; argues ontology changes and agent architecture can connect cognition and values.

Proposes studying general effectiveness and instrumental goals without assuming an explicit fixed utility function; treats goal identification and orthogonality as difficult architecture-dependent questions.

Simulierte Einschätzung
Frage 2
Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?
Frage 3
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 4
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Wo stehst du?
Meine Weltsicht abbilden