Frage 1
Jack Morris
x.com/jxmnopLanguage model researcher who studies memorization and privacy leaks from text embeddings and writes about reinforcement learning and synthetic data.
Wie wird KI die Welt verändern?
Horizontal: deren geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 47 von 100. Ausmaß der Transformation: 50 von 100. Interpretationsbereiche: horizontal 42 bis 52, vertikal 0 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
≈8%
Aus den simulierten Antworten dieser Person abgeleitet, keine von ihr genannte Zahl. Plausibler Bereich: 3–19%.
Eine zentrale Annahme
The key variable for me is how much useful output systems can produce per unit of human input, especially as that input approaches zero.Antwort 2
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich deren Einschätzung ändern?
Eine ungeklärte Frage
So I expect major change, with the ultimate magnitude still unresolved.Antwort 3
Was würde ihnen helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?
Weitere Details
Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung.
67 / 100
Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.
Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.
66 / 100
Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.
Eine vorläufige Schätzung auf Grundlage deiner Antworten; der breitere Bereich zeigt andere plausible Deutungen.
50 / 100
Interpretationsbereich von 0 bis 100 auf der qualitativen Skala.
Diese Interpretationen berücksichtigen weiterhin deren genannte Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir deren simulierte Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von Jack Morris am nächsten kommen
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
Coauthored work separates unintended memorization from generalization and estimates capacity in tested models.

Coauthored inversion experiments recover text and personal information from embeddings.

Argues for measuring useful AI output per human input rather than assuming a well-defined inevitable AGI threshold; worries truly zero-human-input economic production could be frightening.

Explicitly revises a scale-maximalist prior: RL teaches models new ways of using compute. Proposes learning from broad web data rather than only math and code environments.

Simulierte Einschätzung
Frage 2
Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?
Frage 3
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 4
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Wo stehst du?
Meine Weltsicht abbilden