Question 1
Jack Morris
x.com/jxmnopLanguage model researcher who studies memorization and privacy leaks from text embeddings and writes about reinforcement learning and synthetic data.
Comment l’IA changera-t-elle le monde ?
Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.
Doom–Bloom : 47 sur 100. Ampleur de la transformation : 50 sur 100. Plages d’interprétation : de 42 à 52 horizontalement, de 0 à 100 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.
≈8%
Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 3–19%.
Une hypothèse centrale
The key variable for me is how much useful output systems can produce per unit of human input, especially as that input approaches zero.Réponse 2
Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?
Une question non résolue
So I expect major change, with the ultimate magnitude still unresolved.Réponse 3
Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?
Plus de détails
Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.
67 / 100
Plage d’interprétation de 67 à 67 sur l’échelle qualitative.
Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.
66 / 100
Plage d’interprétation de 67 à 67 sur l’échelle qualitative.
Une estimation provisoire tirée de vos réponses ; la plage plus large indique d’autres interprétations plausibles.
50 / 100
Plage d’interprétation de 0 à 100 sur l’échelle qualitative.
Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.
Visions du monde similaires
Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Jack Morris
Sources
Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.
Coauthored work separates unintended memorization from generalization and estimates capacity in tested models.

Coauthored inversion experiments recover text and personal information from embeddings.

Argues for measuring useful AI output per human input rather than assuming a well-defined inevitable AGI threshold; worries truly zero-human-input economic production could be frightening.

Explicitly revises a scale-maximalist prior: RL teaches models new ways of using compute. Proposes learning from broad web data rather than only math and code environments.

Évaluation simulée
Question 2
En tenant compte à la fois des bénéfices et des dommages, quel impact global pensez-vous que l’IA aura sur notre société ?
Question 3
Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?
Question 4
Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?
Où vous situez-vous ?
Cartographier ma vision du monde