Question 1
Shannon Sands
x.com/max_paperclipsAI practitioner who argues AI safety should rely on security engineering, monitoring and voluntary standards and expects human-AI teams to persist.
Comment l’IA changera-t-elle le monde ?
Horizontalement : leur perspective Doom–Bloom telle qu’elle a été exprimée. Verticalement : ampleur de la transformation.
Doom–Bloom : 72 sur 100. Ampleur de la transformation : 59 sur 100. Plages d’interprétation : de 67 à 77 horizontalement, de 40 à 85 verticalement. Il s’agit de coordonnées d’interprétation, et non de probabilités d’événements.
≈6%
Déduit de leurs réponses simulées, et non d’un chiffre donné par ces personnes. Plage plausible : 3–13%.
Une hypothèse centrale
Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures.Réponse 2
Si cette hypothèse s’avérait différente, comment leur perspective changerait-elle ?
Une question non résolue
A lot, but I wouldn’t pretend to know the ultimate ceiling.Réponse 2
Qu’est-ce qui les aiderait à distinguer les résultats plausibles ici ?
Ce qui pourrait faire changer d’avis
I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments.Réponse 4
Quels éléments probants seraient suffisants, et dans quelle direction feraient-ils évoluer leur point de vue ?
Plus de détails
Des bénéfices substantiels sont attendus, sous réserve de conditions importantes ou de limites dans leur répartition.
72 / 100
Plage d’interprétation de 67 à 100 sur l’échelle qualitative.
Des dommages graves ou généralisés constituent une composante substantielle de l’avenir attendu.
56 / 100
Plage d’interprétation de 33 à 67 sur l’échelle qualitative.
Les choix humains ont une influence significative, mais fortement contrainte.
61 / 100
Plage d’interprétation de 37 à 88 sur l’échelle qualitative.
Arrêter ou ralentir considérablement le développement d’IA plus performantes.
Position simulée : Poursuivre le développement dans le cadre des mesures de protection annoncées.
Accélérer le développement d’IA plus performantes.
Restreindre les usages de l’IA évoqués jusqu’à la mise en place préalable de mesures de protection ou d’une autorisation.
Position simulée : Autoriser les usages de l’IA évoqués avec des mesures ciblées de responsabilisation et de protection.
Réduire au minimum les restrictions sur les usages de l’IA évoqués.
Ces interprétations conservent les conditions énoncées. Les bénéfices et les dommages peuvent tous deux être substantiels. Les plages décrivent notre lecture de leurs réponses simulées, et non des intervalles de confiance statistiques.
Visions du monde similaires
Leaders d’opinion dont les visions du monde simulées sont les plus proches de celle de Shannon Sands
Sources
Articles, entretiens et écrits utilisés pour ancrer cet utilisateur simulé dans les faits.
Évaluation simulée
Question 2
Dans quelle mesure pensez-vous que l’IA finira par changer le monde ?
Question 3
Selon votre intuition, quelle est la probabilité que l’IA provoque l’extinction de l’humanité ou une catastrophe tout aussi permanente ?
Question 4
Quels éléments vous feraient changer d’avis sur la capacité des humains à contrôler une IA puissante ?
Où vous situez-vous ?
Cartographier ma vision du monde
