Pergunta 1
Jack Morris
x.com/jxmnopLanguage model researcher who studies memorization and privacy leaks from text embeddings and writes about reinforcement learning and synthetic data.
Como a IA mudará o mundo?
Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.
Doom–Bloom: 47 de 100. Escala da transformação: 50 de 100. Intervalos de interpretação: 42 a 52 na horizontal, 0 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.
≈8%
Inferido a partir das respostas simuladas dessa pessoa, não de um número que ela forneceu. Intervalo plausível: 3–19%.
Uma premissa central
The key variable for me is how much useful output systems can produce per unit of human input, especially as that input approaches zero.Resposta 2
Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?
Uma questão não resolvida
So I expect major change, with the ultimate magnitude still unresolved.Resposta 3
O que ajudaria essa pessoa a distinguir os resultados plausíveis aqui?
Mais detalhes
Esperam-se benefícios substanciais, com condições importantes ou limites de distribuição.
67 / 100
Intervalo de interpretação de 67 a 67 na escala qualitativa.
Danos graves ou generalizados são uma parte relevante do futuro esperado.
66 / 100
Intervalo de interpretação de 67 a 67 na escala qualitativa.
Uma estimativa provisória com base nas suas respostas; o intervalo mais amplo mostra outras interpretações plausíveis.
50 / 100
Intervalo de interpretação de 0 a 100 na escala qualitativa.
Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.
Visões de mundo semelhantes
Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de Jack Morris
Fontes
Artigos, entrevistas e textos usados para fundamentar este usuário simulado.
Coauthored work separates unintended memorization from generalization and estimates capacity in tested models.

Coauthored inversion experiments recover text and personal information from embeddings.

Argues for measuring useful AI output per human input rather than assuming a well-defined inevitable AGI threshold; worries truly zero-human-input economic production could be frightening.

Explicitly revises a scale-maximalist prior: RL teaches models new ways of using compute. Proposes learning from broad web data rather than only math and code environments.

Avaliação simulada
Pergunta 2
Considerando em conjunto os benefícios e os danos, que impacto geral você espera que a IA tenha em nossa sociedade?
Pergunta 3
Quanto você acha que a IA acabará mudando o mundo?
Pergunta 4
Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?
Onde você se situa?
Mapear minha visão de mundo