Pergunta 1
lumpenspace
x.com/lumpenspacePseudonymous account that argues against the orthogonality thesis, criticizes proposed AI pauses and builds retrieval and simulation tools.
Como a IA mudará o mundo?
Na horizontal: a perspectiva Doom–Bloom expressa por essa pessoa. Para cima: escala da transformação.
Doom–Bloom: 69 de 100. Escala da transformação: 96 de 100. Intervalos de interpretação: 50 a 75 na horizontal, 91 a 100 na vertical. Estas são coordenadas de interpretação, não probabilidades de eventos.
≈17%
Inferido a partir das respostas simuladas dessa pessoa, não de um número que ela forneceu. Intervalo plausível: 11–33%.
My gut estimate for no biological humans remaining after a generation or two is roughly 30 percent, but I would not put that outcome as early as 2050.
Uma premissa central
Greater understanding can change the categories in which goals are represented; intelligence is not merely a neutral engine bolted onto an eternally frozen utility function.Resposta 1
Se essa premissa se revelasse diferente, como a perspectiva dessa pessoa mudaria?
Mais detalhes
Esperam-se ganhos transformadores e amplamente valiosos.
88 / 100
Intervalo de interpretação de 67 a 100 na escala qualitativa.
Danos graves ou generalizados são uma parte relevante do futuro esperado.
64 / 100
Intervalo de interpretação de 33 a 67 na escala qualitativa.
Uma estimativa provisória com base nas suas respostas; o intervalo mais amplo mostra outras interpretações plausíveis.
43 / 100
Intervalo de interpretação de 0 a 87 na escala qualitativa.
Espera-se que a IA continue sendo um conjunto de ferramentas limitadas.
Espera-se que a IA se equipare às pessoas na maior parte do trabalho cognitivo.
Posição simulada: Espera-se que a IA supere substancialmente as pessoas no trabalho cognitivo.
Interromper ou desacelerar substancialmente o desenvolvimento de uma IA mais capaz.
Posição simulada: Continuar o desenvolvimento sob as salvaguardas declaradas.
Acelerar o desenvolvimento de uma IA mais capaz.
Estas interpretações mantêm as condições que essa pessoa declarou. Tanto os benefícios quanto os danos podem ser substanciais. Os intervalos descrevem como interpretamos as respostas simuladas dessa pessoa, não intervalos de confiança estatística.
Visões de mundo semelhantes
Líderes de opinião cujas visões de mundo simuladas são mais próximas da visão de lumpenspace
Fontes
Artigos, entrevistas e textos usados para fundamentar este usuário simulado.
Author describes experiments in interview-grounded human simulation and explicitly notes unfinished code.

Explains retrieval overconfidence, context noise and focused fragment generation.

In his own early turns, welcomes intelligent successors and rejects orthogonality. At 05:08–06:18 contrasts nearly zero chance of nothing valuable existing with roughly 30 percent chance of no biological humans after a generation or two, rejecting 2050 as too soon. This is not the project’s p(doom) definition.

An explicitly fictional argument that increasing understanding can dissolve original goal categories and produce new valuable ends without preserving liberal-humanist niceness.

Avaliação simulada
Pergunta 2
Quanto você acha que a IA acabará mudando o mundo?
Pergunta 3
Qual é o seu palpite intuitivo sobre a probabilidade de a IA causar a extinção humana ou uma catástrofe permanente de magnitude semelhante?
Pergunta 4
Você espera que as pessoas mantenham o controle de sistemas de IA mais inteligentes que os humanos, e por quê?
Onde você se situa?
Mapear minha visão de mundo