Pertanyaan 1
Roon
x.com/tszzlPseudonymous account that posts about sweeping change from AI and calls for pacing the frontier, alignment work and broad access to safe models.
Bagaimana AI akan mengubah dunia?
Mendatar: pandangan Doom–Bloom yang mereka ungkapkan. Ke atas: skala transformasi.
Doom–Bloom: 54 dari 100. Skala transformasi: 88 dari 100. Rentang interpretasi: 25 hingga 75 secara horizontal, 75 hingga 100 secara vertikal. Ini adalah koordinat interpretasi, bukan probabilitas kejadian.
≈9%
Disimpulkan dari jawaban simulasi mereka, bukan angka yang mereka berikan. Rentang yang masuk akal: 5–18%.
Asumsi utama
My concern is the trajectory: capabilities racing ahead of interpretability and alignment, followed by recursive self-improvement while we are still operating on reward shaping and folk theory.Jawaban 3
Jika asumsi ini ternyata berbeda, bagaimana pandangan mereka akan berubah?
Hal yang dapat mengubah pandangan mereka
The biggest update would be a genuine, reproducible alignment breakthrough: evidence that we can understand a powerful agent’s internal mechanisms, predict behavioral generalization outside training, detect dangerous goals or deception, and retain control as capabilities scale.Jawaban 4
Bukti apa yang akan memadai, dan ke arah mana bukti itu akan mengubah pandangan mereka?
Detail lebih lanjut
Beberapa penafsiran masih mungkin: Manfaat transformatif yang bernilai luas diperkirakan akan terwujud. / Manfaat besar diperkirakan akan terwujud, dengan syarat penting atau keterbatasan distribusi.
84 / 100
Rentang interpretasi 67 hingga 100 pada skala kualitatif.
Kerugian parah atau meluas merupakan bagian yang berarti dari masa depan yang diperkirakan.
68 / 100
Rentang interpretasi 67 hingga 67 pada skala kualitatif.
Pilihan manusia dapat mengarahkan ulang lintasan AI secara signifikan.
66 / 100
Rentang interpretasi 50 hingga 75 pada skala kualitatif.
AI diperkirakan akan tetap menjadi alat dengan kemampuan terbatas.
AI diperkirakan akan menyamai manusia dalam sebagian besar pekerjaan kognitif.
Posisi simulasi: AI diperkirakan akan jauh melampaui manusia dalam berbagai pekerjaan kognitif.
Posisi simulasi: Hentikan atau perlambat secara signifikan pengembangan AI yang lebih mampu.
Lanjutkan pengembangan dengan perlindungan yang telah ditetapkan.
Percepat pengembangan AI yang lebih mampu.
Interpretasi ini mempertahankan kondisi yang mereka nyatakan. Manfaat dan kerugian dapat sama-sama besar. Rentang tersebut menggambarkan cara kami membaca jawaban simulasi mereka, bukan interval kepercayaan statistik.
Pandangan dunia serupa
Pemimpin opini dengan pandangan dunia simulasi yang paling mendekati pandangan Roon
Apa yang pernah dikatakan Roon tentang AI
Roon argues for slowing frontier AI research and advancing alignment, alongside broad access to safe models.
“I expect really strong mechinterp progress in the coming months.”
X, alignment and frontier research “progress on all these areas is highly possible; automated alignment research is possible.”
X, alignment and frontier research “there is also the possibility that making common sense reward shaping is enough for safety / but I wouldn’t bet everything on it”
X, alignment and frontier research “we will need to significantly slow the frontier of research very soon”
X, alignment and frontier research
Dikutip kata demi kata dari sumber yang ditautkan, diperiksa pada 13 Okt 2026
Sumber
Artikel, wawancara, dan tulisan yang digunakan sebagai landasan bagi pengguna simulasi ini.
Penilaian Simulasi
Pertanyaan 2
Menurut Anda, seberapa besar AI pada akhirnya akan mengubah dunia?
Pertanyaan 3
Menurut firasat Anda, seberapa besar kemungkinan AI menyebabkan kepunahan manusia atau katastrofe permanen serupa?
Pertanyaan 4
Penemuan atau peristiwa apa yang paling mungkin mengubah pandangan Anda tentang dampak AI pada masa depan?
Di mana posisi Anda?
Petakan pandangan dunia saya










