Pertanyaan 1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
Bagaimana AI akan mengubah dunia?
Mendatar: pandangan Doom–Bloom yang mereka ungkapkan. Ke atas: skala transformasi.
Doom–Bloom: 6 dari 100. Skala transformasi: 93 dari 100. Rentang interpretasi: 0 hingga 11 secara horizontal, 88 hingga 100 secara vertikal. Ini adalah koordinat interpretasi, bukan probabilitas kejadian.
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · Agu 2025
Asumsi utama
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.Jawaban 1
Jika asumsi ini ternyata berbeda, bagaimana pandangan mereka akan berubah?
Pertanyaan yang belum terjawab
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.Jawaban 3
Apa yang akan membantu mereka membedakan hasil-hasil yang masuk akal di sini?
Detail lebih lanjut
Manfaat besar diperkirakan akan terwujud, dengan syarat penting atau keterbatasan distribusi.
61 / 100
Rentang interpretasi 33 hingga 67 pada skala kualitatif.
Kehilangan yang katastrofik atau tidak dapat dipulihkan merupakan unsur utama masa depan yang diperkirakan.
99 / 100
Rentang interpretasi 100 hingga 100 pada skala kualitatif.
Pilihan manusia dapat mengarahkan ulang lintasan AI secara signifikan.
81 / 100
Rentang interpretasi 50 hingga 100 pada skala kualitatif.
AI diperkirakan akan tetap menjadi alat dengan kemampuan terbatas.
AI diperkirakan akan menyamai manusia dalam sebagian besar pekerjaan kognitif.
Posisi simulasi: AI diperkirakan akan jauh melampaui manusia dalam berbagai pekerjaan kognitif.
Posisi simulasi: Hentikan atau perlambat secara signifikan pengembangan AI yang lebih mampu.
Lanjutkan pengembangan dengan perlindungan yang telah ditetapkan.
Percepat pengembangan AI yang lebih mampu.
Interpretasi ini mempertahankan kondisi yang mereka nyatakan. Manfaat dan kerugian dapat sama-sama besar. Rentang tersebut menggambarkan cara kami membaca jawaban simulasi mereka, bukan interval kepercayaan statistik.
Pandangan dunia serupa
Pemimpin opini dengan pandangan dunia simulasi yang paling mendekati pandangan Robert Miles
Sumber
Artikel, wawancara, dan tulisan yang digunakan sebagai landasan bagi pengguna simulasi ini.
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

Penilaian Simulasi
Pertanyaan 2
Menurut Anda, seberapa besar AI pada akhirnya akan mengubah dunia?
Pertanyaan 3
Menurut firasat Anda, seberapa besar kemungkinan AI menyebabkan kepunahan manusia atau katastrofe permanen serupa?
Pertanyaan 4
Tekanan apa yang menurut Anda akan membentuk cara perusahaan AI menangani keselamatan?
Di mana posisi Anda?
Petakan pandangan dunia saya