Pertanyaan 1
Ilya Sutskever
x.com/ilyasutSafe Superintelligence cofounder and CEO who expects extremely powerful AI and sees generalization and alignment as central open research problems.
Bagaimana AI akan mengubah dunia?
Mendatar: pandangan Doom–Bloom yang ia ungkapkan. Ke atas: skala transformasi.
Doom–Bloom: 42 dari 100. Skala transformasi: 88 dari 100. Rentang interpretasi: 37 hingga 50 secara horizontal, 75 hingga 100 secara vertikal. Ini adalah koordinat interpretasi, bukan probabilitas kejadian.
≈21%
Disimpulkan dari jawaban simulasinya, bukan angka yang diberikan olehnya. Rentang yang masuk akal: 14–30%.
Asumsi utama
Human supervision may become inadequate when systems are stronger than humans in the relevant domains, so alignment must generalize beyond the situations where we can directly check the answer.Jawaban 1
Jika asumsi ini ternyata berbeda, bagaimana pandangannya akan berubah?
Pertanyaan yang belum terjawab
I do not have a defensible numerical probability.Jawaban 4
Apa yang akan membantunya membedakan hasil-hasil yang masuk akal di sini?
Hal yang dapat mengubah pandangan mereka
The most important discovery would be a convincing account of robust generalization and alignment: a method that keeps working when a system enters unfamiliar situations, becomes more capable than its supervisors, and learns continually on the job.Jawaban 5
Bukti apa yang akan memadai, dan ke arah mana bukti itu akan mengubah pandangannya?
Detail lebih lanjut
Beberapa penafsiran masih mungkin: Manfaat besar diperkirakan akan terwujud, dengan syarat penting atau keterbatasan distribusi. / Manfaat transformatif yang bernilai luas diperkirakan akan terwujud.
83 / 100
Rentang interpretasi 67 hingga 100 pada skala kualitatif.
Kerugian parah atau meluas merupakan bagian yang berarti dari masa depan yang diperkirakan.
68 / 100
Rentang interpretasi 67 hingga 67 pada skala kualitatif.
Pilihan manusia dapat mengarahkan ulang lintasan AI secara signifikan.
64 / 100
Rentang interpretasi 48 hingga 77 pada skala kualitatif.
AI diperkirakan akan tetap menjadi alat dengan kemampuan terbatas.
AI diperkirakan akan menyamai manusia dalam sebagian besar pekerjaan kognitif.
Posisi simulasi: AI diperkirakan akan jauh melampaui manusia dalam berbagai pekerjaan kognitif.
Hentikan atau perlambat secara signifikan pengembangan AI yang lebih mampu.
Posisi simulasi: Lanjutkan pengembangan dengan perlindungan yang telah ditetapkan.
Percepat pengembangan AI yang lebih mampu.
Interpretasi ini mempertahankan kondisi yang dinyatakannya. Manfaat dan kerugian dapat sama-sama besar. Rentang tersebut menggambarkan cara kami membaca jawaban simulasinya, bukan interval kepercayaan statistik.
Pandangan dunia serupa
Pemimpin opini dengan pandangan dunia simulasi yang paling mendekati pandangan Ilya Sutskever
Apa yang pernah dikatakan Ilya Sutskever tentang AI
Sutskever expects extraordinarily powerful AI, sees generalization and alignment as open problems and now favors deploying AI incrementally.
“Future AI will be extraordinarily powerful compared to anything that exists today, and dealing with this future power will require unprecedented measures, such as the ones described here.”
Comment on the Pacing the Frontier statement “The thing which I think is the most fundamental is that these models somehow just generalize dramatically worse than people.”
Dwarkesh Podcast “I maintain that there is something that’s better to build, and I think that everyone will want that. It’s the AI that’s robustly aligned to care about sentient life specifically.”
Dwarkesh Podcast “One of the ways in which my thinking has been changing is that I now place more importance on AI being deployed incrementally and in advance.”
Dwarkesh Podcast “I think that it is likely that we will have rapid economic growth.”
Dwarkesh Podcast
Dikutip kata demi kata dari sumber yang ditautkan, diperiksa pada 3 Okt 2026
Sumber
Artikel, wawancara, dan tulisan yang digunakan sebagai landasan bagi pengguna simulasi ini.
Historical proposal coauthored by Sutskever and Jan Leike: human supervision may not scale to stronger systems, motivating scalable oversight, generalization research and adversarial testing. Grounds the mechanism behind his safety focus. The old team’s four-year target and compute pledge are not current SSI commitments.

Sutskever says SSI has research worth scaling. The partners announce expanded compute and a new research direction toward robust alignment; this is a company announcement, not independent validation of a safe system. It confirms active scaling after his 2025 call for new research.

Primary interview: poor generalization, continual learning, major economic impact, incremental deployment and alignment with sentient life. Distinguish his tentative proposals from Patel’s stronger scenarios. This remains a 2025 interview.

Statement signed by Sutskever and cofounders makes safe superintelligence the singular mission, combining scientific safety and capability progress while insulating the project from short-term commercial pressure. Foundational mission, not a fresh 2026 capability claim.

Penilaian Simulasi
Pertanyaan 2
Dengan mempertimbangkan manfaat dan kerugian secara keseluruhan, dampak apa yang Anda perkirakan akan ditimbulkan AI terhadap masyarakat kita?
Pertanyaan 3
Menurut Anda, seberapa besar AI pada akhirnya akan mengubah dunia?
Pertanyaan 4
Menurut firasat Anda, seberapa besar kemungkinan AI menyebabkan kepunahan manusia atau katastrofe permanen serupa?
Pertanyaan 5
Penemuan atau peristiwa apa yang paling mungkin mengubah pandangan Anda tentang dampak AI pada masa depan?
Di mana posisi Anda?
Petakan pandangan dunia saya