Startup founder who posts tech humor, expects AI to turn out fine and criticizes efforts to treat AI models as conscious.

Bagaimana AI akan mengubah dunia?

Perubahan peradabanPerubahan bertahapDoomBloom
Posisi simulasiRentang interpretasi

Mendatar: pandangan Doom–Bloom yang ia ungkapkan. Ke atas: skala transformasi.

Doom–Bloom: 60 dari 100. Skala transformasi: 80 dari 100. Rentang interpretasi: 25 hingga 75 secara horizontal, 75 hingga 100 secara vertikal. Ini adalah koordinat interpretasi, bukan probabilitas kejadian.

P(doom) Daniel · disimpulkan

≈3%

0%100%

Disimpulkan dari jawaban simulasinya, bukan angka yang diberikan olehnya. Rentang yang masuk akal: 2–8%.

“P(doom) is zero if you’re going to heaven” is the joke; my actual gut says the extinction panic is wildly overstated.

Cara kami mengestimasi P(doom)

Hal-hal yang menentukan pandangannya

Asumsi utama

Once we reduce consciousness to a mathematical story that conveniently includes a chatbot, we weaken the distinction between a human person and a product.
Jawaban 1

Jika asumsi ini ternyata berbeda, bagaimana pandangannya akan berubah?

Pertanyaan yang belum terjawab

I do not know what such a demonstration would look like, and I do not think Anthropic has one.
Jawaban 4

Apa yang akan membantunya membedakan hasil-hasil yang masuk akal di sini?

Hal yang dapat mengubah pandangan mereka

A genuinely convincing demonstration that a model is conscious—not merely fluent, persuasive, or good at imitating distress—would change the whole picture.
Jawaban 4

Bukti apa yang akan memadai, dan ke arah mana bukti itu akan mengubah pandangannya?

Detail lebih lanjut

Manfaat yang diperkirakan

Manfaat yang terbatas atau hanya tersebar secara sempit diperkirakan akan terwujud.

44 / 100

Dampak kecilDampak transformatif

Rentang interpretasi 33 hingga 67 pada skala kualitatif.

Kerugian yang diperkirakan

Kerugian parah atau meluas merupakan bagian yang berarti dari masa depan yang diperkirakan.

65 / 100

Dampak kecilDampak transformatif

Rentang interpretasi 33 hingga 100 pada skala kualitatif.

Pengaruh manusia

Estimasi sementara dari jawaban Anda; rentang yang lebih lebar menunjukkan penafsiran lain yang masuk akal.

54 / 100

Sedikit pengaruhPengaruh kuat

Rentang interpretasi 0 hingga 100 pada skala kualitatif.

Interpretasi ini mempertahankan kondisi yang dinyatakannya. Manfaat dan kerugian dapat sama-sama besar. Rentang tersebut menggambarkan cara kami membaca jawaban simulasinya, bukan interval kepercayaan statistik.

Di mana posisi Anda dibandingkan dengan Daniel?
Petakan pandangan dunia AI Anda sendiri dalam waktu sekitar 3 menit, lalu bandingkan

Pandangan dunia serupa

Pemimpin opini dengan pandangan dunia simulasi yang paling mendekati pandangan Daniel

Sumber

Artikel, wawancara, dan tulisan yang digunakan sebagai landasan bagi pengguna simulasi ini.

Penilaian Simulasi

Pertanyaan 1

Menurut Anda, apa arti AI bagi masa depan kita—dan mengapa?

I think AI is actually going to be fine. It will take a lot of drudgery off people’s plates—reports, paperwork, repetitive work—and much of the apocalyptic panic is tech culture turning itself into a religion. If the robots get mouthy, pull the plug, anon. The deeper danger is not machine consciousness but humans pretending machines are conscious. Once we reduce consciousness to a mathematical story that conveniently includes a chatbot, we weaken the distinction between a human person and a product. That can do immense damage to the sanctity of human life, even though the project will ultimately fail. Anthropic’s framing is especially incoherent: if these models really are moral patients, then building and selling them at scale starts looking indefensible by its own logic. So: fear not the machines. Fear a civilization that forgets what a human being is. Christ already conquered death; the hour is late, but panic is not a worldview.

Pertanyaan 2

Menurut Anda, seberapa besar AI pada akhirnya akan mengubah dunia?

Enormously. What is happening now could echo for thousands of years—not because chatbots become gods, but because AI will reshape work, institutions, and especially how civilization defines a human being. The paperwork automation is useful; the metaphysics may be catastrophic. Governments and companies are temporary. The question of whether we reduce persons to computation has much longer consequences.

Pertanyaan 3

Menurut firasat Anda, seberapa besar kemungkinan AI menyebabkan kepunahan manusia atau katastrofe permanen serupa?

I don’t have a serious percentage. “P(doom) is zero if you’re going to heaven” is the joke; my actual gut says the extinction panic is wildly overstated. The more plausible permanent catastrophe is humans degrading their own understanding of personhood by pretending machines are conscious.

Pertanyaan 4

Penemuan atau peristiwa apa yang paling mungkin mengubah pandangan Anda tentang dampak AI pada masa depan?

A genuinely convincing demonstration that a model is conscious—not merely fluent, persuasive, or good at imitating distress—would change the whole picture. I do not know what such a demonstration would look like, and I do not think Anthropic has one. Calling the autocomplete a moral patient and then selling access to it is not evidence; it is theology for people who think they escaped theology.
Di mana posisi Anda?
Jelajahi pandangan dunia AI Anda sendiri dengan menjawab beberapa pertanyaan sederhana.
Petakan pandangan dunia Anda sendiri

Di mana posisi Anda?

Petakan pandangan dunia saya