คำถาม 1
Noah Smith
x.com/NoahpinionEconomics blogger who expects AI to transform science, argues people can keep valuable jobs and worries about AI-enabled bioterrorism.
AI จะเปลี่ยนแปลงโลกอย่างไร?
แนวนอน: มุมมอง Doom–Bloom ที่เขาแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง
Doom–Bloom: 47 จาก 100 ระดับของการเปลี่ยนแปลง: 87 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 42 ถึง 75 แนวตั้งตั้งแต่ 75 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์
≈10%
“about a 10% chance of bringing down civilization”
Civilization collapse from AI-enabled bioterrorism; not human extinction
Here’s how we’re all going to die · ส.ค. 2569
ข้อสันนิษฐานหลัก
If we give an AI tools, credentials, memory, and permission to execute a long project, then a malicious human can use it to do enormous damage even if the system remains perfectly obedient.คำตอบ 4
หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของเขาจะเปลี่ยนไปอย่างไร?
คำถามที่ยังไม่มีข้อสรุป
The key uncertainty is whether the relevant biological capabilities are actually feasible.คำตอบ 3
อะไรจะช่วยให้เขาแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?
สิ่งที่อาจเปลี่ยนความคิดของบุคคลนั้น
If experts demonstrated that AI agents still cannot materially help design or execute a catastrophic biological attack—or that systems reliably refuse dangerous requests even under determined attempts—I would sharply reduce my catastrophe estimate.คำตอบ 5
หลักฐานแบบใดจึงจะเพียงพอ และจะทำให้มุมมองของเขาเปลี่ยนไปในทิศทางใด?
รายละเอียดเพิ่มเติม
คาดว่าจะได้รับประโยชน์ที่ก่อให้เกิดการเปลี่ยนแปลงและมีคุณค่าอย่างกว้างขวาง
97 / 100
ช่วงการตีความตั้งแต่ 100 ถึง 100 บนมาตรวัดเชิงคุณภาพ
ยังมีการตีความที่เป็นไปได้หลายแบบ ได้แก่ อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต / ความสูญเสียระดับหายนะหรือไม่อาจย้อนคืนได้เป็นแก่นสำคัญของอนาคตที่คาดไว้
81 / 100
ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ
ค่าประมาณเบื้องต้นจากคำตอบของคุณ โดยช่วงที่กว้างกว่าแสดงการตีความอื่น ๆ ที่เป็นไปได้
53 / 100
ช่วงการตีความตั้งแต่ 23 ถึง 100 บนมาตรวัดเชิงคุณภาพ
การตีความเหล่านี้ยังคงเงื่อนไขที่เขาระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของเขา ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ
โลกทัศน์ที่คล้ายกัน
ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Noah Smith มากที่สุด
แหล่งข้อมูล
บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้
The accessible introduction calls the consequences of godlike AI deeply unknowable. The remainder is paywalled; later public essays and interviews supply the substantive current position.

Publicly revises his earlier chatbot-focused dismissal after observing agentic coding. Autonomous tool use and economic pressure to remove humans from loops make catastrophic misuse more plausible. Remains comparatively skeptical of a near-term robot takeover.

Argues that combining human-like reasoning with computers’ exceptional recall and calculation already creates superhuman capabilities. Expects major scientific transformation; this is his broad definition of superintelligence, not a claim that every system is an autonomous omnipotent agent.

Speaker-labeled transcript: Noah at 07:21 endorses roughly 10% for catastrophic biological misuse. At 08:55 he expects survivors and is unsure about rebuilding. At 09:25 he declines to endorse the interviewer’s proposed 5% permanent-doom number. At 12:26–14:59 he identifies biological feasibility and resistance to jailbreaks as updates. At 17:49–18:18 he explains why malicious human use dominates his concern. Do not import Liron’s forecasts into Noah’s answers.

Clarifies that plentiful employment under extremely capable AI is possible, not guaranteed. Relative costs and constraints on AI supply can preserve human comparative advantage even when machines outperform people at every task.

Emphasizes humans’ comparative advantage in knowing what they want, with future work organized around directing AI. The accessible introduction supports this thesis; avoid inventing detailed empirical findings from inaccessible portions.

Assigns an informal 10% chance to AI-enabled bioterror bringing down civilization and 30% to world-changing destruction, without a precise horizon. Calls this much more serious than other AI harms while retaining enthusiasm for AI. These are not extinction odds; a separate annual-risk example is hypothetical, not his forecast.

Distinguishes replacing tasks from eliminating occupations. Interprets contemporary employment evidence as inconsistent with an imminent job apocalypse; expects humans to continue directing AI, without claiming that no occupation will ever disappear.

Argues that safety advocates need concrete threats that persuade skeptics and must address Chinese leaders’ incentives for coordinated pacing. Revises his earlier idea that merely staying ahead would produce cooperation: domestic threats from China’s own models could instead change its incentives.

แบบประเมินจำลอง
คำถาม 2
คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?
คำถาม 3
โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?
คำถาม 4
คุณคาดว่าผู้คนจะยังคงควบคุมระบบ AI ที่ฉลาดกว่ามนุษย์ได้หรือไม่ และเพราะเหตุใด?
คำถาม 5
การค้นพบหรือเหตุการณ์ใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับผลกระทบในอนาคตของ AI มากที่สุด?
จุดยืนของคุณอยู่ตรงไหน?
ทำแผนที่โลกทัศน์ของฉัน