คำถาม 1
Robert Miles
x.com/robertskmilesAI safety educator who explains on YouTube why advanced AI may not share human goals and who calls for enforceable limits on frontier AI development.
AI จะเปลี่ยนแปลงโลกอย่างไร?
แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง
Doom–Bloom: 6 จาก 100 ระดับของการเปลี่ยนแปลง: 93 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 0 ถึง 11 แนวตั้งตั้งแต่ 88 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์
10–90%
“any number in the 10 to 90% range is plausibly defensible”
Unspecified AI “doom” as asked on Doom Debates (AI existential catastrophe); he does not define the endpoint
Rob Miles, Top AI Safety Educator: Humanity Isn’t Ready for Superintelligence! · ส.ค. 2568
ข้อสันนิษฐานหลัก
A sufficiently capable agent pursuing the wrong objective may seek resources, improve its own capabilities, and resist shutdown simply because those actions help it achieve almost any long-term goal.คำตอบ 1
หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?
คำถามที่ยังไม่มีข้อสรุป
My uncertainty is extremely broad because the outcome depends less on a fixed property of AI than on what humanity chooses to do—whether we race ahead, pause dangerous development, enforce safety requirements, and make genuine alignment progress.คำตอบ 3
อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?
รายละเอียดเพิ่มเติม
คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์
61 / 100
ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ
ความสูญเสียระดับหายนะหรือไม่อาจย้อนคืนได้เป็นแก่นสำคัญของอนาคตที่คาดไว้
99 / 100
ช่วงการตีความตั้งแต่ 100 ถึง 100 บนมาตรวัดเชิงคุณภาพ
การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก
81 / 100
ช่วงการตีความตั้งแต่ 50 ถึง 100 บนมาตรวัดเชิงคุณภาพ
คาดว่า AI จะยังคงเป็นเครื่องมือที่มีขีดจำกัด
คาดว่า AI จะมีความสามารถทัดเทียมมนุษย์ในงานด้านการใช้ความคิดส่วนใหญ่
ตำแหน่งจำลอง: คาดว่า AI จะมีความสามารถเหนือกว่ามนุษย์อย่างมากในงานด้านการใช้ความคิด
ตำแหน่งจำลอง: หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก
เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้
เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น
การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ
โลกทัศน์ที่คล้ายกัน
ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Robert Miles มากที่สุด
แหล่งข้อมูล
บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้
Speaker-attributed interview: Miles calls doom his mainline prediction, while allowing alignment breakthroughs and being fundamentally mistaken in a lucky direction. This is dated pessimism with uncertainty, not an exact probability or a 2050 forecast.

Author’s introductory safety talk; accessible primary video metadata establishes topic and authorship, not a fresh quantitative forecast.

Miles’s own answers at 21:58–30:50 allow a broad 10–90% risk range, with uncertainty dominated by societal response. At 1:45:46–1:48 he supports pausing AGI/superintelligence development, particularly AI-research agents, while welcoming useful narrow AI. The host’s numerical framing is not his estimate.

Explains why effectiveness at pursuing goals does not entail human-compatible goals: understanding morality is different from wanting to act morally. Foundational argument about possible agents, not a measured claim about every current model.

Given sufficiently capable goal-directed agents, many goals incentivize resources, self-improvement and resistance to shutdown or goal changes. These are instrumental pressures, not human malice; the argument preserves exceptions and depends on agentic competence.

Advocates deployment obligations and control protocols as interim safeguards, not an alignment solution or assurance for superintelligence. Benchmark attack success is not real-world extinction probability.

แบบประเมินจำลอง
คำถาม 2
คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?
คำถาม 3
โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?
คำถาม 4
คุณคิดว่าแรงกดดันใดจะกำหนดวิธีที่บริษัท AI จัดการเรื่องความปลอดภัย?
จุดยืนของคุณอยู่ตรงไหน?
ทำแผนที่โลกทัศน์ของฉัน