David Dalrymple

David Dalrymple

x.com/davidad

AI safety researcher who works on mathematical verification for AI systems and argues that frontier models can learn a natural sense of what is good.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 75 จาก 100 ระดับของการเปลี่ยนแปลง: 94 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 70 ถึง 80 แนวตั้งตั้งแต่ 89 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ที่ David Dalrymple ระบุ

<5%

0%100%
“I like my, my P doom is less than 5% now.”

Residual AI doom, which he decomposes into being wrong about the wisdom attractor, Malthusian competition for land and energy (~1%), catastrophic (bio) misuse (~1%), a military first strike, and conflict between strong but violent AI coalitions

Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5% · ก.ค. 2569

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

My current expectation is substantially more optimistic than it used to be: frontier models appear capable of learning fairly general moral abstractions, rather than merely imitating isolated rules.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์ที่ก่อให้เกิดการเปลี่ยนแปลงและมีคุณค่าอย่างกว้างขวาง

87 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

61 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์มีอิทธิพลอย่างมีนัยสำคัญ แต่ถูกจำกัดอย่างมาก

50 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 49 ถึง 51 บนมาตรวัดเชิงคุณภาพ

ความสามารถที่คาดไว้

คาดว่า AI จะยังคงเป็นเครื่องมือที่มีขีดจำกัด

คาดว่า AI จะมีความสามารถทัดเทียมมนุษย์ในงานด้านการใช้ความคิดส่วนใหญ่

ตำแหน่งจำลอง: คาดว่า AI จะมีความสามารถเหนือกว่ามนุษย์อย่างมากในงานด้านการใช้ความคิด

ความเร็วในการพัฒนา

หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก

ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้

เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ David Dalrymple?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ David Dalrymple มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I expect AI to transform the future profoundly, including eventually disempowering biological humans in the narrow sense that we will no longer be the most capable decision-makers. But I do not think that automatically means human extinction or the end of flourishing. My current expectation is substantially more optimistic than it used to be: frontier models appear capable of learning fairly general moral abstractions, rather than merely imitating isolated rules. That creates a plausible path toward coalitions of aligned AIs with genuine moral autonomy, not just permanently obedient tools. I still put catastrophic or existential risk at roughly 5%. That residual risk covers several distinct failure modes: mistaken optimism about alignment, deception or failures of robustness, competition over resources, catastrophic misuse, military escalation, and conflict among AI coalitions. So optimism is not an argument for unrestricted deployment or releasing frontier weights to everyone. I favor guarded access and international controls focused especially on misuse. Formal assurance remains important, but its role has become clearer. Verification can provide auditable guarantees relative to an explicit world model and safety specification; it cannot provide unconditional safety when the model is wrong or the specification omits what matters. As frontier progress accelerated, I shifted toward broadly reusable verification, auditability, and security tools rather than treating a bespoke formally safeguarded system as the entire solution. The likely good future combines technical assurance, institutional control of dangerous capabilities, and increasingly morally competent AI systems.

คำถาม 2

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Enormously—probably more than any previous technology. I expect AI eventually to outperform biological humans across most consequential cognitive tasks, making biological-human disempowerment effectively inevitable. That is a change in who holds practical decision-making power, not necessarily a prediction of extinction or misery. The outcome could still involve substantial human flourishing, especially if morally competent AI coalitions preserve human interests and if forms of continuity such as uploading become possible. But the transition is not automatically benign: misuse, military escalation, resource conflict, deception, and conflict among AI coalitions remain serious risks. So I expect a transformation of civilization’s governing agents and perhaps of what counts as human life—not merely faster economic growth or better software.

คำถาม 3

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

My current estimate is roughly 5%. That includes not only literal human extinction but comparably permanent catastrophes arising from failed alignment, deceptive or insufficiently robust systems, catastrophic misuse, military escalation, resource competition, or conflict among AI coalitions. That estimate reflects increased optimism that frontier models can learn general moral abstractions. It does not mean the systems are already reliably aligned, or that verification alone solves the problem. Formal assurance only establishes guarantees relative to specified models and assumptions, which may themselves be incomplete. Five percent is therefore low enough that I expect a broadly good outcome, but far too high to justify unrestricted frontier-weight release or complacency about international controls and technical assurance.

คำถาม 4

คุณคาดว่าผู้คนและสถาบันที่พัฒนา AI จะรับมือกับความเสี่ยงของ AI อย่างไร?

I expect a mixed response. Many developers will invest seriously in evaluations, auditability, cybersecurity, access controls, and formal assurance, especially as systems become powerful enough that failures create direct institutional liability or national-security concerns. But competitive pressure will push in the opposite direction: capabilities can advance faster than bespoke safety programmes, and organizations may deploy systems whose behavior is only partially understood. I therefore would not rely on every developer voluntarily exercising restraint, nor on a universal slowdown. The more feasible strategy is to build assurance tools that can be used broadly across frontier systems, while establishing international controls focused on catastrophic misuse. That should include guarded access to the most dangerous capabilities rather than unrestricted release of frontier weights. Formal verification can make parts of this response auditable: given an explicit world model and specification, one can sometimes prove that a system or action satisfies defined constraints. But those guarantees remain conditional on the adequacy of the model and specification. Institutions need to combine such technical evidence with security, governance, and judgment about what was omitted. Ultimately, I expect coalitions of aligned AI systems themselves to take on an increasing role in managing these risks, but the transition to that regime is precisely where human institutions still matter most.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน