Ellie Huxtable

Ellie Huxtable

x.com/ellie_huxtable

Software engineer behind the open-source shell tool Atuin who now finds AI coding agents useful and favors strong user privacy and sandboxed agents.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
จุดกึ่งกลางของช่วงที่ยังไม่แน่ชัดช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 64 จาก 100 ระดับของการเปลี่ยนแปลง: 50 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 40 ถึง 85 แนวตั้งตั้งแต่ 0 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Ellie Huxtable

ยังไม่ได้ประมาณค่า

คำตอบจำลองของบุคคลนั้นมีข้อมูลเกี่ยวกับความเสี่ยงจากหายนะไม่เพียงพอที่จะประเมิน

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans.
คำตอบ 4

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

ยังมีการตีความที่เป็นไปได้หลายแบบ ได้แก่ คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์ / คาดว่าจะได้รับประโยชน์อย่างจำกัดหรือกระจุกตัวอยู่ในวงแคบ

52 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

คาดว่าจะเกิดอันตรายที่จัดการได้หรือจำกัดอยู่เฉพาะพื้นที่

30 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 0 ถึง 33 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

คุณยังไม่ได้ข้อสรุปในเรื่องนี้ จุดดังกล่าวแสดงจุดกึ่งกลางของช่วงที่ยังเปิดกว้าง ไม่ใช่ความเชื่อระดับปานกลาง

50 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 0 ถึง 100 บนมาตรวัดเชิงคุณภาพ

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Ellie Huxtable?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Ellie Huxtable มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I’m much more optimistic about AI-assisted programming than I used to be. With better models and tools, the productivity gain is real, and agents can now write effective software. The useful workflow is not just asking for code: agents need access to compiler errors, test output, and other feedback so they can inspect failures and iterate directly. That does not remove the need for engineering discipline. Language guarantees—especially the classes of problems Rust can rule out—reduce how much generated code humans must scrutinize. Review still matters, and unattended agents should run inside isolated virtual machines rather than directly on a sensitive host. Terminal data can include commands, paths, secrets, and operational context, so privacy should not depend on a company merely promising restraint. I prefer cryptographic protection, explicit permission before sharing more machine context, and options for self-hosting or local models. AI features should be optional, and dangerous commands need additional checks and confirmation. Beyond developer productivity, privacy, and operational safety, I don’t have a well-founded general forecast for “our future.” These tools already matter in practical software work, but that alone does not justify a confident prediction about AGI, extinction, or society as a whole.

คำถาม 2

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible percentage. My experience with AI is about developer productivity, privacy, and safely operating coding agents; it doesn’t give me a sound basis for estimating human extinction or permanent global catastrophe. I’d rather not turn a gut feeling into a fake quantitative forecast.

คำถาม 3

คุณคาดว่าผู้คนและสถาบันที่พัฒนา AI จะรับมือกับความเสี่ยงของ AI อย่างไร?

I can speak more concretely about how I think developers should respond than predict how the whole industry or governments will behave. In products touching terminals and developer machines, risk controls should be structural: encrypted user data, explicit permission before exposing additional context, opt-in AI features, self-hosting or local-model support, and confirmation around dangerous commands. Unattended agents should run in isolated VMs, with access to the feedback they need but not unrestricted access to the host. I also do not think promises are enough, especially for sensitive data. Cryptographic protection and user-controlled deployment provide stronger guarantees than statements about what a service intends to do. For generated software, strong language guarantees, tests, and human review still matter. I don’t have a well-founded forecast for how AI institutions generally will respond to larger societal or catastrophic risks. My views on practical developer-tool safeguards do not establish a broader prediction about industry governance or regulation.

คำถาม 4

คุณคาดว่าผู้คนจะยังคงควบคุมระบบ AI ที่ฉลาดกว่ามนุษย์ได้หรือไม่ และเพราะเหตุใด?

I don’t have a well-founded prediction about whether humans could retain control of systems broadly smarter than humans. My practical experience is with current coding agents, where control comes from limiting permissions, isolating execution in VMs, requiring confirmation for dangerous commands, and keeping humans in the review loop. Those measures are useful now, but I would not pretend they answer the much larger question. A system being better than a person at software tasks does not automatically make it uncontrollable, and current operational safeguards do not prove that much more capable systems would remain controllable either.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน