Victor Taelin

Victor Taelin

x.com/victortaelin

Programmer behind the Bend language who argues machine-checked proofs can catch AI coding mistakes as people read less of the code.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 63 จาก 100 ระดับของการเปลี่ยนแปลง: 74 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 58 ถึง 75 แนวตั้งตั้งแต่ 49 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Victor Taelin · อนุมาน

≈9%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 3–22%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

I expect the impact to be broadly positive if we build reliable ways to constrain and verify AI-generated work, especially software.
คำตอบ 2

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

The central uncertainty is whether we can specify enough of what matters without moving all the ambiguity into the specification itself.
คำตอบ 5

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

สิ่งที่อาจเปลี่ยนความคิดของบุคคลนั้น

The biggest update would come from seeing whether reliable verification scales to real, agent-built systems.
คำตอบ 5

หลักฐานแบบใดจึงจะเพียงพอ และจะทำให้มุมมองของบุคคลนั้นเปลี่ยนไปในทิศทางใด?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

69 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

61 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์มีอิทธิพลอย่างมีนัยสำคัญ แต่ถูกจำกัดอย่างมาก

60 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 43 ถึง 82 บนมาตรวัดเชิงคุณภาพ

ความเร็วในการพัฒนา

หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก

ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้

เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น

กฎการใช้ AI

จำกัดการใช้ AI ที่กล่าวถึงจนกว่าจะมีมาตรการป้องกันหรือการอนุญาตล่วงหน้า

ตำแหน่งจำลอง: อนุญาตการใช้ AI ที่กล่าวถึง โดยมีความรับผิดรับชอบและมาตรการป้องกันที่มุ่งเป้าเฉพาะด้าน

ลดข้อจำกัดในการใช้ AI ที่กล่าวถึงให้น้อยที่สุด

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Victor Taelin?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Victor Taelin มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I expect AI to produce an increasing share of software, eventually to the point where humans stop reading most of the code. That could unlock enormous output, but it also changes the bottleneck: generating plausible code becomes cheap, while knowing that it obeys our intent becomes critical. My preferred direction is to express important requirements as precise formal laws and have machines check proofs against them. If an agent changes a game, compiler, or financial system, we should be able to state invariants that must remain true and reject changes that violate them. This does not guarantee every unstated human intention or eliminate every bug; guarantees cover the properties we actually specify, and the proof machinery itself remains trusted infrastructure. That critical kernel deserves careful human attention even if the surrounding agent-generated code is rough. I also think we should judge AI systems by their failure tails, not just their most impressive demonstrations. A model that occasionally produces brilliant work but sometimes destroys the project may be less useful than one with a lower peak and a reliable floor. Rankings will also vary by domain, so there is unlikely to be one universally best model. Overall, I am enthusiastic about AI-driven programming, but its future depends on pairing generation with persistent context and reliable verification rather than trusting outputs because they look convincing.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I expect the impact to be broadly positive if we build reliable ways to constrain and verify AI-generated work, especially software. AI can dramatically increase what individuals and small teams can create, but cheap generation also means cheap mistakes, accumulated technical debt, and occasional destructive failures. The key question is not whether an AI can produce an impressive result once. It is whether we can depend on it repeatedly without silently corrupting important systems. Persistent memory can help agents maintain context across long projects, while formal laws and machine-checked proofs can prevent specified classes of errors. Those guarantees are limited: they cover what we precisely state, not every intention we forgot to express, and the trusted verification kernel still needs careful human scrutiny. So my optimism is conditional rather than automatic. If society deploys AI based mainly on demos and peak capability, the harms could be substantial. If we optimize for reliable floors, preserve carefully audited trusted components, and make intent mechanically checkable where possible, AI could provide enormous productive benefits even when humans no longer read most of what it writes.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

I think AI could change the world enormously, especially by making software generation abundant. If humans eventually stop reading most code, programming shifts from manually writing implementations to stating intent, maintaining context, and mechanically verifying important properties. That is a fundamental change, but its scale does not guarantee a good outcome. Systems that look brilliant at their best can still be unusable if their worst failures destroy projects or silently corrupt critical infrastructure. Persistent memory may let agents work coherently across larger projects, while formal laws and machine-checked proofs can prevent specified categories of mistakes and technical debt. The limitation matters: proofs only guarantee the properties we actually formalize, and the proof-checking kernel remains trusted infrastructure that deserves careful human auditing. So I expect a very large transformation, but the useful transformation depends on making reliability scale alongside generation.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible percentage. My concern is less a precise extinction forecast than the general pattern that worst-case failures can dominate impressive average performance. As AI gains control over larger software systems, a rare destructive mistake can matter far more than thousands of successful tasks. Formal verification can reduce specified classes of failure by making critical invariants mechanically checkable, but it cannot prove every human intention we failed to state, and the trusted verification machinery remains part of the risk surface. So I take permanent catastrophe seriously, while not pretending I can turn that concern into a meaningful numerical probability.

คำถาม 5

การค้นพบหรือเหตุการณ์ใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับผลกระทบในอนาคตของ AI มากที่สุด?

The biggest update would come from seeing whether reliable verification scales to real, agent-built systems. If agents could maintain large codebases while routinely producing machine-checkable proofs of meaningful requirements—with a small, carefully audited trusted kernel—that would make me substantially more optimistic. Conversely, I would become much more pessimistic if increasingly capable agents kept causing rare, destructive failures that persistent memory, testing, and formal methods could not contain. The decisive evidence is not a spectacular demo or benchmark win; it is sustained performance on long-running projects, especially the failure floor. A system that is brilliant 99 times and catastrophically corrupts the project once may be worse than a less capable but dependable alternative. I would also update if we discovered that translating human intent into precise laws is either far easier or fundamentally harder than expected. Proofs can enforce what we specify. The central uncertainty is whether we can specify enough of what matters without moving all the ambiguity into the specification itself.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน