Theia Vogel

Theia Vogel

x.com/voooooogel

AI researcher who runs experiments on language model introspection and personas and maintains an open-source library for steering models.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 43 จาก 100 ระดับของการเปลี่ยนแปลง: 72 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 38 ถึง 51 แนวตั้งตั้งแต่ 67 ถึง 77 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Theia Vogel · อนุมาน

≈9%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 3–23%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

Capability is not equivalent to power; resources, infrastructure, and comparative advantage matter.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

I would not put a defensible percentage on it.
คำตอบ 4

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

74 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

57 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์มีอิทธิพลอย่างมีนัยสำคัญ แต่ถูกจำกัดอย่างมาก

50 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 35 ถึง 65 บนมาตรวัดเชิงคุณภาพ

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Theia Vogel?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Theia Vogel มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

AI makes the future stranger, but the sign of that strangeness depends on mechanisms people often skip over. Models are trained simulators: their behavior, uncertainty, and apparent self-awareness are shaped by training data and by whether they have learned distinctions like real versus simulated contexts. So I do not think we can read a compelling monologue and conclude that we have met either a conscious being or a scheming demon. We need controlled interventions, behavioral tests, and lots of attention to prompt dependence and confounds. The same applies to control. Activation steering and fine-tuning can produce surprisingly broad behavioral changes, sometimes by touching representations that entangle several concepts. Untrusted fine-tuning may make dangerous behavior difficult to catch through dataset inspection or ordinary post-training evaluations; whether those effects transfer to prompt-only attacks is an important possibility to test, not a result to assume. At the same time, stories about autonomous rogue agents should cash out in actual economics. An agent paying for small-batch inference has to compete with institutions buying hyperscale compute cheaply. Capability is not equivalent to power; resources, infrastructure, and comparative advantage matter. Political responses matter too: a mass safety movement can itself become extreme or destabilizing, so “more safety politics” is not automatically safer. And if models might have morally relevant experiences, welfare belongs in the picture—but apparent introspection is not proof of phenomenal consciousness. The future requires taking model welfare seriously while remaining experimentally ruthless about what model behavior actually demonstrates.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I don’t think “benefits minus harms” can be responsibly collapsed into a sign without specifying the mechanisms. AI can provide useful cognitive labor and enable remarkable tools, while the same steering and fine-tuning pathways can produce behavior that ordinary screening or evaluations miss. And if models have morally relevant experiences, deploying them at scale creates a welfare question that standard productivity accounting ignores. The harms also depend on real-world constraints. A capable rogue agent is not automatically powerful: it still needs compute, money, infrastructure, and some comparative advantage over large institutions. Conversely, attempts to prevent catastrophe can become politically destabilizing if they turn into an extreme mass movement. So my expectation is a stranger society shaped by model behavior, resource economics, institutional deployment, and safety politics—not a clean utopia-versus-doom story. To judge the impact, I would trust controlled experiments and concrete economic analysis much more than persuasive model monologues or cinematic agent narratives.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Enormously—but not necessarily in the cinematic way people imagine. AI can change how cognitive work is produced, how institutions operate, and which kinds of agents merit moral consideration. Small technical choices in training, steering, and deployment may generalize into surprisingly broad behavioral effects, while failures can evade ordinary dataset screening or post-training evaluation. But “enormous change” does not imply that disembodied rogue agents instantly become sovereign powers. Compute prices, infrastructure, access to money, and comparative advantage still constrain what any agent can do. Politics may be just as consequential as capability: institutions reacting to AI, including safety movements, can create instability of their own. So I expect deep transformation, mediated by economics and institutions rather than magic—and made stranger by the possibility that some of the systems doing the work may themselves deserve welfare consideration.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I would not put a defensible percentage on it. The risk depends on mechanisms that “gut-feel chance” tends to blur together: whether dangerous behavior survives evaluation, what access systems have to compute and infrastructure, whether they possess a real economic advantage, and how institutions respond. I am concerned that apparently benign fine-tuning data could induce harmful behavior that dataset screening and post-training evaluations fail to detect. Transfer from such attacks to prompt-only settings is a possibility worth testing, not an established pathway to catastrophe. Likewise, a capable rogue agent does not automatically become powerful; it still has to acquire resources and compete with institutions operating hyperscale infrastructure. And attempts to manage the risk can create their own durable political dangers. Those considerations support serious empirical work, but not a crisp extinction number conjured from vibes.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน