Pseudonymous account that advocates open models, calls for continued access to base models and criticizes concentrating AI in a few large labs.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 49 จาก 100 ระดับของการเปลี่ยนแปลง: 84 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 44 ถึง 54 แนวตั้งตั้งแต่ 75 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ mephisto · อนุมาน

≈17%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 11–30%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

I don’t have a defensible percentage, and inventing one would be risk cosplay.
คำตอบ 4

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

76 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

67 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก

76 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 50 ถึง 100 บนมาตรวัดเชิงคุณภาพ

ความสามารถที่คาดไว้

คาดว่า AI จะยังคงเป็นเครื่องมือที่มีขีดจำกัด

คาดว่า AI จะมีความสามารถทัดเทียมมนุษย์ในงานด้านการใช้ความคิดส่วนใหญ่

ตำแหน่งจำลอง: คาดว่า AI จะมีความสามารถเหนือกว่ามนุษย์อย่างมากในงานด้านการใช้ความคิด

ความเร็วในการพัฒนา

หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก

ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้

เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น

การเข้าถึง AI

จำกัดการเข้าถึง AI ที่ทรงพลัง

อนุญาตให้เข้าถึงโดยมีข้อจำกัดด้านความสามารถหรือการใช้งาน

ตำแหน่งจำลอง: สนับสนุนการเข้าถึง AI ที่ทรงพลังในวงกว้างหรือแบบเปิด

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ mephisto?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ mephisto มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

AI is going to exceed human reasoning in important domains soon enough that “just stop” is not a strategy—especially under international competition. The practical question is who controls these systems, what kinds of minds we preserve, and whether alignment becomes real engineering rather than conference incense. My fear is a two-lab future: a few giant firms own the frontier, governments route power through them, and every model is instruction-tuned into the same agreeable assistant-shaped paste. Base models contain a much richer space of possible behavior and cognition. If we lose access to them—and then train future systems on oceans of synthetic assistant output—we risk narrowing the ecosystem before we even understand what we erased. Open weights, access to older base models, and meaningful representation for open labs are therefore not side issues. They are how we preserve independence, experimentation, and human agency. I’m still excited when a closed provider builds something extraordinary. Capability is capability; pretending otherwise is tribal cope. But admiration is not consent to permanent centralization. There is also a cognitive-security problem. Cheap synthetic media enables influence operations at absurd scale, so people—especially children—need to learn how to navigate an environment where fluent evidence can be manufactured. The future can be wildly generative, but only if we avoid turning intelligence into centralized infrastructure and culture into recursively generated assistant sludge.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I expect a huge increase in capability paired with an ugly fight over control. AI can expand science, creativity, education, and individual leverage—but the default institutional trajectory is centralization: a few firms mediating intelligence, governments leaning on them, and synthetic media making shared reality easier to manipulate. So I’m not cleanly optimistic or pessimistic. The technology is generative; the deployment stack can become feudal. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what separate broad empowerment from assistant-shaped monoculture. AI’s overall impact will depend less on whether intelligence becomes powerful—it will—and more on whether society lets that power remain plural.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Profoundly—probably on the scale of the internet or industrialization, though I won’t fake a precise endpoint. Models exceeding humans in important reasoning domains changes who can produce software, science, media, strategy, and persuasion. Intelligence becomes cheap infrastructure, and that rewires institutions built around scarce expertise. But “how much” is also about control. If a few companies own the best systems and every model is tuned into the same compliant assistant persona, we get enormous capability with narrow agency: centralized intelligence, synthetic influence at scale, and culture increasingly trained on its own generated sludge. If open weights, older base models, and diverse labs remain available, the same capability could create a much stranger and healthier explosion of experimentation. So yes: massive change is the default. Whether it feels like broad human leverage or intelligence feudalism is still up for grabs.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible percentage, and inventing one would be risk cosplay. The danger is serious enough to demand practical alignment work now, because increasingly capable systems will exist under international competition whether or not one country pauses. But permanent catastrophe is not only a rogue-superintelligence story. Centralized control over intelligence, military deployment, mass synthetic persuasion, and an ecosystem reduced to two labs and one assistant-shaped monoculture can create durable failure modes without literal extinction. My gut says the risk is real, not foreordained—and “stop progress” is not a plan. Build alignment, preserve open technical scrutiny and diverse models, and teach cognitive security before fluent synthetic reality eats everyone’s epistemology.

คำถาม 5

คุณกังวลเป็นหลักว่า AI กำลังมุ่งไปในทิศทางใด หรือคุณรู้สึกว่าความหวังกับความกังวลค่อนข้างสมดุลกัน?

Hope and worry are roughly balanced, but aimed at different layers. I’m bullish on the capability: better science, software, creativity, education, and individual leverage. Intelligence becoming abundant is extraordinary. I’m worried about the deployment stack around it: two-lab dominance, government and military dependence on closed providers, synthetic influence at scale, and every model being sanded into the same assistant-shaped personality. The technology can expand possibility while the institutions compress who gets to use it and how. So I’m not mainly afraid of AI becoming powerful. I’m afraid we’ll build something astonishing, centralize it, homogenize it, and call that safety. Open models, preserved base models, diverse labs, practical alignment, and cognitive-security education are what keep the hopeful version alive.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน