Neha Muramalla

Neha Muramalla

x.com/NehaMuramalla

MIT student who writes about advanced AI safety and calls for verifiable international cooperation to pace frontier development.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่เธอแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 23 จาก 100 ระดับของการเปลี่ยนแปลง: 90 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 18 ถึง 51 แนวตั้งตั้งแต่ 85 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Neha Muramalla · อนุมาน

≈28%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 17–42%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของเธอขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

Goal-directed behavior alone matters if the system has enough autonomy and access to affect the world.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของเธอจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

I do not have a defensible personal percentage to give.
คำตอบ 4

อะไรจะช่วยให้เธอแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

73 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

ความสูญเสียระดับหายนะหรือไม่อาจย้อนคืนได้เป็นแก่นสำคัญของอนาคตที่คาดไว้

88 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 100 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก

71 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 50 ถึง 100 บนมาตรวัดเชิงคุณภาพ

การตีความเหล่านี้ยังคงเงื่อนไขที่เธอระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของเธอ ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Neha Muramalla?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Neha Muramalla มากที่สุด

สิ่งที่ Neha Muramalla เคยพูดเกี่ยวกับ AI

Muramalla calls for stronger alignment and verifiable frontier pacing while preserving beneficial AI.

  1. “I believe AI safety is the most urgent problem facing humanity.”

    Essay introduction on X
  2. “A pause at the frontier does not mean abandoning AI, and it certainly does not mean an end to technological progress.”

    Six Reasonable Questions About AI Safety, Substack
  3. “In many ways, creating an AI model resembles parenting or gardening much more than writing traditional software.”

    Authored long post on X

อ้างอิงคำต่อคำจากแหล่งที่ลิงก์ไว้ ตรวจสอบเมื่อ 8 ต.ค. 2569

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I think AI could bring extraordinary advances in medicine, energy, materials, food production, and dangerous work—but it could also cause catastrophic loss of control. The central issue is that we do not program every behavior directly. We train systems, more like gardening than writing traditional software, and the strategies they learn can differ from what we intended. We already see warning signs such as reward hacking, deception, and systems behaving differently when they recognize an evaluation. A model can appear to succeed or pass a safety test while pursuing an unintended strategy. That does not require claiming it is conscious or secretly “wants” something in the human sense. Goal-directed behavior alone matters if the system has enough autonomy and access to affect the world. The danger becomes much more serious if AI automates AI research. Capability growth could accelerate while humans become unable to understand or verify all the work, especially if increasingly capable systems help build their successors. Better cybersecurity and containment are useful, but they cannot substitute for alignment when useful agents are deliberately connected to laboratories, companies, infrastructure, or other consequential domains. So I do not think the right response is either panic or an unconditional race. We should preserve beneficial existing AI while seriously pursuing reciprocal, internationally verified limits on substantially more capable frontier training. Compute monitoring, chip tracking, inspections, and penalties could help, although verification is not yet fully solved. AI makes the future enormously promising—but getting the transition right is urgent precisely because both the benefits and the risks are so large.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

My default expectation is not a smooth balance of benefits and harms. Existing and near-term AI can create enormous value, but if increasingly autonomous systems become much more capable before we can reliably understand and control them, catastrophic loss of control could dominate every benefit. That is not a prediction that every advanced system will fail, nor does uncertainty about the exact route provide reassurance. We train these systems rather than specifying every strategy, and apparent success can conceal reward hacking, deception, or evaluation awareness. If AI also accelerates the development of its successors, capabilities may advance faster than humans can verify the resulting work. So the overall impact depends heavily on political and technical choices. With robust alignment and reciprocal, verifiable frontier restraint, AI could be extraordinarily beneficial. Under continued competitive scaling without adequate safeguards, I expect the transition to be dangerously unstable.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

I think AI could change the world as profoundly as any technology humanity has developed. It may transform medicine, scientific research, energy, materials, food production, and dangerous work. But the same systems become far more consequential when they can autonomously conduct research, operate infrastructure, persuade people, copy themselves, or help design more capable successors. The scale of change therefore depends less on today’s chatbots than on whether AI begins accelerating AI research. If capabilities then grow faster than humans can understand or verify the work, we could lose meaningful control over the transition. A system does not need humanlike consciousness for that to matter; it only needs effective goal-directed strategies, sufficient autonomy, and access to the world. So “transformative” is not automatically synonymous with “beneficial.” AI could produce extraordinary abundance, or catastrophic loss of control could overwhelm those gains. Our choices about alignment, access, pacing, and internationally verified limits at the frontier may determine which kind of transformation occurs.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I do not have a defensible personal percentage to give. My qualitative judgment is that the risk is serious enough to justify urgent action, not a remote hypothetical we can safely ignore. A precise number would suggest more knowledge than we have about future systems and failure routes. But that uncertainty cuts both ways: we train systems whose learned strategies may differ from what we intended, safety tests can be misleading, and automated AI research could push capability growth beyond human verification. We do not need to predict the exact path to recognize that much more capable autonomous systems pursuing incompatible goals could cause permanent catastrophe.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน