Jack Morris

Jack Morris

x.com/jxmnop

Language model researcher who studies memorization and privacy leaks from text embeddings and writes about reinforcement learning and synthetic data.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
จุดกึ่งกลางของช่วงที่ยังไม่แน่ชัดช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 47 จาก 100 ระดับของการเปลี่ยนแปลง: 50 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 42 ถึง 52 แนวตั้งตั้งแต่ 0 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Jack Morris · อนุมาน

≈8%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 3–19%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

The key variable for me is how much useful output systems can produce per unit of human input, especially as that input approaches zero.
คำตอบ 2

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

So I expect major change, with the ultimate magnitude still unresolved.
คำตอบ 3

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

67 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

66 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

ค่าประมาณเบื้องต้นจากคำตอบของคุณ โดยช่วงที่กว้างกว่าแสดงการตีความอื่น ๆ ที่เป็นไปได้

50 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 0 ถึง 100 บนมาตรวัดเชิงคุณภาพ

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Jack Morris?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Jack Morris มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I think the most useful way to discuss AI’s future is to avoid treating “AGI” as one inevitable threshold. I’d rather measure how much useful output systems produce per unit of human input. That lets us ask concrete questions: Can an agent find important software bugs, conduct productive experiments, or complete work without constant supervision? Coding agents already show practical value in bug-finding, but truly zero-human-input economic production would be a qualitatively more consequential—and potentially frightening—development. The trajectory is also harder to extrapolate than simple scaling stories suggest. Reinforcement learning appears to teach models new ways of using compute, not merely extract behaviors learned during pretraining. Models are also beginning to learn from self-generated data and use memory in interesting ways, although calibrating those memories and generating scalable, useful training data remain open problems. More capable AI researchers may learn from much smaller experiments than humans do, so current estimates of how much compute scientific progress requires could be misleading. The same capabilities create asymmetric risks. Systems that find bugs can help defenders, but capable adversaries can use them to discover vulnerabilities and compromise devices or cloud accounts. Privacy is another concrete concern: models can memorize training data, and even text embeddings can reveal surprisingly much of the original text and personal information. So I expect substantial practical gains alongside serious security and privacy problems, with the outcome depending less on whether we cross a named threshold than on autonomy, human oversight, and measurable capability in specific domains.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I don’t think I can honestly compress the overall impact into a single positive or negative forecast. The measurable picture is mixed: AI can already help find real software bugs and reduce the human input needed for useful technical work, while the same capability can improve vulnerability discovery for attackers. Likewise, memory and representation learning can make systems more useful, but memorization and embedding inversion create concrete privacy risks. The key variable for me is how much useful output systems can produce per unit of human input, especially as that input approaches zero. If they remain tools that amplify supervised work, the benefits could be substantial and comparatively manageable. If they become reliable, autonomous producers of economic or scientific output—or capable offensive cyber agents—the societal consequences become much larger and potentially frightening. So I expect significant benefits and serious harms, not a clean verdict. I would track autonomy, calibration, security, privacy leakage, and performance on concrete tasks rather than infer society’s future from whether someone declares that “AGI” has arrived.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Potentially enormously, but “how much” depends on measurable autonomy rather than whether we cross an “AGI” threshold. If AI mostly amplifies supervised human work—finding bugs, assisting research, reducing routine effort—that is already a substantial change. If systems can reliably produce valuable economic or scientific output with almost no human input, the change could be qualitatively larger and more destabilizing. I also would not extrapolate too confidently from current bottlenecks. Reinforcement learning can teach models new ways to use compute; self-generated data and memory may broaden learning; and more capable AI researchers might extract useful conclusions from much smaller experiments than humans require. But memory calibration and scalable generation of useful training data remain open problems. So I expect major change, with the ultimate magnitude still unresolved. The most informative indicators are concrete: useful output per human input, reliability over long tasks, scientific productivity, cyber capability, and privacy leakage—not a binary declaration that AGI has arrived.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible numerical probability. My concrete concerns are about increasingly autonomous systems, AI-enabled cyber intrusion, privacy leakage, and the possibility of near-zero-human-input economic or scientific production. Those could become severe, but they do not by themselves establish an extinction forecast. I’d rather track measurable autonomy, reliability, offensive capability, and the amount of useful output produced without human oversight than invent a precise catastrophe percentage.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน