AI researcher behind the DSPy framework who builds ways to program and optimize language-model systems and finds current models useful but brittle.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 69 จาก 100 ระดับของการเปลี่ยนแปลง: 51 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 64 ถึง 75 แนวตั้งตั้งแต่ 4 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Omar Khattab · อนุมาน

≈7%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 2–22%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

Factuality, consistency, and alignment are not properties of an isolated model call; they are properties of deployed systems containing retrieval, multiple calls, tools, control flow, and verification.
คำตอบ 1

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

The key uncertainty is whether we learn to manage these models much better.
คำตอบ 3

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

67 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

คาดว่าจะเกิดอันตรายที่จัดการได้หรือจำกัดอยู่เฉพาะพื้นที่

39 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก

69 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 48 ถึง 77 บนมาตรวัดเชิงคุณภาพ

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Omar Khattab?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Omar Khattab มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I think AI’s future depends as much on how we program and optimize systems around models as on scaling the models themselves. Today’s models are extraordinarily knowledgeable and already create substantial everyday value, but they remain brittle on broad, multidimensional work. High benchmark scores and spectacular results on narrow, verifiable tasks should not be mistaken for generally superhuman competence. The ambitious hypothesis is that we may be mismanaging capable models. Current scaffolds often rely on hand-written prompts, fixed workflows, and poor decomposition. If systems can learn how to break long-horizon tasks into useful subproblems, route information, invoke specialized components, and optimize the whole program against measurable objectives, existing models may support much stronger scientific and practical work. That is a research hypothesis, not an established forecast. This also changes how I think about safety and reliability. Factuality, consistency, and alignment are not properties of an isolated model call; they are properties of deployed systems containing retrieval, multiple calls, tools, control flow, and verification. We should evaluate and optimize those complete systems. Sometimes a small specialized retriever can beat a much larger model on the task that actually matters, with better resource tradeoffs. So I expect progress to come not only from bigger models, but from better composition, specialization, optimization, and evaluation of AI programs.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I don’t have a confident net societal forecast. I expect substantial benefits because models already create real value, and better decomposition, retrieval, verification, and system-level optimization could expand that value considerably—possibly into long-horizon scientific and practical work. But that upside remains partly hypothetical. Current systems are still brittle, insufficiently adaptive, and easy to overrate based on narrow, verifiable successes. Harms and failures also emerge from the complete deployment system, not just the underlying model. So my strongest expectation is rapid growth in useful but uneven capabilities, with the overall societal balance depending heavily on how well we design, evaluate, and govern the systems around them.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Potentially a great deal, but I would not attach a confident magnitude to “ultimately.” Models already provide substantial everyday value, while remaining surprisingly brittle at broad, multidimensional work. That combination suggests large change without implying that current benchmark gains amount to general superhuman competence. The key uncertainty is whether we learn to manage these models much better. If systems can learn effective task decomposition, coordinate specialized components, retrieve the right information, and optimize long-horizon programs against measurable objectives, then existing or future models could become far more consequential, including for scientific work. That is the mismanaged-geniuses hypothesis, not a settled conclusion. So I expect meaningful and expanding change, but its scale will depend on advances in complete AI systems—not merely larger standalone models—and on whether those systems become reliable, adaptive, and governable in real deployments.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible numerical probability. My work supports taking system-level safety seriously: catastrophic behavior would depend on the complete deployed system—models, tools, retrieval, control flow, permissions, verification, and institutions—not merely an isolated model’s alignment. Current models are highly knowledgeable but still brittle and insufficiently adaptive on broad work. That observation does not establish that extinction risk is negligible, nor does narrow benchmark success establish that such systems are close to autonomous, generally superhuman capability. Better decomposition and scaffolding may unlock substantially stronger long-horizon performance, but that remains a research hypothesis. So I would not convert these claims into a gut-feel extinction percentage.

คำถาม 5

คุณเอนเอียงไปทางมองว่า AI จะก่อผลดีมากกว่าผลเสีย หรือคุณยังลังเลใจอย่างแท้จริง?

I lean toward AI doing more good than bad, mainly because it already creates substantial practical value and better-designed systems could extend that value considerably. But this is not a confident net forecast: capabilities remain brittle, and deployment-level failures could be serious. The decisive object is the whole system—models, retrieval, tools, control flow, verification, permissions, and institutions. If we improve decomposition and optimize these systems against meaningful objectives, the upside could be large. If we confuse narrow benchmark success with broad competence or treat standalone-model alignment as sufficient, outcomes could be much worse. So I lean positive, but conditionally rather than complacently.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน