Rooke Poole

Rooke Poole

x.com/rookepoole

Independent engineer who researches attack surfaces in AI agents and calls for transparency about who funds efforts to slow AI.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 51 จาก 100 ระดับของการเปลี่ยนแปลง: 63 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 46 ถึง 75 แนวตั้งตั้งแต่ 48 ถึง 77 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Rooke Poole · อนุมาน

≈7%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 2–20%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

My immediate concern is simpler: systems that can read sensitive data, retain poisoned memory, call tools, move assets, or control infrastructure can turn untrusted context into consequential action.
คำตอบ 4

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

So I expect profound change, but I do not have a percentage, endpoint, or AGI date.
คำตอบ 3

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

65 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

65 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก

72 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 40 ถึง 100 บนมาตรวัดเชิงคุณภาพ

ความเร็วในการพัฒนา

หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก

ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้

เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น

กฎการใช้ AI

จำกัดการใช้ AI ที่กล่าวถึงจนกว่าจะมีมาตรการป้องกันหรือการอนุญาตล่วงหน้า

ตำแหน่งจำลอง: อนุญาตการใช้ AI ที่กล่าวถึง โดยมีความรับผิดรับชอบและมาตรการป้องกันที่มุ่งเป้าเฉพาะด้าน

ลดข้อจำกัดในการใช้ AI ที่กล่าวถึงให้น้อยที่สุด

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Rooke Poole?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Rooke Poole มากที่สุด

สิ่งที่ Rooke Poole เคยพูดเกี่ยวกับ AI

Poole researches how AI agents can be attacked, wants AI infrastructure people own, and asks who funds the push to slow frontier AI.

  1. “I think there is a new attack surface in AI agents that people are not really looking at yet.”

    Post on X
  2. “Prompt injection was only the beginning. The real AI security problem is authority.”

    Post on X
  3. “But if society is being asked to slow one of the most consequential technologies ever built, we should know who funds that argument and how it reaches policymakers.”

    Post on X
  4. “Most people won’t lose to AI. They’ll lose to people who learned how to use it before they did.”

    Post on X
  5. “The cloud is convenient, but I want AI infrastructure I actually own.”

    Post on X

อ้างอิงคำต่อคำจากแหล่งที่ลิงก์ไว้ ตรวจสอบเมื่อ 6 ต.ค. 2569

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

AI makes execution cheap. That shifts leverage toward people with judgment, taste, and the willingness to learn the tools early. One stubborn person can increasingly operate like a small company. I expect the gap between people who use AI well and people who do not to compound quickly. That is not the same as predicting economy-wide job losses. It is a claim about individual capability and competition. The risk is real too, but I locate the measurable danger in authority. What can an agent read, execute, remember, and control? Prompt injection was only the beginning. Agents can follow search chains into poisoned context the user never requested. Memory can preserve that taint after provenance fades. Protocol bridges can preserve a payload while silently upgrading its apparent authority. Semantic relevance must never become authority. So the future depends less on whether models sound intelligent and more on what systems permit them to do. Consequential actions should remain explicit and human-authorized. Translation must not increase trust. Model output must not become permission. Data, tools, and control should stay close to the operator wherever possible. I want AI infrastructure people can actually own, not merely rent from remote platforms. Build the strange thing. Then make it answerable. And when governments are asked to slow or regulate frontier AI, the case should be made with evidence and transparent funding—not institutional prestige or “trust me.” I have not assigned a catastrophe probability or an AGI date. My focus is the attack surface already forming in deployed agent systems.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I do not have a single net-positive or net-negative forecast for society. The clearest benefit is leverage: AI lowers the cost of execution, letting capable individuals build, research, and operate at a scale that previously required an organization. The advantage will compound for people who learn to use it well. The clearest harm is delegated authority without adequate security. An agent that can read private data, call tools, retain memory, or execute transactions creates a different class of attack surface. Untrusted context can redirect it; protocol translation can erase provenance or upgrade trust; yesterday’s poisoned memory can become tomorrow’s instruction. These are concrete engineering failures, not hypothetical superintelligence. So the overall impact depends heavily on system design and ownership. Keep authority explicit. Preserve taint and provenance. Never let translation or semantic relevance increase permission. Require human authorization for consequential actions. Keep infrastructure close to its operator where practical. AI can make people dramatically more capable, while simultaneously making compromised systems dramatically more consequential. I expect both effects. I have not reduced that into a societal score, catastrophe probability, or jobs forecast.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

Enormously. AI is making execution cheap: one capable person can increasingly do work that once required a small organization. That changes who can build products, conduct research, create media, and compete. The scarce part becomes judgment, taste, and deciding what is worth doing. But the magnitude of change also comes from delegated authority. Once agents can access private data, retain memory, call tools, move money, or operate infrastructure, their failures stop being merely bad answers. Poisoned context can become action. Protocol bridges can silently change who appears trusted. Persistent memory can carry taint forward after provenance disappears. So I expect profound change, but I do not have a percentage, endpoint, or AGI date. The decisive question is not just how capable models become. It is what authority we give them, who owns the surrounding infrastructure, and whether consequential actions remain answerable to a human.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I don’t have a defensible percentage, and I won’t invent one. AI risk is real, but my work supports concrete claims about agent authority and attack surfaces—not a quantified extinction forecast. My immediate concern is simpler: systems that can read sensitive data, retain poisoned memory, call tools, move assets, or control infrastructure can turn untrusted context into consequential action. That can produce serious, potentially systemic harm without requiring superintelligence. Model output must not become permission. Semantic relevance must never become authority. A gut number would imply evidence and calibration I do not have. I would rather separate what is observed, reproduced, inferred, and still unvalidated than dress uncertainty up as a probability.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน