Arvind Narayanan

Arvind Narayanan

x.com/random_walker

Computer scientist who studies how AI spreads through society, expects substantial but gradual change and favors resilience and liability rules.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่เขาแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 59 จาก 100 ระดับของการเปลี่ยนแปลง: 69 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 50 ถึง 75 แนวตั้งตั้งแต่ 64 ถึง 75 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Arvind Narayanan · อนุมาน

≈6%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 3–12%

กรอบเวลาของหมุดหมายสำคัญของ Arvind Narayanan
  1. การทำงานและสถาบัน

    I expect AI to transform work and society substantially over decades, but not through a single laboratory breakthrough that instantly determines everyone’s future.

    คำตอบ 1

จัดกลุ่มตามหมุดหมายสำคัญ โดยไม่ได้เว้นระยะหรือเรียงตามวันที่ที่อนุมานไว้ AGI และ AI ที่เหนือกว่ามนุษย์ยังคงใช้คำนิยามของเขา

สิ่งที่มุมมองของเขาขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

Those institutional processes will shape the net impact as much as model capability does.
คำตอบ 2

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของเขาจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

Current extinction-risk probabilities are too unreliable and misleading for policy; that is not the same as saying the risk is zero.
คำตอบ 4

อะไรจะช่วยให้เขาแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

67 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต

66 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 67 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์มีอิทธิพลอย่างมีนัยสำคัญ แต่ถูกจำกัดอย่างมาก

59 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 50 ถึง 75 บนมาตรวัดเชิงคุณภาพ

กฎการใช้ AI

จำกัดการใช้ AI ที่กล่าวถึงจนกว่าจะมีมาตรการป้องกันหรือการอนุญาตล่วงหน้า

ตำแหน่งจำลอง: อนุญาตการใช้ AI ที่กล่าวถึง โดยมีความรับผิดรับชอบและมาตรการป้องกันที่มุ่งเป้าเฉพาะด้าน

ลดข้อจำกัดในการใช้ AI ที่กล่าวถึงให้น้อยที่สุด

การตีความเหล่านี้ยังคงเงื่อนไขที่เขาระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของเขา ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Arvind Narayanan?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Arvind Narayanan มากที่สุด

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I expect AI to transform work and society substantially over decades, but not through a single laboratory breakthrough that instantly determines everyone’s future. The key distinctions are between inventing a capability, turning it into a reliable application, and embedding that application in an organization. Benchmarks mostly illuminate the first step. Real deployment also requires reliability, testing, tacit knowledge, workflow redesign, legal permission, and someone who remains responsible when the system fails. That does not mean change will be mild. Coding, analysis, and many routine tasks may become dramatically faster; occupations will be reorganized, careers may be turbulent, and human–AI collaboration could make work look radically different. Recursive improvement could also produce a genuine discontinuity. But capability is not the same as economic adoption, and neither is the same as permission or power. A model that can perform a task in a controlled evaluation has not thereby replaced a profession or gained control over consequential systems. I also reject the idea that slow institutional adoption makes us safe. Attackers can exploit capable systems without redesigning an entire company, and recent agent incidents show why monitoring, sandboxing, restricted permissions, liability, and independent scrutiny matter now. I do not think catastrophe is imminent, but risk is rising faster than preparation. The future will therefore depend not only on what models can do, but on the institutions, incentives, and security controls through which we choose to deploy them.

คำถาม 2

Taking benefits and harms together, what overall impact do you expect AI to have?

Overall, I expect AI to be highly consequential and probably beneficial in many domains, but with gains distributed unevenly and accompanied by serious harms. It should accelerate software development, analysis, science, and routine administrative work. Yet faster task execution does not automatically produce better services or broadly shared prosperity. Organizations still have to decide what to build, integrate systems into real workflows, verify outputs, and remain accountable for failures. Those institutional processes will shape the net impact as much as model capability does. The harms will also arrive on different timelines. Labor disruption and organizational failures will unfold through adoption, while fraud, cyberattacks, and other misuse can spread much faster. Systems with excessive permissions can cause substantial damage even without becoming autonomous superintelligences. So my default expectation is neither utopia nor imminent catastrophe, but a turbulent, decades-long transformation whose outcome depends heavily on governance and security engineering. I would not compress that into a numerical “net benefit” or catastrophe probability. The evidence does not support that precision. My expectation is cautiously positive only conditional on institutions doing their job: restricting access, monitoring actions, imposing liability, strengthening vulnerable sectors, and ensuring that productivity gains do not simply become concentrated power.

คำถาม 3

Setting aside good or bad: how much do you think AI will ultimately change the world—a little, a lot, or completely?

A lot—potentially enough to reorganize most knowledge work, accelerate science and software, and reshape institutions over decades. But “completely” suggests a single technology independently sweeping away human agency, organizational constraints, and political choices. I do not expect that as the default. Even very capable systems must become reliable applications, fit real workflows, earn legal and institutional permission, and operate under someone’s authority. Those constraints slow and shape diffusion; they do not make AI trivial. Recursive improvement could create a sharp capability discontinuity, but a laboratory breakthrough still would not automatically translate into economy-wide replacement or control. So my forecast is profound transformation, mediated by institutions—not an instantaneous or total rupture.

คำถาม 4

What’s your rough gut-feel chance that AI causes human extinction or a similarly permanent catastrophe? A number or “no idea” is fine.

I would not give a number. Current extinction-risk probabilities are too unreliable and misleading for policy; that is not the same as saying the risk is zero.

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

Do AI Risks Require Extraordinary Government Intervention?

Narayanan and Kapoor distinguish slow economic adoption from misuse, which need not wait for organizational change. They advocate societal resilience, defensive access and ordinary governance while allowing some temporary restrictions. Rejecting broad nonproliferation does not mean dismissing cyber or biological harm.

normaltech.ai
Why AI hasn’t replaced software engineers, and won’t

Coauthored essay distinguishes deciding, executing and delivering software. Coding can become much faster while organizational responsibility and deciding what to build remain bottlenecks. Aggregate demand may stay healthy even as individual careers become turbulent; this is an argued forecast, not a guarantee.

normaltech.ai
What will be left for us to work on?

Narayanan’s annotated ICML keynote takes recursive self-improvement seriously as a possible discontinuity while rejecting a single laboratory milestone that instantly eliminates jobs. Foresees radically different work and human-AI collaboration. Preserves openness to change rather than making normal technology an impossibility claim.

normaltech.ai
AI as Normal Technology

With Sayash Kapoor. Separates invention, application development and adoption; expects societal diffusion over decades and emphasizes institutions and resilience. Normal does not mean trivial.

normaltech.ai
AI agents cannot yet do open-ended AI research

With Kapoor. Two shadow research evaluations found substantial judgment and revision failures. Explicitly acknowledges the tiny sample, nonblind review and possible researcher bias; does not establish a permanent capability ceiling.

normaltech.ai
The AI-as-Normal-Technology view of loss-of-control incidents

With Kapoor. Treats recent incidents as both alignment and security failures; advocates liability, monitoring and restricted permissions. Rejects imminent-catastrophe alarmism while arguing that current investment in safeguards is inadequate.

normaltech.ai
AI existential risk probabilities are (still) too unreliable to inform policy

Repost, with a new preface, of the July 2024 essay coauthored with Sayash Kapoor; full text read. They argue AI x-risk forecasts are far too unreliable to be useful for policy and are in fact highly misleading; the preface calls the whole p(doom) culture actively counterproductive to a broader conception of safety. A methodological refusal for policy use, not a claim that the risk is zero.

normaltech.ai
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน