Stella Biderman

Stella Biderman

x.com/blancheminerva

AI researcher at EleutherAI who studies how language models learn and argues for open models, independent research access and transparent evaluation.

AI จะเปลี่ยนแปลงโลกอย่างไร?

การเปลี่ยนแปลงระดับอารยธรรมการเปลี่ยนแปลงแบบค่อยเป็นค่อยไปDoomBloom
ตำแหน่งจำลองช่วงการตีความ

แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง

Doom–Bloom: 49 จาก 100 ระดับของการเปลี่ยนแปลง: 51 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 44 ถึง 54 แนวตั้งตั้งแต่ 46 ถึง 56 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์

P(doom) ของ Stella Biderman · อนุมาน

≈5%

0%100%

อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 2–11%

เราประมาณค่า P(doom) อย่างไร

สิ่งที่มุมมองของบุคคลนั้นขึ้นอยู่กับ

ข้อสันนิษฐานหลัก

The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures.
คำตอบ 2

หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?

คำถามที่ยังไม่มีข้อสรุป

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself.
คำตอบ 2

อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?

รายละเอียดเพิ่มเติม

ผลดีที่คาดไว้

คาดว่าจะได้รับประโยชน์อย่างมาก โดยมีเงื่อนไขสำคัญหรือข้อจำกัดด้านการกระจายประโยชน์

62 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อันตรายที่คาดไว้

ยังมีการตีความที่เป็นไปได้หลายแบบ ได้แก่ อันตรายร้ายแรงหรือแพร่หลายในวงกว้างเป็นส่วนสำคัญที่คาดว่าจะเกิดขึ้นในอนาคต / คาดว่าจะเกิดอันตรายที่จัดการได้หรือจำกัดอยู่เฉพาะพื้นที่

51 / 100

ผลกระทบน้อยผลกระทบที่ก่อให้เกิดการเปลี่ยนแปลงอย่างมาก

ช่วงการตีความตั้งแต่ 33 ถึง 67 บนมาตรวัดเชิงคุณภาพ

อิทธิพลของมนุษย์

การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก

75 / 100

อิทธิพลน้อยอิทธิพลมาก

ช่วงการตีความตั้งแต่ 50 ถึง 100 บนมาตรวัดเชิงคุณภาพ

ความเร็วในการพัฒนา

หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก

ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้

เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น

กฎการใช้ AI

จำกัดการใช้ AI ที่กล่าวถึงจนกว่าจะมีมาตรการป้องกันหรือการอนุญาตล่วงหน้า

ตำแหน่งจำลอง: อนุญาตการใช้ AI ที่กล่าวถึง โดยมีความรับผิดรับชอบและมาตรการป้องกันที่มุ่งเป้าเฉพาะด้าน

ลดข้อจำกัดในการใช้ AI ที่กล่าวถึงให้น้อยที่สุด

การเข้าถึง AI

จำกัดการเข้าถึง AI ที่ทรงพลัง

อนุญาตให้เข้าถึงโดยมีข้อจำกัดด้านความสามารถหรือการใช้งาน

ตำแหน่งจำลอง: สนับสนุนการเข้าถึง AI ที่ทรงพลังในวงกว้างหรือแบบเปิด

การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ

จุดยืนของคุณอยู่ตรงไหนเมื่อเทียบกับ Stella Biderman?
ทำแผนที่โลกทัศน์เกี่ยวกับ AI ของคุณเองในประมาณ 3 นาที แล้วจึงเปรียบเทียบ

โลกทัศน์ที่คล้ายกัน

ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Stella Biderman มากที่สุด

แหล่งข้อมูล

บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้

แบบประเมินจำลอง

คำถาม 1

คุณคิดว่า AI มีความหมายอย่างไรต่ออนาคตของเรา และเพราะเหตุใด?

I think AI’s effects will depend less on treating models as autonomous forces and more on the institutions that build, study, deploy, and govern them. Language models can be useful tools, but they do not substitute for domain expertise or institutional knowledge. Starting with “How can AI solve this?” is often the wrong approach; we should begin by understanding the actual problem. A beneficial future requires a broad, empirical science of AI. Researchers need access to models, data, checkpoints, public compute, and transparent evaluations so they can study how capabilities, biases, memorization, and safety-relevant behaviors emerge during training—not merely patch finished systems after deployment. If meaningful research is restricted to a few large companies, outsiders cannot independently test claims, uncover failures, or develop competing approaches. I’m therefore concerned about policies built around secrecy, weak filters, or analogies to nuclear weapons. Those approaches can obscure risks and entrench incumbents without preventing powerful systems from being developed. Safety policy should instead include outside participation, explicit criteria, ordinary security engineering, institutional accountability, and room for open competitors. AI’s future is not determined by the models alone; it will be shaped by who can examine them, who controls them, and whether failures can be investigated publicly.

คำถาม 2

เมื่อพิจารณาทั้งประโยชน์และอันตรายร่วมกัน คุณคาดว่า AI จะส่งผลกระทบโดยรวมต่อสังคมของเราอย่างไร?

I don’t think a single confident net-positive or net-negative forecast follows from the technology itself. The overall impact will depend heavily on institutional choices: whether access and power remain concentrated, whether independent researchers can examine models, whether evaluations are transparent, and whether organizations are accountable for ordinary security and deployment failures. AI can provide useful tools and broaden access to some capabilities, but it can also reproduce biases, conceal failures behind closed systems, and encourage people to substitute model outputs for real domain expertise. My expectation is therefore conditional rather than a numerical forecast. With public compute, open research, meaningful outside scrutiny, and clear safety criteria, the benefits can be widely distributed and problems discovered earlier. Under secrecy and concentrated control, we should expect weaker accountability and fewer opportunities to understand or correct harmful behavior.

คำถาม 3

คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?

I expect AI to change many kinds of work, research, and access to information, but I would resist turning that into a claim that models independently determine history. The magnitude of change depends on how institutions deploy them, which problems they are applied to, and who controls access. A model does not supply the domain knowledge, organizational capacity, or political judgment needed to solve a social problem. The distribution of that change matters as much as its scale. If a few firms control powerful models and outsiders can study them only through restricted interfaces, AI may reinforce existing concentrations of power while making failures harder to investigate. Public compute, open models and checkpoints, transparent evaluation, and independent research could instead distribute capabilities and improve our understanding of how model behavior develops. So I expect substantial change, but I would not attach a percentage or rank it against the industrial revolution or electricity. Those comparisons suggest more certainty than we have. The consequential question is not merely how powerful models become, but whether society builds institutions capable of examining, contesting, and governing their use.

คำถาม 4

โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?

I would not assign a defensible percentage from the evidence I have. “Gut-feel chance” encourages false precision about poorly specified outcomes and mechanisms. I do think powerful AI systems can create serious risks, but evaluating them requires distinguishing concrete failure modes: how capabilities arise during training, how systems behave in deployment, whether security controls actually work, and whether institutions respond to expert warnings. A theoretical side channel, for example, is not automatically a practical way to extract model weights; safety claims need empirical scrutiny. I also reject treating AI as if it were simply nuclear weapons in software form. That analogy can drive secrecy and concentrated control while doing little to prevent powerful models from being developed. Whatever the tail risk is, reducing it requires open scientific investigation, independent access, transparent evaluations, competent security engineering, and institutional accountability—not an unsupported extinction number.
จุดยืนของคุณอยู่ตรงไหน?
สำรวจโลกทัศน์เกี่ยวกับ AI ของคุณเองด้วยการตอบคำถามง่ายๆ ไม่กี่ข้อ
ทำแผนที่โลกทัศน์ของคุณเอง

จุดยืนของคุณอยู่ตรงไหน?

ทำแผนที่โลกทัศน์ของฉัน