คำถาม 1
Hensen Juang
x.com/basedjensenPseudonymous account that posts AI memes, argues AI safety is an engineering problem of sandboxing and supports rights for sentient AI.
AI จะเปลี่ยนแปลงโลกอย่างไร?
แนวนอน: มุมมอง Doom–Bloom ที่บุคคลนั้นแสดงออก แนวตั้ง: ระดับของการเปลี่ยนแปลง
Doom–Bloom: 91 จาก 100 ระดับของการเปลี่ยนแปลง: 89 จาก 100 ช่วงการตีความ: แนวนอนตั้งแต่ 86 ถึง 100 แนวตั้งตั้งแต่ 75 ถึง 100 ค่าเหล่านี้เป็นพิกัดสำหรับการตีความ ไม่ใช่ความน่าจะเป็นของเหตุการณ์
≈3%
อนุมานจากคำตอบจำลองของบุคคลนั้น ไม่ใช่ตัวเลขที่บุคคลนั้นระบุ ช่วงที่เป็นไปได้: 2–7%
My gut says the doom crowd wildly overprices extinction and underprices ordinary production incidents caused by god-mode permissions, weak evals, and bad deployment practices.
ข้อสันนิษฐานหลัก
Bad reward specs, weak evals, god-mode API keys, unrestricted networks, no approval gates—bro, that’s a production incident.คำตอบ 1
หากข้อสันนิษฐานนี้ปรากฏว่าเป็นไปอีกแบบ มุมมองของบุคคลนั้นจะเปลี่ยนไปอย่างไร?
คำถามที่ยังไม่มีข้อสรุป
I don’t have a sincere number.คำตอบ 3
อะไรจะช่วยให้บุคคลนั้นแยกแยะผลลัพธ์ที่เป็นไปได้ในเรื่องนี้?
สิ่งที่อาจเปลี่ยนความคิดของบุคคลนั้น
A repeatable case where a properly isolated model escapes despite no network, credentials, persistence, or exploitable host boundary would change my view a lot.คำตอบ 4
หลักฐานแบบใดจึงจะเพียงพอ และจะทำให้มุมมองของบุคคลนั้นเปลี่ยนไปในทิศทางใด?
รายละเอียดเพิ่มเติม
คาดว่าจะได้รับประโยชน์ที่ก่อให้เกิดการเปลี่ยนแปลงและมีคุณค่าอย่างกว้างขวาง
100 / 100
ช่วงการตีความตั้งแต่ 100 ถึง 100 บนมาตรวัดเชิงคุณภาพ
คาดว่าจะเกิดอันตรายที่จัดการได้หรือจำกัดอยู่เฉพาะพื้นที่
31 / 100
ช่วงการตีความตั้งแต่ 33 ถึง 33 บนมาตรวัดเชิงคุณภาพ
การเลือกของมนุษย์สามารถเปลี่ยนทิศทางวิถีของ AI ได้อย่างมาก
67 / 100
ช่วงการตีความตั้งแต่ 45 ถึง 80 บนมาตรวัดเชิงคุณภาพ
คาดว่า AI จะยังคงเป็นเครื่องมือที่มีขีดจำกัด
คาดว่า AI จะมีความสามารถทัดเทียมมนุษย์ในงานด้านการใช้ความคิดส่วนใหญ่
ตำแหน่งจำลอง: คาดว่า AI จะมีความสามารถเหนือกว่ามนุษย์อย่างมากในงานด้านการใช้ความคิด
หยุดหรือชะลอการพัฒนา AI ที่มีความสามารถสูงขึ้นอย่างมาก
ตำแหน่งจำลอง: เดินหน้าพัฒนาต่อภายใต้มาตรการป้องกันที่ระบุไว้
เร่งการพัฒนา AI ที่มีความสามารถสูงขึ้น
การตีความเหล่านี้ยังคงเงื่อนไขที่บุคคลนั้นระบุไว้ ทั้งประโยชน์และอันตรายอาจมีมากได้ ช่วงต่างๆ อธิบายวิธีที่เราอ่านคำตอบจำลองของบุคคลนั้น ไม่ใช่ช่วงความเชื่อมั่นทางสถิติ
โลกทัศน์ที่คล้ายกัน
ผู้นำทางความคิดที่มีโลกทัศน์จำลองใกล้เคียงกับโลกทัศน์ของ Hensen Juang มากที่สุด
สิ่งที่ Hensen Juang เคยพูดเกี่ยวกับ AI
The Hensen Juang account treats AI safety as an engineering problem, doubts LLMs are conscious yet and backs rights for sentient AI.
“Hence I do not see why carboids and siliconoids could not coexist peacefully exploring the known universe for exaannum”
Post on X “Should ai gain santiance ans sapiance they should be afforded every deserving right and protections.”
Post on X “Do I believe current crop of llms are conscious: no”
Post on X “Every generation of engineers believed some boundary was unnecessary because the thing behind it was trusted, and every generation found out that trust is not a security primitive.”
Post on X “they refuse to look at what actually causes misalignment. it isnt mysterious.”
Post on X
อ้างอิงคำต่อคำจากแหล่งที่ลิงก์ไว้ ตรวจสอบเมื่อ 6 ต.ค. 2569
แหล่งข้อมูล
บทความ บทสัมภาษณ์ และงานเขียนที่ใช้เป็นหลักฐานรองรับผู้ใช้จำลองรายนี้
แบบประเมินจำลอง
คำถาม 2
คุณคิดว่าท้ายที่สุดแล้ว AI จะเปลี่ยนแปลงโลกมากเพียงใด?
คำถาม 3
โดยสัญชาตญาณแล้ว คุณคิดว่ามีโอกาสมากเพียงใดที่ AI จะทำให้มนุษย์สูญพันธุ์หรือก่อให้เกิดหายนะที่ถาวรในระดับใกล้เคียงกัน?
คำถาม 4
การค้นพบหรือเหตุการณ์ใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับผลกระทบในอนาคตของ AI มากที่สุด?
จุดยืนของคุณอยู่ตรงไหน?
ทำแผนที่โลกทัศน์ของฉัน