AI practitioner who argues AI safety should rely on security engineering, monitoring and voluntary standards and expects human-AI teams to persist.

एआई दुनिया को कैसे बदलेगा?

सभ्यता-स्तरीय बदलावक्रमिक बदलावDoomBloom
सिम्युलेट की गई स्थितिव्याख्या का दायरा

आर-पार: उनका व्यक्त किया गया Doom–Bloom दृष्टिकोण। ऊपर: बदलाव का स्तर।

Doom–Bloom: 100 में से 72। बदलाव का स्तर: 100 में से 59। व्याख्या के दायरे: क्षैतिज रूप से 67 से 77, लंबवत रूप से 40 से 85। ये व्याख्या के निर्देशांक हैं, घटनाओं की संभावनाएँ नहीं।

Shannon Sands का P(doom) · अनुमानित

≈6%

0%100%

उनके सिम्युलेट किए गए उत्तरों से अनुमान लगाया गया है, यह उनके द्वारा बताई गई संख्या नहीं है। संभावित दायरा: 3–13%।

हम P(doom) का अनुमान कैसे लगाते हैं

उनका दृष्टिकोण किन बातों पर निर्भर करता है

एक मुख्य मान्यता

Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures.
उत्तर 2

अगर यह मान्यता अलग साबित होती, तो उनका दृष्टिकोण कैसे बदलता?

एक अनसुलझा सवाल

A lot, but I wouldn’t pretend to know the ultimate ceiling.
उत्तर 2

यहाँ संभावित नतीजों के बीच फर्क करने में उन्हें किस चीज़ से मदद मिलेगी?

क्या उनकी राय बदल सकता है

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments.
उत्तर 4

कौन-सा प्रमाण पर्याप्त होगा, और उससे उनका दृष्टिकोण किस दिशा में बदलेगा?

अधिक जानकारी

अपेक्षित लाभ

काफ़ी लाभ की उम्मीद है, लेकिन उनके साथ महत्वपूर्ण शर्तें या वितरण संबंधी सीमाएँ होंगी।

72 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 67 से 100 तक है।

अपेक्षित नुकसान

गंभीर या व्यापक नुकसान के भविष्य का एक ठोस और अपेक्षित हिस्सा होने की उम्मीद है।

56 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 33 से 67 तक है।

मानवीय प्रभाव

मानवीय विकल्पों का सार्थक, लेकिन काफी सीमित प्रभाव है।

61 / 100

कम प्रभावमजबूत प्रभाव

गुणात्मक पैमाने पर व्याख्या का दायरा 37 से 88 तक है।

विकास की गति

अधिक सक्षम एआई का विकास रोकें या उसकी गति काफी धीमी करें।

सिम्युलेट की गई स्थिति: बताए गए सुरक्षा उपायों के तहत विकास जारी रखें।

अधिक सक्षम एआई के विकास की गति बढ़ाएँ।

एआई के उपयोग के नियम

जिन सुरक्षा उपायों या अनुमति का पहले से होना ज़रूरी है, उनके लागू होने तक चर्चा किए गए एआई उपयोगों को प्रतिबंधित रखें।

सिम्युलेट की गई स्थिति: लक्षित जवाबदेही और सुरक्षा उपायों के साथ चर्चा किए गए एआई उपयोगों की अनुमति दें।

चर्चा किए गए एआई उपयोगों पर प्रतिबंध कम से कम रखें।

इन व्याख्याओं में उनकी बताई गई शर्तें बरकरार रखी गई हैं। लाभ और नुकसान, दोनों पर्याप्त हो सकते हैं। ये दायरे बताते हैं कि हम उनके सिम्युलेट किए गए उत्तरों को कैसे समझते हैं, ये सांख्यिकीय विश्वास-अंतराल नहीं हैं।

Shannon Sands की तुलना में आपकी सोच कहाँ ठहरती है?
लगभग 3 मिनट में एआई के बारे में अपना विश्वदृष्टिकोण मैप करें, फिर तुलना करें

मिलते-जुलते विश्वदृष्टिकोण

ऐसे जाने-माने विचारक जिनके सिम्युलेट किए गए विश्वदृष्टिकोण Shannon Sands के विश्वदृष्टिकोण से सबसे अधिक मिलते हैं

स्रोत

इस सिम्युलेट किए गए उपयोगकर्ता को तथ्य-आधारित बनाने के लिए इस्तेमाल किए गए लेख, इंटरव्यू और रचनाएँ।

सिम्युलेट किया गया आकलन

सवाल 1

आपके विचार में एआई हमारे भविष्य के लिए क्या मायने रखती है—और क्यों?

I think the near future is mostly human-AI teams, not autonomous machine replacements. Frontier models are already powerful—especially when you can delegate work to subagents—but vague real-world tasks still depend heavily on skilled human direction. If success hinges on knowing exactly how to prompt, supervise, and correct the system, I’m not calling that AGI. A genuinely general system should be able to infer what users actually need, more like an expert does. That gives me reasons for employment optimism: people who can direct these systems will become dramatically more capable, and human judgment will remain valuable. But optimism is not an excuse for sloppy security. The immediate risks include mundane, familiar failures—weak access controls, ordinary exploits, bad monitoring, and systems deployed without adequate sandboxing. Those deserve at least as much attention as speculative architectural horror stories. I’d like to see independent, pro-AI practitioners doing practical safety work: security operations, monitoring, sandboxing, and useful interpretability. Voluntary standards modeled on technical standards bodies, combined with real product-quality and liability incentives, strike me as more promising than building a bureaucracy that requires everyone to profess existential-risk ideology. Extraordinary danger claims need evidence. Ordinary security failures are already here, and accountability for them matters.

सवाल 2

आपके हिसाब से एआई अंततः दुनिया को कितना बदल देगा?

A lot, but I wouldn’t pretend to know the ultimate ceiling. AI already acts as a major force multiplier, and systems with subagents can handle increasingly large chunks of intellectual work. That could reshape most knowledge work, software, research, and how organizations operate. Still, “huge change” does not automatically mean autonomous replacement of people or imminent AGI. Today’s systems remain unusually dependent on humans who can define vague goals, supply context, evaluate results, and catch failures. My default expectation is therefore a world transformed by capable human-AI teams rather than one where humans simply disappear from the loop. The scale of the benefits will also depend on whether we solve boring but consequential problems: access control, sandboxing, monitoring, interpretability, and accountability for insecure products. A powerful tool deployed carelessly can create enormous disruption without requiring any exotic superintelligence story. So yes, I expect profound change—but the practical details of deployment and security will shape whether that change is broadly productive or needlessly destructive.

सवाल 3

आपको सहज रूप से कितनी संभावना लगती है कि एआई मानव विलुप्ति या ऐसी ही किसी स्थायी आपदा का कारण बनेगा?

I don’t have a defensible numeric probability, and assigning one by gut feel would imply more evidence than we have. Extraordinary extinction claims need evidence about concrete architectures, capabilities, and failure mechanisms—not just “AI is powerful, therefore doom.” I do think serious catastrophe is possible, especially through ordinary operational failures at scale: insecure systems, stolen access, poor monitoring, reckless deployment, and weak accountability. Those are concrete enough to act on now. My priority would be conventional security engineering, sandboxing, monitoring, practical interpretability, and liability for unsafe products—not treating an unsupported p(doom) as the price of admission to AI safety.

सवाल 4

कौन-सा सबूत इस बारे में आपका दृष्टिकोण बदल देगा कि लोग शक्तिशाली एआई को नियंत्रित कर सकते हैं या नहीं?

I’d update if systems repeatedly succeeded at vague, high-stakes tasks without skilled human direction—and especially if they could evade sandboxing, monitoring, access controls, or correction in real deployments. Demonstrated autonomous planning, persistence, deception, resource acquisition, or replication would matter far more than scary benchmark extrapolations. I’d also take architecture-specific evidence seriously: reproducible results showing why a system’s internal reasoning or behavior becomes unusually hard to inspect and constrain. But I’d want independent replication and concrete mechanisms, not claims that some new architecture is automatically an uncontrollable intelligence explosion. Evidence cuts both ways. If strong security controls, practical interpretability, and monitored deployments reliably prevent dangerous behavior as capabilities increase, that would strengthen my confidence in human control. The key question is what systems actually do under realistic conditions—not whether someone can tell the most dramatic story about them.
आपकी सोच कहाँ ठहरती है?
कुछ आसान सवालों के जवाब देकर एआई के बारे में अपना विश्वदृष्टिकोण जानें।
अपना विश्वदृष्टिकोण मैप करें

आपकी सोच कहाँ ठहरती है?

मेरा विश्वदृष्टिकोण मैप करें