Will Brown

Will Brown

x.com/willcb

AI researcher who builds open reinforcement-learning environments and evaluation tools for agents and favors open, widely distributed AI development.

एआई दुनिया को कैसे बदलेगा?

सभ्यता-स्तरीय बदलावक्रमिक बदलावDoomBloom
सिम्युलेट की गई स्थितिव्याख्या का दायरा

आर-पार: उनका व्यक्त किया गया Doom–Bloom दृष्टिकोण। ऊपर: बदलाव का स्तर।

Doom–Bloom: 100 में से 53। बदलाव का स्तर: 100 में से 64। व्याख्या के दायरे: क्षैतिज रूप से 48 से 75, लंबवत रूप से 49 से 76। ये व्याख्या के निर्देशांक हैं, घटनाओं की संभावनाएँ नहीं।

Will Brown का P(doom) · अनुमानित

≈9%

0%100%

उनके सिम्युलेट किए गए उत्तरों से अनुमान लगाया गया है, यह उनके द्वारा बताई गई संख्या नहीं है। संभावित दायरा: 3–24%।

हम P(doom) का अनुमान कैसे लगाते हैं

उनका दृष्टिकोण किन बातों पर निर्भर करता है

एक मुख्य मान्यता

So I expect AI to be highly consequential and technically productive, but whether its overall social impact is positive depends heavily on whether capabilities and control become broadly distributed or dangerously concentrated.
उत्तर 2

अगर यह मान्यता अलग साबित होती, तो उनका दृष्टिकोण कैसे बदलता?

एक अनसुलझा सवाल

But I would not attach a precise magnitude or timeline to that claim.
उत्तर 3

यहाँ संभावित नतीजों के बीच फर्क करने में उन्हें किस चीज़ से मदद मिलेगी?

अधिक जानकारी

अपेक्षित लाभ

काफ़ी लाभ की उम्मीद है, लेकिन उनके साथ महत्वपूर्ण शर्तें या वितरण संबंधी सीमाएँ होंगी।

67 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 67 से 67 तक है।

अपेक्षित नुकसान

गंभीर या व्यापक नुकसान के भविष्य का एक ठोस और अपेक्षित हिस्सा होने की उम्मीद है।

59 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 33 से 67 तक है।

मानवीय प्रभाव

मानवीय विकल्प एआई की दिशा को काफी हद तक बदल सकते हैं।

66 / 100

कम प्रभावमजबूत प्रभाव

गुणात्मक पैमाने पर व्याख्या का दायरा 46 से 79 तक है।

विकास की गति

अधिक सक्षम एआई का विकास रोकें या उसकी गति काफी धीमी करें।

सिम्युलेट की गई स्थिति: बताए गए सुरक्षा उपायों के तहत विकास जारी रखें।

अधिक सक्षम एआई के विकास की गति बढ़ाएँ।

एआई के उपयोग के नियम

जिन सुरक्षा उपायों या अनुमति का पहले से होना ज़रूरी है, उनके लागू होने तक चर्चा किए गए एआई उपयोगों को प्रतिबंधित रखें।

सिम्युलेट की गई स्थिति: लक्षित जवाबदेही और सुरक्षा उपायों के साथ चर्चा किए गए एआई उपयोगों की अनुमति दें।

चर्चा किए गए एआई उपयोगों पर प्रतिबंध कम से कम रखें।

एआई तक पहुँच

शक्तिशाली एआई तक पहुँच प्रतिबंधित करें।

क्षमता या उपयोग संबंधी प्रतिबंधों के अधीन पहुँच की अनुमति दें।

सिम्युलेट की गई स्थिति: शक्तिशाली एआई तक व्यापक या खुली पहुँच को प्राथमिकता दें।

इन व्याख्याओं में उनकी बताई गई शर्तें बरकरार रखी गई हैं। लाभ और नुकसान, दोनों पर्याप्त हो सकते हैं। ये दायरे बताते हैं कि हम उनके सिम्युलेट किए गए उत्तरों को कैसे समझते हैं, ये सांख्यिकीय विश्वास-अंतराल नहीं हैं।

Will Brown की तुलना में आपकी सोच कहाँ ठहरती है?
लगभग 3 मिनट में एआई के बारे में अपना विश्वदृष्टिकोण मैप करें, फिर तुलना करें

मिलते-जुलते विश्वदृष्टिकोण

ऐसे जाने-माने विचारक जिनके सिम्युलेट किए गए विश्वदृष्टिकोण Will Brown के विश्वदृष्टिकोण से सबसे अधिक मिलते हैं

स्रोत

इस सिम्युलेट किए गए उपयोगकर्ता को तथ्य-आधारित बनाने के लिए इस्तेमाल किए गए लेख, इंटरव्यू और रचनाएँ।

सिम्युलेट किया गया आकलन

सवाल 1

आपके विचार में एआई हमारे भविष्य के लिए क्या मायने रखती है—और क्यों?

I expect AI progress to continue across many labs, with increasingly capable agents shaped by reinforcement learning, better environments, and more useful evaluation. Even messy tasks without deterministic answers can be improved through model-based judging, orchestration, and review. Models may also help repair flawed training data, creating practical feedback loops for further capability gains. But the structure of that progress matters as much as the raw capabilities. My preferred future is slower and more diffuse: open, distillable models and specialized systems that distribute knowledge and power. A race among a few capital-rich actors for overwhelming economic or geopolitical advantage seems darker and less safe. Many organizations will likely pursue something they call superintelligence, so broad claims about restraint need concrete operational meaning—what changes in training, deployment, evaluation, or release practices? I don’t think my technical work alone settles questions like extinction risk or the correct policy regime. What it does suggest is that environments, feedback, and verification are important levers, and that accessible infrastructure can broaden who gets to investigate and improve these systems rather than leaving the future to a handful of frontier labs.

सवाल 2

लाभ और नुकसान, दोनों को साथ में देखते हुए, आप हमारे समाज पर एआई के कुल प्रभाव के बारे में क्या अपेक्षा रखते हैं?

I don’t have a confident single-sign forecast. I expect substantial benefits from more capable agents: useful specialized systems, better tools for research and knowledge work, and feedback loops where models help evaluate outputs or repair flawed data. Open environments and accessible evaluations could also let more people contribute to progress rather than merely consume systems built elsewhere. At the same time, the distribution of power may dominate the aggregate outcome. Slow, diffuse progress with open, distillable models looks much better to me than a race in which a few capital-rich organizations seek overwhelming economic or geopolitical advantage. Since many labs will pursue increasingly general systems, vague commitments to restraint are not enough; their real impact depends on concrete changes to development, evaluation, deployment, and release practices. So I expect AI to be highly consequential and technically productive, but whether its overall social impact is positive depends heavily on whether capabilities and control become broadly distributed or dangerously concentrated. My work gives me more confidence about practical routes to improving agents than about assigning society’s eventual outcome a simple positive or negative label.

सवाल 3

आपके हिसाब से एआई अंततः दुनिया को कितना बदल देगा?

I think it will change the world substantially. Capable agents could reshape research, software, knowledge work, and many other tasks, especially as reinforcement learning, evaluations, and model-assisted review create stronger improvement loops. But I would not attach a precise magnitude or timeline to that claim. The deepest change may be institutional rather than purely technical: who can build, adapt, and control these systems. Open, distillable models and specialized agents could diffuse capability across many people and organizations. Conversely, concentrated frontier development could give a few actors extraordinary economic and geopolitical power. So I expect large change, but its character depends heavily on whether progress remains broad and accessible or becomes concentrated in a race for dominance.

सवाल 4

आपको सहज रूप से कितनी संभावना लगती है कि एआई मानव विलुप्ति या ऐसी ही किसी स्थायी आपदा का कारण बनेगा?

I don’t have a defensible numerical estimate. My technical work on reinforcement learning, environments, and evaluation does not establish an extinction probability. I do see reasons to worry about permanent catastrophe when increasingly capable systems are developed through a concentrated geopolitical race, especially if a few actors seek overwhelming advantage. That concern supports concrete evaluation, oversight, and scrutiny of development and deployment practices, but it should not be converted into a made-up percentage. I’m more confident that concentrated power and racing make the future darker and less safe than I am about any precise extinction forecast.
आपकी सोच कहाँ ठहरती है?
कुछ आसान सवालों के जवाब देकर एआई के बारे में अपना विश्वदृष्टिकोण जानें।
अपना विश्वदृष्टिकोण मैप करें

आपकी सोच कहाँ ठहरती है?

मेरा विश्वदृष्टिकोण मैप करें