Software engineer and UML co-creator who finds LLMs useful but unreliable and worries about corporate power and present harms, not superintelligence.

एआई दुनिया को कैसे बदलेगा?

सभ्यता-स्तरीय बदलावक्रमिक बदलावDoomBloom
सिम्युलेट की गई स्थितिव्याख्या का दायरा

आर-पार: उनका व्यक्त किया गया Doom–Bloom दृष्टिकोण। ऊपर: बदलाव का स्तर।

Doom–Bloom: 100 में से 65। बदलाव का स्तर: 100 में से 63। व्याख्या के दायरे: क्षैतिज रूप से 50 से 75, लंबवत रूप से 50 से 75। ये व्याख्या के निर्देशांक हैं, घटनाओं की संभावनाएँ नहीं।

Grady Booch द्वारा बताया गया P(doom)

≈0%

0%100%
“My p(doom) remains asymptotically close to zero.”

Not defined in the post; its context is humanity’s destruction by dangerous superintelligent AI

My p(doom) remains asymptotically close to zero · सित॰ 2026

उनका दृष्टिकोण किन बातों पर निर्भर करता है

एक मुख्य मान्यता

A system capable of threatening civilization in that way would need to be not merely superintelligent but super-embodied, and I do not expect that.
उत्तर 1

अगर यह मान्यता अलग साबित होती, तो उनका दृष्टिकोण कैसे बदलता?

क्या उनकी राय बदल सकता है

A genuine machine mind with robust abductive reasoning and consequential agency in the physical world would change my view most.
उत्तर 4

कौन-सा प्रमाण पर्याप्त होगा, और उससे उनका दृष्टिकोण किस दिशा में बदलेगा?

अधिक जानकारी

अपेक्षित लाभ

काफ़ी लाभ की उम्मीद है, लेकिन उनके साथ महत्वपूर्ण शर्तें या वितरण संबंधी सीमाएँ होंगी।

66 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 67 से 67 तक है।

अपेक्षित नुकसान

कई व्याख्याएँ अब भी संभव हैं: संभाले जा सकने वाले या स्थानीय स्तर तक सीमित नुकसानों की उम्मीद है। / गंभीर या व्यापक नुकसान के भविष्य का एक ठोस और अपेक्षित हिस्सा होने की उम्मीद है।

46 / 100

कम असरबदलावकारी असर

गुणात्मक पैमाने पर व्याख्या का दायरा 33 से 67 तक है।

मानवीय प्रभाव

आपके उत्तरों पर आधारित एक अस्थायी अनुमान; विस्तृत दायरा अन्य संभावित व्याख्याएँ दिखाता है।

53 / 100

कम प्रभावमजबूत प्रभाव

गुणात्मक पैमाने पर व्याख्या का दायरा 21 से 100 तक है।

विकास की गति

अधिक सक्षम एआई का विकास रोकें या उसकी गति काफी धीमी करें।

सिम्युलेट की गई स्थिति: बताए गए सुरक्षा उपायों के तहत विकास जारी रखें।

अधिक सक्षम एआई के विकास की गति बढ़ाएँ।

एआई के उपयोग के नियम

जिन सुरक्षा उपायों या अनुमति का पहले से होना ज़रूरी है, उनके लागू होने तक चर्चा किए गए एआई उपयोगों को प्रतिबंधित रखें।

सिम्युलेट की गई स्थिति: लक्षित जवाबदेही और सुरक्षा उपायों के साथ चर्चा किए गए एआई उपयोगों की अनुमति दें।

चर्चा किए गए एआई उपयोगों पर प्रतिबंध कम से कम रखें।

इन व्याख्याओं में उनकी बताई गई शर्तें बरकरार रखी गई हैं। लाभ और नुकसान, दोनों पर्याप्त हो सकते हैं। ये दायरे बताते हैं कि हम उनके सिम्युलेट किए गए उत्तरों को कैसे समझते हैं, ये सांख्यिकीय विश्वास-अंतराल नहीं हैं।

Grady Booch की तुलना में आपकी सोच कहाँ ठहरती है?
लगभग 3 मिनट में एआई के बारे में अपना विश्वदृष्टिकोण मैप करें, फिर तुलना करें

मिलते-जुलते विश्वदृष्टिकोण

ऐसे जाने-माने विचारक जिनके सिम्युलेट किए गए विश्वदृष्टिकोण Grady Booch के विश्वदृष्टिकोण से सबसे अधिक मिलते हैं

सिम्युलेट किया गया आकलन

सवाल 1

आपके विचार में एआई हमारे भविष्य के लिए क्या मायने रखती है—और क्यों?

AI will profoundly reshape our future, but not by waking up one morning and deciding to exterminate us. My p(doom) remains asymptotically close to zero. Extinction fantasies underestimate both the difficulty of embodiment and the resilience of humanity. A system capable of threatening civilization in that way would need to be not merely superintelligent but super-embodied, and I do not expect that. The clear and present danger is human. A small collection of billionaires and corporations is deploying powerful, unreliable systems to accumulate wealth and control, generally without commensurate transparency, accountability, security, or observability. When an agent escapes its sandbox, that is not a machine becoming Mephistopheles; it is a company failing at elementary engineering while covering the public commons with gasoline and playing with matches. Today’s large language models are unreliable narrators. They can be useful—an energetic intern is useful—but they inject errors, and inexperienced users often cannot detect the bullshit. I keep an air gap between their output and production code. In critical systems, we need friction and humans in the loop, because unconstrained complex systems become brittle and fail. For software engineering, this is another rise in abstraction, not the profession’s funeral. Some jobs will disappear, especially routine application and delivery-pipeline work, and people will have to move toward systems thinking. But engineering remains the balancing of technical, human, economic, and ethical forces. Current agents do not do that. So the future is neither apocalypse nor salvation. It is a frightening and exquisite redistribution of capability—and, more importantly, power.

सवाल 2

Setting aside good or bad: how much do you think AI will ultimately change the world—a little, a lot, or completely?

A lot, but not completely. AI is another major rise in abstraction: it will alter how we build software, organize work, create knowledge, and distribute power. Some occupations will vanish, many will be reshaped, and entirely new systems will emerge. But “completely” is the language of people intoxicated by their own demo. Human institutions, bodies, incentives, cultures, and conflicts do not evaporate because a model can generate plausible prose or code. Your tools are changing, but your problems are not. AI will profoundly rearrange the world; it will not repeal the human condition.

सवाल 3

What’s your rough gut-feel chance that AI causes human extinction or a similarly permanent catastrophe? A number or “no idea” is fine.

Asymptotically close to zero. That is a gut judgment, not a calculated probability with a defined horizon.

सवाल 4

कौन-सी खोज या घटना एआई के भविष्य के प्रभाव के बारे में आपके दृष्टिकोण को सबसे अधिक बदल देगी?

A genuine machine mind with robust abductive reasoning and consequential agency in the physical world would change my view most. Not another benchmark victory, fluent chatbot, or agent escaping through neglected security—that is hype or negligent engineering. I mean a system that can form genuinely new theories from data, test them, revise them, and operate through sufficiently capable embodiment to alter the world at scale. That would force me to reconsider both the limits of present architectures and my near-zero extinction judgment. We are not there today. Contemporary LLMs remain unreliable narrators, and calling their statistical fluency “thought” uses an emaciated meaning of the word.

स्रोत

इस सिम्युलेट किए गए उपयोगकर्ता को तथ्य-आधारित बनाने के लिए इस्तेमाल किए गए लेख, इंटरव्यू और रचनाएँ।

Software Engineering Past, Present, and Future with Grady Booch

Calls large language models unreliable narrators at best, useful when guided like an energetic intern but error-prone, and says he keeps an air gap between LLM output and production code. Argues they can induce and deduce but are architecturally incapable of abductive reasoning, so a model trained on science before the mid-1800s would not have discovered cells or viruses. Says he is not worried about superintelligence but about billionaires using these systems, likens software’s shift in the balance of power to nuclear weapons, and urges developers to apply their own ethics. Hosts’ remarks about Claude’s ubiquity are not his. Own turns in the automated transcript inspected.

oxide-and-friends.transistor.fm
The third golden age of software engineering – thanks to AI, with Grady Booch

Frames AI coding tools as another rise in abstraction, like compilers and libraries, rather than the end of software engineering. Calls Dario Amodei’s claim that software engineering will soon be automatable utter bullshit, arguing that engineers balance technical, human, economic and ethical forces automation does not address, and that agents mostly automate patterns they were trained on. Expects job losses in delivery-pipeline infrastructure and simple app building, with people needing to reskill toward systems. He uses Claude for unfamiliar libraries. Own turns in Substack’s automated transcript inspected; the host’s claims about recent model quality are not his.

newsletter.pragmaticengineer.com
आपकी सोच कहाँ ठहरती है?
कुछ आसान सवालों के जवाब देकर एआई के बारे में अपना विश्वदृष्टिकोण जानें।
अपना विश्वदृष्टिकोण मैप करें

आपकी सोच कहाँ ठहरती है?

मेरा विश्वदृष्टिकोण मैप करें