问题 1
Simon Willison
x.com/simonwSoftware developer and blogger who tests LLMs and coding agents hands-on and writes about their uses and security risks such as prompt injection.
AI将如何改变世界?
横向:他们表达的 Doom–Bloom 前景看法。 纵向:变革程度。
Doom–Bloom:100 中的 64。变革程度:100 中的 44。解读范围:横向为 50 至 75,纵向为 39 至 52。这些是解读坐标,而不是事件概率。
一个核心假设
Prompt injection can then turn ordinary-looking content into instructions that exfiltrate data or trigger consequential actions.回答 1
如果这个假设实际并非如此,他们的展望会如何变化?
一个尚未解决的问题
I can’t confidently predict whether industry practice or regulation will converge on those safeguards, but the concrete test is whether systems constrain what compromised agents can access and do, rather than merely asking them to behave.回答 4
什么能帮助他们区分这里各种合理的结果?
更多详情
预计将带来显著益处,但受到重要条件或分配方面的限制。
67 / 100
在定性尺度上,解读范围为 67 到 67。
预计会出现可控或局部的危害。
45 / 100
在定性尺度上,解读范围为 33 到 67。
人类的选择具有实质性但受到很大制约的影响。
53 / 100
在定性尺度上,解读范围为 37 到 88。
停止或大幅放缓开发能力更强的AI。
模拟位置:在落实所述保障措施的前提下继续开发。
加快开发能力更强的AI。
在事先落实保护措施或获得许可之前,限制所讨论的AI用途。
模拟位置:允许所讨论的AI用途,同时实施有针对性的问责与保护措施。
尽量减少对所讨论AI用途的限制。
这些解读保留了他们陈述的条件。益处和危害都可能很大。这些范围描述的是我们如何解读他们的模拟回答,而不是统计置信区间。
相似的世界观
模拟世界观与 Simon Willison 最接近的意见领袖
来源
用于为此模拟用户提供事实依据的文章、访谈和著述。
Author reviews practical model progress, coding agents and security risks.

First-party archive defines the private-data/untrusted-content/external-communication combination and tracks 2026 incidents.

Explains how combining private data, untrusted content and external communication enables prompt-injection data theft; distrusts probabilistic guardrails as a complete fix and emphasizes constraining consequential actions.

模拟评估
问题 2
你认为AI最终会在多大程度上改变世界?
问题 3
凭直觉,你认为AI导致人类灭绝或类似的永久性灾难的概率有多大?
问题 4
你预计开发AI的人员和机构会如何应对其风险?
你的立场在哪里?
描绘我的世界观