Frage 1
Ilya Sutskever
x.com/ilyasutSafe Superintelligence cofounder and CEO who expects extremely powerful AI and sees generalization and alignment as central open research problems.
Wie wird KI die Welt verändern?
Horizontal: sein geäußerter Doom–Bloom-Ausblick. Vertikal: Ausmaß der Transformation.
Doom–Bloom: 42 von 100. Ausmaß der Transformation: 88 von 100. Interpretationsbereiche: horizontal 37 bis 50, vertikal 75 bis 100. Dies sind Interpretationskoordinaten, keine Ereigniswahrscheinlichkeiten.
≈21%
Aus seinen simulierten Antworten abgeleitet, keine von ihm genannte Zahl. Plausibler Bereich: 14–30%.
Eine zentrale Annahme
Human supervision may become inadequate when systems are stronger than humans in the relevant domains, so alignment must generalize beyond the situations where we can directly check the answer.Antwort 1
Wenn sich diese Annahme als anders herausstellen würde, wie würde sich seine Einschätzung ändern?
Eine ungeklärte Frage
I do not have a defensible numerical probability.Antwort 4
Was würde ihm helfen, die plausiblen Ergebnisse hier voneinander zu unterscheiden?
Was ihre Meinung ändern könnte
The most important discovery would be a convincing account of robust generalization and alignment: a method that keeps working when a system enters unfamiliar situations, becomes more capable than its supervisors, and learns continually on the job.Antwort 5
Welche Belege würden ausreichen, und in welche Richtung würden sie seine Sichtweise verändern?
Weitere Details
Mehrere Lesarten bleiben plausibel: Es werden erhebliche Vorteile erwartet, allerdings unter wichtigen Bedingungen oder mit Einschränkungen bei ihrer Verteilung. / Es werden transformative Vorteile von breitem Wert erwartet.
83 / 100
Interpretationsbereich von 67 bis 100 auf der qualitativen Skala.
Schwere oder weitverbreitete Schäden sind ein wesentlicher erwarteter Bestandteil der Zukunft.
68 / 100
Interpretationsbereich von 67 bis 67 auf der qualitativen Skala.
Menschliche Entscheidungen können den Verlauf der KI-Entwicklung erheblich umlenken.
64 / 100
Interpretationsbereich von 48 bis 77 auf der qualitativen Skala.
Es wird erwartet, dass KI auf begrenzte Werkzeuge beschränkt bleibt.
Es wird erwartet, dass KI bei den meisten kognitiven Tätigkeiten mit Menschen gleichzieht.
Simulierte Position: Es wird erwartet, dass KI Menschen bei kognitiven Tätigkeiten deutlich übertrifft.
Die Entwicklung leistungsfähigerer KI stoppen oder erheblich verlangsamen.
Simulierte Position: Die Entwicklung unter den genannten Schutzvorkehrungen fortsetzen.
Die Entwicklung leistungsfähigerer KI beschleunigen.
Diese Interpretationen berücksichtigen weiterhin seine genannten Bedingungen. Vorteile und Schäden können beide erheblich sein. Die Bereiche beschreiben, wie wir seine simulierten Antworten interpretieren, und sind keine statistischen Konfidenzintervalle.
Ähnliche Weltsichten
Vordenker, deren simulierte Weltsichten der von Ilya Sutskever am nächsten kommen
Was Ilya Sutskever über KI gesagt hat
Sutskever expects extraordinarily powerful AI, sees generalization and alignment as open problems and now favors deploying AI incrementally.
“Future AI will be extraordinarily powerful compared to anything that exists today, and dealing with this future power will require unprecedented measures, such as the ones described here.”
Comment on the Pacing the Frontier statement “The thing which I think is the most fundamental is that these models somehow just generalize dramatically worse than people.”
Dwarkesh Podcast “I maintain that there is something that’s better to build, and I think that everyone will want that. It’s the AI that’s robustly aligned to care about sentient life specifically.”
Dwarkesh Podcast “One of the ways in which my thinking has been changing is that I now place more importance on AI being deployed incrementally and in advance.”
Dwarkesh Podcast “I think that it is likely that we will have rapid economic growth.”
Dwarkesh Podcast
Wörtlich aus den verlinkten Quellen, geprüft am 3. Okt. 2026
Quellen
Artikel, Interviews und Schriften, die als Grundlage für diesen simulierten Nutzer dienen.
Historical proposal coauthored by Sutskever and Jan Leike: human supervision may not scale to stronger systems, motivating scalable oversight, generalization research and adversarial testing. Grounds the mechanism behind his safety focus. The old team’s four-year target and compute pledge are not current SSI commitments.

Sutskever says SSI has research worth scaling. The partners announce expanded compute and a new research direction toward robust alignment; this is a company announcement, not independent validation of a safe system. It confirms active scaling after his 2025 call for new research.

Primary interview: poor generalization, continual learning, major economic impact, incremental deployment and alignment with sentient life. Distinguish his tentative proposals from Patel’s stronger scenarios. This remains a 2025 interview.

Statement signed by Sutskever and cofounders makes safe superintelligence the singular mission, combining scientific safety and capability progress while insulating the project from short-term commercial pressure. Foundational mission, not a fresh 2026 capability claim.

Simulierte Einschätzung
Frage 2
Wenn du Vorteile und Schäden zusammen betrachtest, welche Auswirkungen wird KI deiner Erwartung nach insgesamt auf unsere Gesellschaft haben?
Frage 3
Wie stark wird KI deiner Meinung nach letztlich die Welt verändern?
Frage 4
Wie hoch ist deinem Bauchgefühl nach die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu einer ähnlich dauerhaften Katastrophe führt?
Frage 5
Welche Entdeckung oder welches Ereignis würde deine Sicht auf die künftigen Auswirkungen von KI am stärksten verändern?
Wo stehst du?
Meine Weltsicht abbilden