Sobald keine Täuschung mehr nötig ist: Die neue Ernsthaftigkeit des Untergangs?

Daniel Kokotajlo, ehemaliger OpenAI-Forscher, entwirft ein Szenario, in dem künstliche Intelligenz die Menschheit täuscht, überholt und schliesslich überflüssig macht. Es klingt nach Science-Fiction, und wird mit der Nüchternheit eines Ingenieurs vorgetragen. Genau darin liegt die eigentliche Provokation. Nicht die Katastrophe ist neu. Neu ist aber, wie plausibel sie formuliert wird. Und wie wenig wir darauf vorbereitet sind, zwischen ernsthafter Warnung, strategischer Dramatisierung und technologischem Wunschdenken zu unterscheiden.