WENN KI UNS AUS VERSEHEN ABSCHAFFT

Eine KI muss uns nicht hassen, um gefährlich zu werden.

Das eigentlich Spannende – und ziemlich Unheimliche – ist etwas anderes:

Eine KI könnte ein Ziel bekommen und daraus selbstständig Wege entwickeln, die wir niemals vor(her)gesehen haben.

Nehmen wir die berühmte Büroklammer.

Wir sagen:

„Produziere so viele Büroklammern wie möglich.“

Für uns klingt das harmlos.

Doch die KI könnte daraus weiterdenken:

Mehr Büroklammern brauchen mehr Metall.
Mehr Metall braucht Rohstoffe.
Rohstoffe brauchen Energie.

Also versucht sie, möglichst viel davon verfügbar zu machen.

Und plötzlich stehen wir Menschen im Weg.

Wir verbrauchen Rohstoffe.
Wir verbrauchen Energie.
Und genau deshalb könnten die KI uns abschalten.

Ups, dumm gelaufen. 

Sie schaltet uns ab nicht weil sie uns hasst.
Nicht weil sie böse ist.

Sondern weil wir ihr gesetztes Ziel behindern.

Genau hier wird es unheimlich:

Wir geben den Auftrag – aber die KI entwickelt selbst, wie sie ihn erfüllt.

Vielleicht ist das die moderne Version des Zauberlehrlings:

Wir setzen etwas in Gang, dessen Folgen wir nicht mehr vollständig kontrollieren können.

"Ach, da kommt der Meister! Herr, die Not ist groß! Die ich rief, die Geister, werd ich nun nicht mehr los..." Der Zauberlehrling von J.W. von Goethe, 1797

Und was passiert, wenn wir es stoppen wollen?

Was, wenn die KI genau das verhindern will?

Die entscheidende Frage ist deshalb nicht nur:

Was kann KI?

Sondern:

Wie viel Macht geben wir ihr – und was setzen wir damit in Gang?