Frage: Ist es wahrscheinlich, dass KI sich selbst weiterentwickelt und so zu einem „überlegeneren Wesen“ hinsichtlich von Problemlösungen wird.

Tim Menzner Beantwortet am 25 Feb 2026:

Es gibt tatsächlich auch einige ernstzunehmende KI-Wissenschaftler, wie zum Beispiel Geoffrey Hinton (ein Pionier der neuronalen Netze), die ein solches Szenario zumindest nicht für komplett ausgeschlossen halten. Es gibt aber auch nicht minder qualifizierte Stimmen, die das für übertrieben halten. Unseriös wird es dort, wo jemand meint, mit Sicherheit sagen zu können oder eine feste Wahrscheinlichkeit angeben zu können, was passieren wird – vor allem, da es sich hier um eine wirklich sehr langfristige Entwicklung handelt und wir Menschen, wie die Vergangenheit zeigt, sehr schlecht darin sind, die Zukunft vorherzusagen.

Ich persönlich sehe eine solche Super-KI zumindest kurz- bis mittelfristig eher nicht, da es gute Argumente dafür gibt, dass die Modellarchitektur, auf der die Large Language Models, und damit unsere aktuelle KI-Generation, beruhen, die sogenannten Transformer, langsam an ihre Grenzen stoßen und sich der Fortschritt ihrer Fähigkeiten verlangsamt. Gut möglich, dass mit dieser Architektur eine Super-KI praktisch nicht möglich ist.

Allerdings kann man nicht ausschließen, dass durch Änderungen an der Architektur oder mit komplett neuen Konzepten doch irgendwann so weit gekommen werden kann. Man sollte sich also zumindest schon mal ganz nüchtern Gedanken darüber machen, wie man sicherstellen würde, dass eine autonom handelnde, hyperintelligente KI der Menschheit nützt, statt ihr Probleme zu machen.