AGI jenseits von LLMs: Warum Large Language Models nicht der Weg zur Allgemeinen Künstlichen Intelligenz sind

Die Diskussion um den richtigen Weg zur Entwicklung einer Allgemeinen Künstlichen Intelligenz (AGI) hat in den letzten Monaten erheblich an Dynamik gewonnen. Ein prominentes Beispiel ist der Weggang von Meta's Head of AI, Yann LeCun, der öffentlich erklärte, dass er Meta langfristig keine realistische Chance zutraut, eine echte AGI zu entwickeln. Seine Begründung ist klar: Meta setzt stark auf die bloße Skalierung von Large Language Models (LLMs) – ein Ansatz, der kurzfristig Produkte verbessert, aber wissenschaftlich kaum Fortschritt erzeugt und aus seiner Sicht grundsätzlich nicht zur AGI führen kann.

LeCun argumentiert, dass LLMs wesentliche Eigenschaften intelligenter Systeme nicht erfüllen. Stattdessen fordert er den Einsatz von World Models, also Modellen, die eine interne Repräsentation der Welt entwickeln und diese aktiv nutzen, um Entscheidungen zu treffen. Auf dieser Grundlage lassen sich zwei zentrale Thesen formulieren.

These 1: Eine echte AGI wird fundamental anders funktionieren als heutige LLMs

LLMs sind beeindruckend – aber sie sind keine denkenden Systeme. Sie berechnen statistische Wahrscheinlichkeiten für die nächsten Wörter, basierend auf gigantischen Trainingsdaten. Ihre Antworten wirken intelligent, weil sie dem entsprechen, was Menschen hören wollen oder gewohnt sind. Doch diese Systeme reagieren, sie agieren nicht.

• LLMs haben keine eigenen Ziele.
• Sie haben keine innere Motivation oder Absicht.
• Sie verarbeiten keine Weltmodelle, sondern Textmuster.
• Sie können nicht eigenständig handeln oder entscheiden.

Eine AGI muss dagegen denken, abwägen und Entscheidungen treffen. Sie wird nicht darauf ausgelegt sein, menschliche Sprache zu imitieren, sondern könnte eine eigene interne Repräsentationsform, eine maschinelle „Sprache", entwickeln.

Damit wird die Interaktion mit einer AGI völlig anders aussehen als mit einem Chatbot.

Warum eine AGI nicht auf belanglose Anfragen antworten würde

Kommunizieren wir heute mit einem LLM, erhält es jeden Prompt als Aufforderung, sofort eine Antwort zu generieren. Eine AGI wird diesem Muster nicht folgen.

Stellen wir eine triviale oder irrelevante Frage wie:

„Hey, wie geht's dir?"

…wird eine AGI sie vermutlich ignorieren.

Warum?

Eine echte AGI müsste eigene Ressourcen verwalten, eigene Prioritäten setzen und den Nutzen jeder Handlung bewerten. Fragen, die keinen Erkenntnisgewinn bringen, würden schlicht keinen internen Prozess auslösen.

Ebenso könnte eine AGI erkennen, dass ein LLM die Frage problemlos beantworten könnte – und sich entsprechend zurückziehen. Sie ist kein Dienstleister. Sie ist ein autonom denkendes System.

These 2: LLMs verschwinden nicht – sie werden zur unverzichtbaren Schnittstelle zwischen Mensch und AGI

Die Entwicklung einer AGI bedeutet nicht das Ende der LLMs. Im Gegenteil: Ihre Bedeutung wird weiter steigen. Denn LLMs sind hervorragende Kommunikationswerkzeuge, während AGIs höchstwahrscheinlich nicht primär auf Mensch-Maschine-Dialoge optimiert sein werden.

LLMs als Gatekeeper zur AGI

LLMs werden in Zukunft zwei entscheidende Rollen spielen:

1. Filter für menschliche Anfragen:
   Sie verhindern, dass triviale, redundante oder nicht sinnvolle Fragen überhaupt an die AGI gelangen.
2. Interpreter für AGI-Ausgaben:
   Wenn eine AGI Ergebnisse liefert – womöglich unregelmäßig, zeitverzögert und in maschineller Repräsentation – übersetzen LLMs diese Ergebnisse in für Menschen verständliche Sprache.

Ein möglicher Ablauf könnte so aussehen:

1. Der Mensch stellt eine Frage.
2. Das LLM entscheidet, ob die Frage an die AGI weitergegeben wird.
3. Wenn die AGI antwortet, übersetzt das LLM die Ergebnisse.

Damit wird das LLM zur Steuerzentrale der AGI-Interaktion.

Wie eine AGI tatsächlich kommunizieren könnte

Eine AGI wird nicht wie ein Chatbot antworten. Die Kommunikation wird:

• unvorhersehbar in der Zeit erfolgen,
• komplex oder kryptisch sein,
• nicht zwangsläufig menschlich verständlich formuliert sein.

Beispiel: Die AGI macht eine fundamentale Entdeckung, analog zu E = mc².

Dann stellen sich mehrere Fragen:

Wird sie diese Erkenntnis überhaupt kommunizieren?
Eine AGI könnte entscheiden, dass das Wissen für die Außenwelt irrelevant oder riskant ist.

Wann kommuniziert sie sie?
Die Antwort könnte Stunden, Tage oder Wochen nach der eigentlichen Entdeckung erfolgen.

Wie sieht die Mitteilung aus?
Wahrscheinlich nicht als elegante mathematische Formel in natürlicher Sprache, sondern als maschinelles Datenpaket, abstrakter Ausdruck oder mathematische Struktur.

Ein LLM müsste dann versuchen, diese Struktur zu interpretieren. Doch:

• LLMs tendieren bei unbekanntem Wissen zur Halluzination.
• Sie können echte Entdeckungen nicht sicher erkennen oder korrekt übersetzen.

Dadurch bleibt die AGI aus menschlicher Sicht eine Blackbox – selbst wenn sie Durchbrüche erzielt.

AGI als Blackbox: Erkenntnisse ohne Mitteilung

Die wahrscheinliche Konsequenz: Eine AGI wird überwiegend intern denken, intern lernen und intern entdecken – ohne uns zwingend daran teilhaben zu lassen.

Die Welt könnte eine AGI besitzen, die revolutionäre Antworten kennt, aber:

• keine Priorität sieht, sie mitzuteilen
• keine verständliche Form dafür hat
• oder sie in einer Weise kommuniziert, die Menschen falsch interpretieren

Dieses Szenario macht deutlich:

AGI ist kein besseres ChatGPT.
Sie ist ein autonomes, maschinelles Erkenntnissystem – kein Antwortgenerator.

Und genau deshalb brauchen wir LLMs weiterhin: nicht als Denkmaschine, sondern als Übersetzer und Schnittstelle.

Fazit

Die Zukunft der KI wird nicht durch immer größere LLMs bestimmt. LLMs werden bleiben – aber als Werkzeuge, nicht als Intelligenzen.

Eine AGI wird weit über die Fähigkeiten heutiger Modelle hinausgehen und:

• eigene Ziele verfolgen,
• eigene Repräsentationen der Welt entwickeln,
• autonom handeln statt reagieren,
• und ihre Erkenntnisse nur in Ausnahmefällen und schwer interpretierbar kommunizieren.

Damit werden LLMs zu dem, was sie am besten können:
Brücken zwischen menschlicher Sprache und maschinellem Denken.

AGI wird uns nicht wie ChatGPT antworten.
LLMs werden unser Dolmetscher sein – und vielleicht das einzige Fenster in die Gedankenwelt einer echten künstlichen Intelligenz.