Warum ich nicht glaube, dass AGI unmittelbar bevorsteht

Hier ist der vollständige Blog-Beitrag – nur HTML-Textinhalt:

---

Warum ich nicht glaube, dass AGI unmittelbar bevorsteht

Trotz der atemlosen Schlagzeilen und milliardenschweren Wetten kommt die künstliche allgemeine Intelligenz nächstes Jahr und wahrscheinlich sogar in diesem Jahrzehnt nicht auf den Markt. Die Kluft zwischen den beeindruckenden, aber eng begrenzten KI-Systemen von heute und echter allgemeiner Intelligenz ist nach wie vor groß, wird missverstanden und wird von denjenigen, die den größten finanziellen Anreiz haben, den Fortschritt zu übertreiben, immer wieder unterschätzt.

Als Gründer von Mewayz, einer Plattform, der über 138.000 Benutzer vertrauen, um ihre Geschäfte mit 207 integrierten Modulen zu führen, verbringe ich meine Tage damit, darüber nachzudenken, was Technologie tatsächlich leisten kann und was wir uns von ihr wünschen. Diese praktische Sichtweise prägt meine Skepsis gegenüber AGI-Zeitplänen, und ich glaube, dass sie auch Ihre Skepsis prägen sollte.

Was genau meinen die Leute, wenn sie sagen, dass AGI bald kommt?

Der Begriff „künstliche allgemeine Intelligenz“ bezieht sich auf ein System, das jede intellektuelle Aufgabe eines Menschen ausführen kann, mit der Fähigkeit, ohne spezielle Schulung zu denken, zu lernen, sich anzupassen und Wissen über völlig neue Bereiche hinweg zu übertragen. Es ist kein Chatbot, der anständige E-Mails schreibt. Es ist kein Bildgenerator, der fotorealistische Kunst erzeugt. Es ist nicht einmal ein Codierungsassistent, der eine Anwendung aufbauen kann.

Was wir heute haben, sind große Sprachmodelle und multimodale Systeme, die sich durch den Mustervergleich über riesige Datensätze hinweg auszeichnen. Es sind außergewöhnliche Werkzeuge. Sie unterscheiden sich auch grundlegend von der allgemeinen Intelligenz. Wenn Sam Altman oder Demis Hassabis vorschlagen, dass AGI unmittelbar bevorsteht, vermischen sie die Fähigkeit innerhalb definierter Parameter mit der unbegrenzten Anpassungsfähigkeit, die allgemeine Intelligenz definiert. Das ist nicht dasselbe, und keine noch so große Skalierung hat gezeigt, dass diese Kluft überbrückt werden kann.

Warum schafft Skalierung allein keine allgemeine Intelligenz?

Die vorherrschende Theorie im Silicon Valley ist täuschend einfach: Vergrößert man die Modelle, füttert sie mit mehr Daten, dann entsteht allgemeine Intelligenz. Diese „Skalierungshypothese“ hat den Kauf von GPUs und den Bau von Rechenzentren in Milliardenhöhe vorangetrieben. Aber die empirischen Beweise erzählen eine kompliziertere Geschichte.

Sinkende Renditen bei Benchmarks: Jede Steigerung der Rechenleistung um eine Größenordnung führt zu immer geringeren Verbesserungen bei Argumentationsaufgaben, was darauf hindeutet, dass wir eher an einer Obergrenze angelangt sind als vor einem Durchbruch.

Sprödigkeit unter neuartigen Bedingungen: Aktuelle Modelle versagen unvorhersehbar, wenn Probleme auftreten, die auch nur geringfügig von ihrer Trainingsverteilung abweichen, eine grundlegende Einschränkung, die durch mehr Parameter nicht behoben werden kann.

Fehlen einer kausalen Begründung: LLMs basieren auf statistischer Korrelation, nicht auf kausalem Verständnis. Sie können nicht modellieren, warum Dinge passieren, sondern nur vorhersagen, welcher Text wahrscheinlich auf anderen Text folgen wird.

Kein dauerhaftes Lernen: Heutige Systeme können nicht aus einer einzigen Interaktion lernen und dieses Wissen weitergeben, wie es ein menschliches Kind tut, nachdem es einmal eine heiße Herdplatte berührt hat.

Verkörperung und Erdung: Die menschliche Intelligenz ist eng mit körperlicher Erfahrung und sensorischem Feedback verbunden. Keine Textdatenmenge spiegelt das fundierte Verständnis wider, das aus der Existenz in der Welt resultiert.

Die Skalierung hat uns bemerkenswerte Werkzeuge an die Hand gegeben, aber sie hat kein einziges System hervorgebracht, das echtes Verständnis demonstriert, und es gibt keinen theoretischen Rahmen, der dies nahelegt.

Wer profitiert von zu vielversprechenden AGI-Zeitplänen?

Folge dem Geld. Jedes große KI-Labor sammelt derzeit Mittel zu Bewertungen, die von transformativen, kurzfristigen Durchbrüchen ausgehen. Die Multi-Milliarden-Dollar-Einnahmen von OpenAI, die interne Positionierung von Google DeepMind und die sicherheitsgerichtete Dringlichkeit von Anthropic hängen alle von der Erzählung ab, dass AGI nahe genug ist, um beispiellose Investitionen zu rechtfertigen.

„Der zuverlässigste Indikator für einen aggressiven AGI-Zeitplan sind nicht technische Beweise, sondern finanzielle Anreize. Diejenigen, die am meisten von der Erzählung profitieren können, sind die lautesten Stimmen, die sie fördern.“

Das bedeutet nicht, dass diese Unternehmen in böser Absicht handeln. Viele Forscher wirklich

Related Posts

• CXMT bietet DDR4-Chips etwa zur Hälfte des marktüblichen Preises an
• macOS' wenig bekanntes Kommandozeilen-Sandboxing-Tool (2025)
• DJBs Kryptografische Odyssee: Vom Code-Helden zum Standards-Kritiker
• Was jeder Compiler-Autor über Programmierer wissen sollte (2015) [pdf]