Perché non penso che l'AGI sia imminente

Ecco il post completo del blog: solo contenuto del corpo HTML:

---

Perché non penso che l'AGI sia imminente

Nonostante i titoli dei giornali mozzafiato e le scommesse da miliardi di dollari, l’intelligenza artificiale generale non arriverà l’anno prossimo, e probabilmente nemmeno in questo decennio. Il divario tra gli impressionanti ma ristretti sistemi di intelligenza artificiale di oggi e la vera intelligenza generale rimane ampio, frainteso e costantemente sottovalutato da coloro che hanno maggiori incentivi finanziari a sopravvalutare il progresso.

In qualità di fondatore di Mewayz, una piattaforma a cui si affidano oltre 138.000 utenti per gestire le proprie attività con 207 moduli integrati, passo le mie giornate a pensare a cosa può effettivamente fare la tecnologia rispetto a ciò che vorremmo che potesse fare. Questa lente pratica modella il mio scetticismo sulle tempistiche dell’AGI, e credo che dovrebbe modellare anche il tuo.

Cosa intendono esattamente le persone quando dicono che l'AGI arriverà presto?

Il termine "intelligenza artificiale generale" si riferisce a un sistema in grado di eseguire qualsiasi compito intellettuale possibile a un essere umano, con la capacità di ragionare, apprendere, adattare e trasferire la conoscenza attraverso domini completamente nuovi senza una formazione specifica. Non è un chatbot che scrive email decenti. Non è un generatore di immagini che produce arte fotorealistica. Non è nemmeno un assistente di codifica che può supportare un'applicazione.

Ciò che abbiamo oggi sono modelli linguistici di grandi dimensioni e sistemi multimodali che eccellono nella corrispondenza di modelli su enormi set di dati. Sono strumenti straordinari. Sono anche fondamentalmente diversi dall'intelligenza generale. Quando Sam Altman o Demis Hassabis suggeriscono che l’AGI è proprio dietro l’angolo, stanno fondendo la capacità entro parametri definiti con l’adattabilità illimitata che definisce l’intelligenza generale. Queste non sono la stessa cosa, e nessuna misura di ridimensionamento ha dimostrato di poter colmare tale divario.

Perché il solo ridimensionamento non riesce a produrre intelligenza generale?

La teoria prevalente nella Silicon Valley è ingannevolmente semplice: ingrandire i modelli, fornire loro più dati e emergerà un’intelligenza generale. Questa “ipotesi di scalabilità” ha portato miliardi nell’acquisto di GPU e nella costruzione di data center. Ma l’evidenza empirica racconta una storia più complicata.

Rendimenti decrescenti sui benchmark: ogni aumento di ordine di grandezza nel calcolo produce miglioramenti progressivamente più piccoli nei compiti di ragionamento, suggerendo che stiamo raggiungendo un limite anziché avvicinarci a una svolta.

Fragilità in condizioni nuove: i modelli attuali falliscono in modo imprevedibile quando vengono presentati problemi che si discostano anche leggermente dalla loro distribuzione di addestramento, una limitazione fondamentale che più parametri non risolvono.

Assenza di ragionamento causale: gli LLM operano sulla correlazione statistica, non sulla comprensione causale. Non possono modellare il motivo per cui le cose accadono, ma solo prevedere quale testo probabilmente seguirà un altro testo.

Nessun apprendimento persistente: i sistemi odierni non possono imparare da una singola interazione e portare avanti quella conoscenza come fa un bambino umano dopo aver toccato una volta una stufa calda.

Incarnazione e radicamento: l'intelligenza umana è profondamente legata all'esperienza fisica e al feedback sensoriale. Nessuna quantità di dati testuali replica la comprensione radicata che deriva dall’esistenza nel mondo.

Il ridimensionamento ci ha fornito strumenti straordinari, ma non ha prodotto un unico sistema che dimostri una comprensione genuina, e non esiste alcun quadro teorico che suggerisca che ciò accada.

Chi trae vantaggio da tempistiche AGI troppo promettenti?

Segui i soldi. Tutti i principali laboratori di intelligenza artificiale stanno attualmente raccogliendo fondi a valutazioni che presuppongono scoperte trasformative a breve termine. Gli aumenti multimiliardari di OpenAI, il posizionamento interno di Google DeepMind e l'urgenza di Anthropic in termini di sicurezza dipendono tutti dalla narrativa secondo cui AGI è abbastanza vicina da giustificare investimenti senza precedenti.

"Il predittore più affidabile di una sequenza temporale AGI aggressiva non è la prova tecnica ma l'incentivo finanziario. Coloro che trarranno il massimo da questa narrazione sono le voci più forti che la promuovono."

Questo non vuol dire che queste aziende agiscano in malafede. Molti ricercatori, sinceramente

Related Posts

• CXMT offre chip DDR4 a circa la metà del prezzo di mercato prevalente
• Mostra HN: DSCI – CI Dead Simple
• Lo Strumento di Sandboxing da Riga di Comando Poco Conosciuto di macOS (2025)
• Notifiche vocali di Warcraft III Peon per il codice Claude