Por qué no creo que AGI sea inminente

Aquí está la publicación completa del blog: solo el contenido del cuerpo HTML:

---

Por qué no creo que la AGI sea inminente

A pesar de los titulares apasionantes y las apuestas de miles de millones de dólares, la inteligencia artificial general no llegará el próximo año, ni probablemente ni siquiera en esta década. La brecha entre los impresionantes pero estrechos sistemas de IA actuales y la verdadera inteligencia general sigue siendo enorme, incomprendida y constantemente subestimada por aquellos que tienen el mayor incentivo financiero para exagerar el progreso.

Como fundador de Mewayz, una plataforma en la que confían más de 138.000 usuarios para gestionar sus negocios con 207 módulos integrados, paso mis días pensando en lo que la tecnología realmente puede hacer frente a lo que desearíamos que pudiera hacer. Esa lente práctica da forma a mi escepticismo sobre los cronogramas de AGI, y creo que también debería moldear el suyo.

¿Qué quiere decir exactamente la gente cuando dice que AGI llegará pronto?

El término "inteligencia general artificial" se refiere a un sistema que puede realizar cualquier tarea intelectual que pueda realizar un ser humano, con la capacidad de razonar, aprender, adaptar y transferir conocimientos a través de dominios completamente nuevos sin una formación específica. No es un chatbot que escribe correos electrónicos decentes. No es un generador de imágenes que produce arte fotorrealista. Ni siquiera es un asistente de codificación que pueda desarrollar una aplicación.

Lo que tenemos hoy son grandes modelos de lenguaje y sistemas multimodales que destacan en la coincidencia de patrones en enormes conjuntos de datos. Son herramientas extraordinarias. También son fundamentalmente diferentes de la inteligencia general. Cuando Sam Altman o Demis Hassabis sugieren que la AGI está a la vuelta de la esquina, están combinando la capacidad dentro de parámetros definidos con la adaptabilidad abierta que define la inteligencia general. No son lo mismo, y ninguna cantidad de escalamiento ha mostrado evidencia de superar esa división.

¿Por qué el escalamiento por sí solo no logra producir inteligencia general?

La teoría predominante en Silicon Valley es engañosamente simple: si se hacen más grandes los modelos, se les suministran más datos, y surgirá la inteligencia general. Esta "hipótesis de escala" ha impulsado miles de millones en compras de GPU y construcción de centros de datos. Pero la evidencia empírica cuenta una historia más complicada.

Rendimientos decrecientes en los puntos de referencia: cada aumento de orden de magnitud en la computación produce mejoras progresivamente menores en las tareas de razonamiento, lo que sugiere que estamos alcanzando un techo en lugar de acercarnos a un gran avance.

Fragilidad en condiciones nuevas: los modelos actuales fallan de manera impredecible cuando se les presentan problemas que se desvían aunque sea ligeramente de su distribución de entrenamiento, una limitación fundamental que más parámetros no resuelven.

Ausencia de razonamiento causal: los LLM operan sobre la base de una correlación estadística, no de una comprensión causal. No pueden modelar por qué suceden las cosas, sólo predecir qué texto es probable que siga a otro texto.

Sin aprendizaje persistente: los sistemas actuales no pueden aprender de una sola interacción y transmitir ese conocimiento como lo hace un niño humano después de tocar una estufa caliente una vez.

Encarnación y fundamento: la inteligencia humana está profundamente ligada a la experiencia física y la retroalimentación sensorial. Ninguna cantidad de datos textuales replica la comprensión fundamentada que surge de la existencia en el mundo.

El escalamiento nos ha brindado herramientas notables, pero no ha producido un solo sistema que demuestre una comprensión genuina, y no existe ningún marco teórico que sugiera que así sea.

¿Quién se beneficia de los cronogramas de AGI demasiado prometedores?

Sigue el dinero. Actualmente, todos los laboratorios importantes de IA están recaudando fondos con valoraciones que suponen avances transformadores a corto plazo. Los aumentos multimillonarios de OpenAI, el posicionamiento interno de Google DeepMind y la urgencia enmarcada en la seguridad de Anthropic dependen de la narrativa de que AGI está lo suficientemente cerca como para justificar una inversión sin precedentes.

"El predictor más confiable de un cronograma agresivo de AGI no es la evidencia técnica sino el incentivo financiero. Aquellos que pueden ganar más con la narrativa son las voces más fuertes que la promueven".

Esto no quiere decir que estas empresas estén actuando de mala fe. Muchos investigadores genuinamente

Related Posts

• La Odisea Criptográfica de DJB: De Héroe del Código a Crítico de Estándares
• CXMT ha estado ofreciendo chips DDR4 a aproximadamente la mitad del precio predominante en el mercado.
• El sistema de rayos X portátil de 1MV combina Cockcroft-Walton con la cúpula de Van de Graaff
• Libro de diseño de Windows NT/OS2