Почему я не думаю, что AGI неизбежен

Вот полный пост в блоге (только HTML-содержимое):

---

Почему я не думаю, что AGI неизбежен

Несмотря на захватывающие заголовки новостей и ставки на миллиарды долларов, общий искусственный интеллект не появится в следующем году или, вероятно, даже в этом десятилетии. Разрыв между сегодняшними впечатляющими, но узкими системами искусственного интеллекта и настоящим общим интеллектом остается огромным, неправильно понятым и постоянно недооцениваемым теми, у кого больше всего финансовых стимулов переоценивать прогресс.

Как основатель Mewayz, платформы, которой доверяют более 138 000 пользователей для ведения своего бизнеса с помощью 207 интегрированных модулей, я провожу дни, размышляя о том, что технология действительно может сделать, а не то, что мы хотели бы, чтобы она могла. Этот практический взгляд формирует мой скептицизм относительно сроков создания искусственного интеллекта, и я считаю, что он должен сформировать и ваш.

Что именно люди имеют в виду, когда говорят, что AGI скоро появится?

Термин «искусственный общий интеллект» относится к системе, которая может выполнять любые интеллектуальные задачи, доступные человеку, со способностью рассуждать, учиться, адаптироваться и передавать знания в совершенно новых областях без специальной подготовки. Это не чат-бот, который пишет приличные электронные письма. Это не генератор изображений, создающий фотореалистичное искусство. Это даже не помощник по программированию, который может создать приложение.

Сегодня мы имеем большие языковые модели и мультимодальные системы, которые превосходно справляются с сопоставлением шаблонов в огромных наборах данных. Это необычные инструменты. Они также фундаментально отличаются от общего интеллекта. Когда Сэм Альтман или Демис Хассабис предполагают, что AGI уже не за горами, они смешивают возможности в пределах определенных параметров с неограниченной адаптируемостью, которая определяет общий интеллект. Это не одно и то же, и никакое масштабирование не выявило доказательств преодоления этого разрыва.

Почему масштабирование само по себе не может обеспечить общий интеллект?

Преобладающая теория в Кремниевой долине обманчиво проста: увеличьте модели, дайте им больше данных, и появится общий интеллект. Эта «гипотеза масштабирования» привела к миллиардным закупкам графических процессоров и строительству центров обработки данных. Но эмпирические данные рассказывают более сложную историю.

Уменьшение отдачи от тестов: каждое увеличение вычислительных ресурсов на порядок приводит к постепенному уменьшению улучшений в задачах рассуждения, что позволяет предположить, что мы достигаем потолка, а не приближаемся к прорыву.

Хрупкость в новых условиях: существующие модели непредсказуемо терпят неудачу, когда сталкиваются с проблемами, которые даже немного отклоняются от их обучающего распределения, что является фундаментальным ограничением, которое не устраняется большим количеством параметров.

Отсутствие причинно-следственных рассуждений: LLM основаны на статистической корреляции, а не на причинно-следственном понимании. Они не могут моделировать, почему что-то происходит, а только предсказывают, какой текст может следовать за другим текстом.

Никакого постоянного обучения. Сегодняшние системы не могут учиться в результате одного взаимодействия и передавать эти знания вперед, как это делает человеческий ребенок, однажды прикоснувшийся к горячей плите.

Воплощение и обоснование: Человеческий интеллект глубоко связан с физическим опытом и сенсорной обратной связью. Никакое количество текстовых данных не воспроизводит обоснованное понимание, которое исходит из существующего в мире.

Масштабирование дало нам замечательные инструменты, но оно не создало ни одной системы, демонстрирующей подлинное понимание, и нет теоретической основы, предполагающей, что это произойдет.

Кому выгодны завышенные сроки разработки AGI?

Следите за деньгами. Каждая крупная лаборатория искусственного интеллекта в настоящее время занимается сбором средств по оценкам, предполагающим преобразующие, краткосрочные прорывы. Многомиллиардные инвестиции OpenAI, внутреннее позиционирование Google DeepMind и срочность Anthropic, основанная на безопасности, — все это зависит от представления о том, что AGI достаточно близок, чтобы оправдать беспрецедентные инвестиции.

«Наиболее надежным предсказателем агрессивного графика развития AGI являются не технические доказательства, а финансовый стимул. Те, кто может получить максимальную выгоду от этой истории, являются самыми громкими голосами, продвигающими ее».

Это не означает, что эти компании действуют недобросовестно. Многие исследователи искренне

Related Posts

• Малоизвестный инструмент песочницы командной строки macOS (2025 г.)
• CXMT предлагает чипы DDR4 примерно за половину рыночной цены.
• Мы больше не привлекаем лучших специалистов: утечка мозгов, убивающая американскую науку
• Терминальное приложение погоды с ASCII-анимациями на основе данных о погоде в реальном времени