AGI が差し迫っているとは思わない理由

完全なブログ投稿は次のとおりです (HTML 本文コンテンツのみ)。

---

AGI が差し迫っているとは思わない理由

息を呑むような見出しと数十億ドルの賭けにもかかわらず、汎用人工知能は来年、あるいはおそらく今年10年さえも登場しないでしょう。今日の印象的ではあるが狭い AI システムと真の一般知能との間のギャップは依然として大きく、誤解されており、進歩を過大評価する最も経済的なインセンティブを持つ人々によって常に過小評価されています。

207 個の統合モジュールを使用してビジネスを運営するために 138,000 人を超えるユーザーから信頼されているプラ​​ットフォームである Mewayz の創設者として、私はテクノロジで実際に何ができるのか、そしてテクノロジにできるようになりたいと思うことについて日々考えています。この実用的なレンズは、AGI タイムラインに対する私の懐疑的な見方を形作りますが、それはあなたの懐疑的な見方にも影響を与えるはずだと私は信じています。

AGI が間もなく登場すると言うとき、正確には何を意味するのでしょうか?

「汎用人工知能」という用語は、人間が行うことができるあらゆる知的タスクを実行できるシステムを指し、特別なトレーニングなしでまったく新しい領域にわたって推論、学習、適応、および知識の伝達を行う能力を備えています。まともなメールを書くチャットボットではありません。フォトリアリスティックなアートを生み出す画像ジェネレーターではありません。アプリケーションをスキャフォールディングできるコーディングアシスタントですらありません。

現在私たちが持っているのは、巨大なデータセットにわたるパターン マッチングに優れた大規模な言語モデルとマルチモーダル システムです。それらは素晴らしいツールです。彼らはまた、一般的な知性とは根本的に異なります。サム・アルトマンやデミス・ハサビスがAGIがもうすぐそこまで来ていると示唆するとき、彼らは定義されたパラメータ内の能力と、一般的な知能を定義する無制限の適応性を混同している。これらは同じものではなく、いくら規模を拡大しても溝を埋める証拠は示されていません。

なぜスケーリングだけでは一般的なインテリジェンスを生成できないのでしょうか?

シリコンバレーで広まっている理論は一見単純だ。モデルを大きくし、より多くのデータを供給すれば、一般的な知性が現れるだろう。この「スケーリング仮説」により、数十億ドル規模の GPU 購入とデータセンター建設が推進されました。しかし、経験的証拠はより複雑な物語を伝えています。

ベンチマークでの収益の減少: コンピューティングが 1 桁増加するたびに、推論タスクの改善が徐々に小さくなり、ブレークスルーに近づくのではなく、頭打ちになりつつあることを示唆しています。

新しい条件下での脆弱性: 現在のモデルは、トレーニング分布からわずかでも逸脱する問題が発生すると、予期せず失敗します。これは、パラメータを増やしても解決できない根本的な制限です。

因果推論の欠如: LLM は、因果関係の理解ではなく、統計的な相関関係に基づいて動作します。彼らは、何が起こるのかをモデル化することはできず、どのテキストが他のテキストに続く可能性が高いかを予測するだけです。

持続的な学習はありません。今日のシステムは、人間の子供が一度熱いストーブに触れた後に行うように、一度の対話から学習してその知識を先へ進めることができません。

具現化と基礎付け: 人間の知性は、身体的経験と感覚フィードバックに深く結びついています。どんなにテキストデータがあっても、世界に存在することから得られる根拠のある理解を再現することはできません。

スケーリングは私たちに素晴らしいツールを提供してくれましたが、真の理解を示す単一のシステムを生み出したことはなく、それを示唆する理論的枠組みもありません。

AGI スケジュールを過度に約束することで誰が利益を得るのでしょうか?

お金に従ってください。すべての主要な AI ラボは現在、変革的で短期的なブレークスルーを想定した評価額で資金調達を行っています。 OpenAI の数十億ドル規模の資金調達、Google DeepMind の社内での位置づけ、そして Anthropic の安全枠に基づく緊急性はすべて、AGI が前例のない投資を正当化するのに十分に近づいているという物語に依存している。

「攻撃的なAGIのスケジュールを予測する最も信頼できるのは、技術的な証拠ではなく、金銭的なインセンティブです。この物語から最大限の利益を得ようとしている人たちが、それを推進する声を最も大きく上げています。」

これは、これらの企業が悪意を持って行動していると言っているわけではありません。多くの研究者は本気で

Related Posts

• DJBの暗号学的オデッセイ：コードヒーローから標準規格の批評家へ
• macOS のあまり知られていないコマンドライン サンドボックス ツール (2025)
• シンギュラリティは火曜日に起こる
• GNU Pies – プログラムの呼び出しおよび実行スーパーバイザー