AGI가 임박했다고 생각하지 않는 이유

전체 블로그 게시물은 다음과 같습니다. HTML 본문 콘텐츠만 해당됩니다.

---

내가 AGI가 임박했다고 생각하지 않는 이유

숨막히는 헤드라인과 수십억 달러의 투자에도 불구하고 인공지능(AI)은 내년이나 심지어 10년 안에도 등장하지 않을 것입니다. 오늘날의 인상적이지만 협소한 ​​AI 시스템과 진정한 일반 지능 사이의 격차는 여전히 거대하고, 오해되고, 진보를 과장하기 위해 가장 재정적 인센티브를 가진 사람들에 의해 지속적으로 과소평가되고 있습니다.

207개의 통합 모듈로 비즈니스를 운영하기 위해 138,000명 이상의 사용자가 신뢰하는 플랫폼인 Mewayz의 창립자로서 저는 기술이 실제로 무엇을 할 수 있는지와 우리가 원하는 것이 무엇인지에 대해 생각하며 하루를 보냅니다. 이러한 실용적인 렌즈는 AGI 타임라인에 대한 나의 회의론을 형성하고 여러분의 회의론도 형성해야 한다고 믿습니다.

사람들이 AGI가 곧 출시될 것이라고 말하는 것은 정확히 무엇을 의미합니까?

"일반 인공지능(Artificial General Intelligence)"이라는 용어는 특별한 훈련 없이 완전히 새로운 영역에 걸쳐 추론하고, 학습하고, 적응하고, 지식을 전달할 수 있는 능력을 갖추고 인간이 할 수 있는 모든 지적 작업을 수행할 수 있는 시스템을 의미합니다. 괜찮은 이메일을 작성하는 챗봇이 아닙니다. 사실적인 예술 작품을 제작하는 이미지 생성기가 아닙니다. 애플리케이션을 발판으로 삼을 수 있는 코딩 도우미도 아닙니다.

오늘날 우리가 보유하고 있는 것은 방대한 데이터 세트에서 패턴 일치에 탁월한 성능을 발휘하는 대규모 언어 모델과 다중 모드 시스템입니다. 그것들은 특별한 도구입니다. 그들은 또한 일반 지능과 근본적으로 다릅니다. Sam Altman이나 Demis Hassabis는 AGI가 코앞에 다가왔다고 제안하면서 정의된 매개변수 내의 기능과 일반 지능을 정의하는 개방형 적응성을 융합하고 있습니다. 이것들은 같은 것이 아니며, 어떤 규모의 확장도 분열을 연결하는 증거를 보여주지 못했습니다.

확장만으로는 일반 지능을 생성하지 못하는 이유는 무엇입니까?

실리콘밸리의 지배적인 이론은 믿을 수 없을 정도로 간단합니다. 모델을 더 크게 만들고, 더 많은 데이터를 제공하면 일반 지능이 등장한다는 것입니다. 이 "확장 가설"은 수십억 달러의 GPU 구매와 데이터 센터 건설을 주도했습니다. 그러나 경험적 증거는 더 복잡한 이야기를 말해준다.

벤치마크의 수익 감소: 컴퓨팅이 한 단계씩 증가할 때마다 추론 작업에 대한 개선이 점진적으로 작아지며, 이는 획기적인 발전에 접근하기보다는 한계점에 도달하고 있음을 시사합니다.

새로운 조건에서의 취약성: 현재 모델은 훈련 분포에서 조금이라도 벗어나는 문제가 발생하면 예측할 수 없게 실패합니다. 이는 더 많은 매개변수가 해결되지 않는 근본적인 한계입니다.

인과 추론의 부재: LLM은 인과 관계 이해가 아닌 통계적 상관 관계에 따라 작동합니다. 그들은 일이 일어나는 이유를 모델링할 수 없으며 어떤 텍스트가 다른 텍스트 뒤에 올 가능성이 있는지 예측할 뿐입니다.

지속적인 학습 없음: 오늘날의 시스템은 인간 어린이가 뜨거운 난로를 한 번 만진 후 수행하는 것처럼 단일 상호 작용을 통해 학습하고 해당 지식을 전달할 수 없습니다.

구체화 및 기반: 인간 지능은 신체적 경험 및 감각 피드백과 깊이 연관되어 있습니다. 아무리 많은 텍스트 데이터도 세상에 존재하는 근거 있는 이해를 복제하지 못합니다.

확장은 우리에게 놀라운 도구를 제공했지만 진정한 이해를 보여주는 단일 시스템을 생성하지 않았으며 이를 제안하는 이론적 틀도 없습니다.

AGI 타임라인을 지나치게 약속하면 누가 이익을 얻나요?

돈을 따르십시오. 모든 주요 AI 연구소는 현재 혁신적이고 단기적인 돌파구를 가정하는 가치 평가로 자금을 조달하고 있습니다. OpenAI의 수십억 달러 모금, Google DeepMind의 내부 포지셔닝 및 Anthropic의 안전 프레임 긴급성은 모두 AGI가 전례 없는 투자를 정당화할 만큼 충분히 가깝다는 이야기에 달려 있습니다.

"공격적인 AGI 일정을 가장 신뢰할 수 있는 예측자는 기술적 증거가 아니라 금전적 인센티브입니다. 내러티브에서 가장 많은 것을 얻을 수 있는 사람들은 이를 홍보하는 가장 큰 목소리입니다."

이는 이들 회사가 악의로 행동하고 있다는 의미가 아닙니다. 많은 연구자들이 정품

Related Posts

• DJB의 암호학적 오디세이: 코드 영웅에서 표준 비판자로
• CXMT, DDR4 칩을 시장 평균 가격의 절반 수준에 공급 중
• 메타프로젝트 수행
• IRS, '효율성' 개편으로 IT 직원 40%, 기술 리더 80% 잃어