Dlaczego nie sądzę, że AGI jest nieuchronne

Oto cały wpis na blogu — tylko treść HTML:

---

Dlaczego nie sądzę, że AGI jest nieuchronne

Pomimo zapierających dech w piersiach nagłówków gazet i zakładów wartych miliardy dolarów sztuczna inteligencja ogólna nie pojawi się w przyszłym roku ani prawdopodobnie nawet w tej dekadzie. Przepaść między dzisiejszymi imponującymi, ale wąskimi systemami sztucznej inteligencji a prawdziwą inteligencją ogólną pozostaje ogromna, niezrozumiana i konsekwentnie niedoceniana przez tych, którzy mają największą motywację finansową do wyolbrzymiania postępu.

Jako założyciel Mewayz, platformy, której ponad 138 000 użytkowników zaufało do prowadzenia działalności gospodarczej i która zawiera 207 zintegrowanych modułów, spędzam dni rozmyślając o tym, co technologia może faktycznie zrobić, a co byśmy sobie tego życzyli. Ten praktyczny obiektyw kształtuje mój sceptycyzm wobec osi czasu AGI i uważam, że powinien ukształtować także Twój.

Co dokładnie ludzie mają na myśli, mówiąc, że AGI już wkrótce?

Termin „sztuczna inteligencja ogólna” odnosi się do systemu, który może wykonać dowolne zadanie intelektualne, jakie może wykonać człowiek, a także potrafi rozumować, uczyć się, dostosowywać i przekazywać wiedzę w zupełnie nowych dziedzinach bez specjalnego przeszkolenia. To nie jest chatbot, który pisze porządne maile. To nie jest generator obrazów, który tworzy fotorealistyczną sztukę. Nawet asystent kodowania nie jest w stanie zbudować aplikacji.

Dziś mamy duże modele językowe i systemy multimodalne, które przodują w dopasowywaniu wzorców w ogromnych zbiorach danych. To niezwykłe narzędzia. Różnią się także zasadniczo od inteligencji ogólnej. Kiedy Sam Altman lub Demis Hassabis sugerują, że AGI jest tuż za rogiem, łączą możliwości w ramach określonych parametrów z możliwością nieograniczonej adaptacji, która definiuje ogólną inteligencję. To nie jest to samo i żadna skala nie wykazała dowodów na zniwelowanie tego podziału.

Dlaczego samo skalowanie nie zapewnia ogólnej inteligencji?

Teoria panująca w Dolinie Krzemowej jest zwodniczo prosta: powiększ modele, zasil je większą ilością danych, a pojawi się ogólna inteligencja. Ta „hipoteza skalowania” przyniosła miliardy zakupów procesorów graficznych i budowy centrów danych. Ale dowody empiryczne opowiadają bardziej skomplikowaną historię.

Malejące zyski z testów porównawczych: każdy wzrost mocy obliczeniowej o rząd wielkości zapewnia coraz mniejszą poprawę zadań związanych z rozumowaniem, co sugeruje, że uderzamy w sufit, a nie zbliżamy się do przełomu.

Kruchość w nowych warunkach: obecne modele zawodzą w nieprzewidywalny sposób, gdy pojawiają się problemy, które nawet nieznacznie odbiegają od ich rozkładu uczenia, co jest podstawowym ograniczeniem, którego nie rozwiązuje więcej parametrów.

Brak rozumowania przyczynowego: LLM działają w oparciu o korelację statystyczną, a nie zrozumienie przyczynowe. Nie mogą modelować, dlaczego coś się dzieje, mogą jedynie przewidzieć, jaki tekst prawdopodobnie nastąpi po innym tekście.

Brak ciągłego uczenia się: dzisiejsze systemy nie są w stanie uczyć się na podstawie pojedynczej interakcji i przekazywać zdobytej wiedzy w taki sam sposób, w jaki robi to ludzkie dziecko po jednorazowym dotknięciu gorącego pieca.

Ucieleśnienie i uziemienie: Ludzka inteligencja jest głęboko powiązana z doświadczeniem fizycznym i sprzężeniem zmysłowym. Żadna ilość danych tekstowych nie odzwierciedla ugruntowanego zrozumienia wynikającego z istnienia na świecie.

Skalowanie dało nam niezwykłe narzędzia, ale nie stworzyło ani jednego systemu, który wykazałby prawdziwe zrozumienie, i nie ma żadnych ram teoretycznych sugerujących, że tak się stanie.

Kto czerpie korzyści z nadmiernie obiecujących harmonogramów AGI?

Podążaj za pieniędzmi. Każde większe laboratorium sztucznej inteligencji zbiera obecnie fundusze według wycen, które zakładają transformacyjne, krótkoterminowe przełomy. Wielomiliardowe podwyżki OpenAI, wewnętrzne pozycjonowanie Google DeepMind i pilna potrzeba zapewnienia bezpieczeństwa Anthropic zależą od narracji, że AGI jest wystarczająco blisko, aby uzasadnić bezprecedensową inwestycję.

„Najbardziej wiarygodnym prognostykiem agresywnego harmonogramu AGI nie są dowody techniczne, ale zachęta finansowa. Ci, którzy mogą najwięcej zyskać na narracji, to najgłośniejsze głosy ją promujące”.

Nie oznacza to, że firmy te działają w złej wierze. Wielu badaczy autentycznie

Related Posts

• Koło Falkirk
• Mało znane narzędzie do piaskownicy z wiersza poleceń w systemie macOS (2025)
• CXMT oferuje chipy DDR4 za około połowę ceny rynkowej
• Tak to jest spędzić życie w więzieniu (2023) [wideo]