ក្រដាស Nick Bostrom ថ្មី៖ ពេលវេលាល្អបំផុតសម្រាប់ Superintelligence [pdf]

ឯកសារចុងក្រោយបង្អស់របស់ Nick Bostrom ស្តីពីពេលវេលាដ៏ល្អប្រសើរសម្រាប់ឧត្តមភាព ផ្តល់នូវក្របខ័ណ្ឌយ៉ាងម៉ត់ចត់សម្រាប់ការយល់ដឹងអំពីពេលណា និងរបៀបដែលប្រព័ន្ធ AI កម្រិតខ្ពស់គួរត្រូវបានបង្កើតឡើង ដោយបង្កើតជាសំណួរបន្ទាន់សម្រាប់អ្នកដឹកនាំអាជីវកម្មគ្រប់រូបដែលស្វែងរកការផ្លាស់ប្តូរ AI នៅថ្ងៃនេះ។ សម្រាប់ស្ថាប័នដែលប្រើប្រាស់វេទិកាឆ្លាតវៃរួចហើយដូចជា Mewayz ការយល់ដឹងអំពីគោលការណ៍កំណត់ពេលវេលាជាយុទ្ធសាស្ត្រទាំងនេះមិនគ្រាន់តែជាការសិក្សាប៉ុណ្ណោះទេ វាគឺជាតម្រូវការប្រកួតប្រជែង។

តើ​ក្រដាស​របស់ Nick Bostrom អំពី​ពេលវេលា​ដ៏​ល្អ​បំផុត​សម្រាប់​ការ​ស៊ើប​អង្កេត​ពិត​ជា​ប្រកែក​យ៉ាង​ណា?

ការវិភាគរបស់ Bostrom ពង្រីកការងារមូលដ្ឋានរបស់គាត់នៅក្នុង ការស៊ើបការណ៍សម្ងាត់ ដោយបង្ហាញគំរូផ្លូវការសម្រាប់ការវាយតម្លៃការចំណាយ និងអត្ថប្រយោជន៍នៃការបង្កើនល្បឿនធៀបនឹងការពន្យារពេលការមកដល់នៃបញ្ញាទូទៅសិប្បនិម្មិត។ ឯកសារនេះស្វែងយល់ពីសំណួរដ៏សាមញ្ញមួយ ប៉ុន្តែជ្រៅជ្រះ៖ តើមានពេលមួយក្នុងប្រវត្តិសាស្ត្រទេ នៅពេលការដាក់ពង្រាយប្រព័ន្ធឆ្លាតវៃ បង្កើតផលចំណេញសុទ្ធដ៏អស្ចារ្យបំផុតសម្រាប់មនុស្សជាតិ?

អំណះអំណាងស្នូលពឹងផ្អែកលើអ្វីដែល Bostrom កំណត់ថាជា "គម្លាតការត្រៀមខ្លួន" — ចម្ងាយរវាងសមត្ថភាពបច្ចេកវិទ្យាក្នុងការដាក់ពង្រាយ superintelligence និងហេដ្ឋារចនាសម្ព័ន្ធស្ថាប័ន និយតកម្ម និងសង្គមដែលមានសមត្ថភាពគ្រប់គ្រងវាប្រកបដោយទំនួលខុសត្រូវ។ នៅពេលដែលគម្លាតនោះធំ ការដាក់ពង្រាយមុនអាយុបង្កើតហានិភ័យមហន្តរាយ។ នៅពេលដែលគម្លាតរួមតូច ករណីសម្រាប់ការបង្កើនល្បឿនពង្រឹងគួរឱ្យកត់សម្គាល់។ ស៊ុមនេះឆ្លុះបញ្ចាំងយ៉ាងខ្លាំងជាមួយនឹងរបៀបដែលអាជីវកម្មទំនើបកំពុងជួបប្រទះការទទួលយក AI រួចហើយ៖ ឧបករណ៍មកដល់លឿនជាងក្រុមអាចរួមបញ្ចូលដោយការទទួលខុសត្រូវ។

តើអ្វីជាយន្តការស្នូល Bostrom កំណត់អត្តសញ្ញាណនៅក្នុងក្របខ័ណ្ឌពេលវេលា?

ក្រដាស​នេះ​បាន​ពិនិត្យ​មើល​យន្តការ​ប្រទាក់ក្រឡា​គ្នា​ជា​ច្រើន​ដែល​កំណត់​បង្អួច​ដាក់​ពង្រាយ​ដ៏​ល្អ​បំផុត​សម្រាប់​ប្រព័ន្ធ AI បំប្លែង។ Bostrom គូរលើទ្រឹស្តីការសម្រេចចិត្ត ទ្រឹស្ដីហ្គេម និងគំរូប្រវត្តិសាស្ត្រ ដើម្បីជជែកវែកញែកថា សំណួរកំណត់ពេលវេលាមិនអាចឆ្លើយដោយឯកោបានទេ — វាអាស្រ័យលើអាកប្បកិរិយាដែលសម្របសម្រួលរវាងតួអង្គនានាជាមួយនឹងការលើកទឹកចិត្តប្រកួតប្រជែង។

យន្តការសំខាន់ៗដែលត្រូវបានរុករកក្នុងការវិភាគរួមមាន៖

• ការអភិវឌ្ឍន៍បច្ចេកវិទ្យាផ្សេងៗគ្នា៖ ការជំរុញការស្រាវជ្រាវសុវត្ថិភាព និងការតម្រឹមមុនពេលសមត្ថភាពដើម ដើម្បីកាត់បន្ថយគម្លាតនៃការត្រៀមខ្លួនមុនពេលដាក់ឱ្យប្រើប្រាស់។
• ការអត់ធ្មត់ជាយុទ្ធសាស្ត្រក្នុងចំណោមតួអង្គឈានមុខគេ៖ ឯកសារនេះអះអាងថា ការបង្កើនល្បឿនឯកតោភាគីដោយប្រទេសតែមួយ ឬសាជីវកម្មបង្កើតហានិភ័យជាប្រព័ន្ធសម្រាប់ទាំងអស់គ្នា ដោយបង្ហាញថាយន្តការសម្របសម្រួលមានសារៈសំខាន់ណាស់។
• ស្តង់ដារការត្រៀមខ្លួនរបស់ស្ថាប័ន៖ Bostrom ស្នើនូវលក្ខណៈវិនិច្ឆ័យដែលអាចវាស់វែងបាន — សមត្ថភាពអភិបាលកិច្ច កម្រិតនៃការបកស្រាយ និងក្របខ័ណ្ឌសន្ធិសញ្ញាអន្តរជាតិ — ដែលគួរតែមុនការដាក់ពង្រាយ។
• ការរក្សាភាពអាចត្រឡប់វិញបាន៖ ការធានាថាការដាក់ពង្រាយ AI ដំណាក់កាលដំបូងមិនចាក់សោរក្នុងគន្លងដែលរារាំងការកែតម្រូវនាពេលអនាគត ដែលជាគោលការណ៍អនុវត្តដោយផ្ទាល់ចំពោះការសម្រេចចិត្តផ្នែកទន់របស់សហគ្រាសនៅថ្ងៃនេះ។
• រង្វិលជុំមតិយោបល់ជាក់ស្តែង៖ ការដាក់ឱ្យប្រើប្រាស់ម្តងហើយម្តងទៀតនៅក្នុងដែនដែលអាចមើលបានដែលមានព្រំដែន ដើម្បីបង្កើតភស្តុតាងមុនពេលដាក់ឱ្យប្រើប្រាស់ទូលំទូលាយ — យ៉ាងជាក់លាក់នូវប្រភេទនៃការទទួលយកជាដំណាក់កាលដែលវេទិកាអាជីវកម្មប្រកបដោយការទទួលខុសត្រូវជួយសម្រួល។

"សំណួរ​មិន​មែន​ថា​តើ​ឧត្តមសេនីយឯក​នឹង​មក​ដល់​ទេ ប៉ុន្តែ​តើ​យើង​នឹង​បាន​សាងសង់​រន្ទា​នៃ​ប្រាជ្ញា​ដែល​ចាំ​បាច់​ដើម្បី​ទទួល​វា​ដោយ​សុវត្ថិភាព​ឬ​អត់។ ពេលវេលា​ដ៏​ល្អ​បំផុត​មិន​មែន​ជា​កាលបរិច្ឆេទ​នៅ​លើ​ប្រតិទិន​ទេ—វា​ជា​ស្ថានភាព​នៃ​ការ​ត្រៀម​ខ្លួន​ជា​សមូហភាព។

តើការវិភាគរបស់ Bostrom ប្រៀបធៀបទៅនឹងវិធីសាស្រ្តផ្សេងទៀតនៅក្នុង AI Safety and Timing Research យ៉ាងដូចម្តេច?

ក្របខ័ណ្ឌរបស់ Bostrom បែងចែកខ្លួនវាពីវិធីសាស្រ្តបច្ចេកទេសសុទ្ធសាធចំពោះសុវត្ថិភាព AI ដោយផ្តោតលើអថេរស្ថាប័ន និងសង្គម រួមជាមួយនឹងការពិចារណាផ្នែកវិស្វកម្ម។ ដែលជាកន្លែងដែលអ្នកស្រាវជ្រាវដូចជា Stuart Russell ផ្តោតលើបញ្ហាតម្រឹមជាបញ្ហាប្រឈមផ្នែកបច្ចេកទេសជាចម្បង Bostrom ចាត់ទុកវាជាបញ្ហាសង្គមបច្ចេកវិទ្យាដែលបានបង្កប់ដែលដំណោះស្រាយទាមទារឱ្យមានការផ្លាស់ប្តូរផ្នែកនយោបាយ សេដ្ឋកិច្ច និងអង្គការស្របគ្នា។

បើប្រៀបធៀបទៅនឹងអំណះអំណាងនៃអ្នកបង្កើនល្បឿនដ៏មានប្រសិទ្ធភាពដែលទទួលបានការអូសទាញនៅក្នុង Silicon Valley គំរូរបស់ Bostrom មិនមែនជាការយល់ព្រមលើល្បឿន ឬជាការអំពាវនាវឱ្យផ្អាកនោះទេ។ ផ្ទុយទៅវិញ វាផ្តល់នូវតក្កវិជ្ជាតាមលក្ខខណ្ឌមួយ៖ បង្កើនល្បឿននៅពេលដែលលក្ខខណ្ឌនៃការត្រៀមខ្លួនត្រូវបានបំពេញ ពន្យារពេលនៅពេលដែលពួកគេមិនមាន ហើយវិនិយោគយ៉ាងខ្លាំងក្លាក្នុងការបិទគម្លាតនៃការត្រៀមខ្លួនដោយខ្លួនឯង។ សម្រាប់ប្រតិបត្តិករអាជីវកម្ម នេះបកប្រែដោយផ្ទាល់ទៅក្នុងក្របខ័ណ្ឌមួយសម្រាប់ការទទួលយកឧបករណ៍ AI ដែលមានទំនួលខុសត្រូវ - មិនមែនជៀសវាង AI នោះទេ ប៉ុន្តែការទទួលយកវានៅក្នុងប្រព័ន្ធដែលមានរចនាសម្ព័ន្ធ និងអាចត្រួតពិនិត្យបាន ដែលរក្សាការត្រួតពិនិត្យ និងការសម្របសម្រួល។

តើ​មេរៀន​ការ​អនុវត្ត​ពិភព​លោក​អ្វី​ខ្លះ​ដែល​អាជីវកម្ម​អាច​ទាញ​យក​ពី​ការ​ស្រាវជ្រាវ​នេះ?

ផលប៉ះពាល់ជាក់ស្តែងនៃក្របខ័ណ្ឌពេលវេលារបស់ Bostrom លាតសន្ធឹងលើសពីរង្វង់គោលនយោបាយ។ សម្រាប់អ្នកប្រើប្រាស់ 138,000 នាក់ដែលកំពុងដំណើរការប្រតិបត្តិការរបស់ពួកគេនៅលើ Mewayz ដែលជាប្រព័ន្ធប្រតិបត្តិការអាជីវកម្ម 207 ម៉ូឌុល — ផែនទីតក្កវិជ្ជារបស់ក្រដាសនៅលើការសម្រេចចិត្តប្រចាំថ្ងៃអំពីពេលណា និងរបៀបដាក់ពង្រាយលំហូរការងារដែលជំនួយដោយ AI ។

ជាឧទាហរណ៍ គោលការណ៍បញ្ច្រាសរបស់ Bostrom ប្រកែកដោយផ្ទាល់ប្រឆាំងនឹងការធ្វើចំណាកស្រុករបស់វេទិកាទាំងអស់ឬគ្មានអ្វីទាំងអស់។ អាជីវកម្មដែលទទួលយកប្រព័ន្ធម៉ូឌុលដែលអាចផ្សំគ្នាអាចសាកល្បងដំណើរការដែលពង្រឹង AI នៅក្នុងបរិយាកាសដែលមាន វាស់វែងលទ្ធផល និងពង្រីកបន្តិចម្តងៗ — ពិតជាស្ថាបត្យកម្ម Mewayz ត្រូវបានរចនាឡើងដើម្បីគាំទ្រ។ ការសង្កត់ធ្ងន់របស់ក្រដាសលើរង្វិលជុំមតិកែលម្អជាក់ស្តែងក៏បញ្ជាក់ផងដែរអំពីសារៈសំខាន់ដែលកំពុងកើនឡើងនៃការវិភាគរួមបញ្ចូលគ្នា និងផ្ទាំងគ្រប់គ្រងប្រតិបត្តិការ ដែលអនុញ្ញាតឱ្យអង្គការសង្កេតមើលឥរិយាបថ AI នៅក្នុងបរិបទ និងវគ្គត្រឹមត្រូវមុនពេលមានបញ្ហា។

ប្រហែលជាសំខាន់បំផុត អំណះអំណាងសម្របសម្រួលរបស់ Bostrom ណែនាំថា អាជីវកម្មដែលកំពុងប្រតិបត្តិការក្នុងទីផ្សារប្រកួតប្រជែងមានចំណាប់អារម្មណ៍រួមគ្នាក្នុងការបង្កើតបទដ្ឋានរួមគ្នាជុំវិញពេលវេលានៃការទទួលយក AI - មិនប្រណាំងដើម្បីដាក់ពង្រាយដោយព្រងើយកន្តើយដោយព្រោះដៃគូប្រកួតប្រជែងអាច។ វេទិកាដែលនឹងកំណត់ទសវត្សរ៍បន្ទាប់គឺការកសាងទំនុកចិត្ត និងភាពជឿជាក់ក្នុងការរួមបញ្ចូល AI របស់ពួកគេតាំងពីដំបូង។

ហេតុអ្វី​បាន​ជា​ការកំណត់​ពេល​វេលា AI ដ៏​ប្រសើរ​សម្រាប់​អ្នកដឹកនាំ​អាជីវកម្ម​ឥឡូវនេះ?

ការ​បង្កើត​ក្រដាស​បន្ទាន់​របស់ Bostrom មិន​មែន​ជា​សម្មតិកម្ម​ទេ។ យើងកំពុងដំណើរការរួចហើយនៅក្នុងដំណាក់កាលដំបូងនៃការផ្លាស់ប្តូរគំរូដែលគាត់បានពិពណ៌នា។ អាជីវកម្មដែលធ្វើឲ្យគំនិតគម្លាតនៃការត្រៀមខ្លួនជាផ្នែកខាងក្នុងនឹងខិតទៅរកការអនុម័ត AI ជាមួយនឹងភាពទំនើបជាងមុន៖ ការវិនិយោគលើការបណ្តុះបណ្តាលជាក្រុម ការគ្រប់គ្រងទិន្នន័យ និងហេដ្ឋារចនាសម្ព័ន្ធវេទិកា មុនពេលធ្វើមាត្រដ្ឋានស្វ័យប្រវត្តិកម្មដែលជំរុញដោយ AI ជាជាងបន្ទាប់ពីមានបញ្ហាកើតឡើង។

សម្រាប់វេទិកាធុរកិច្ចផ្អែកលើការជាវដែលដំណើរការក្នុងចន្លោះ $19–49 ប្រចាំខែ — អាចចូលដំណើរការបានចំពោះអ្នកចាប់ផ្តើមអាជីវកម្ម និងក្រុមដែលកំពុងរីកចម្រើន មិនមែនត្រឹមតែសហគ្រាសយក្សប៉ុណ្ណោះទេ លទ្ធិប្រជាធិបតេយ្យនៃឧបករណ៍ AI បង្កើតទាំងឱកាស និងការទទួលខុសត្រូវ។ អាជីវកម្មដែលរីកចម្រើននឹងក្លាយជាអាជីវកម្មដែលទទួលយកដោយភាពឆ្លាតវៃ ជាមួយនឹងប្រព័ន្ធដែលត្រូវបានរចនាឡើងសម្រាប់តម្លាភាព ម៉ូឌុល និងការកែលម្អជាបន្តបន្ទាប់ដែលបង្កើតឡើងពីមូលដ្ឋានគ្រឹះ។

សំណួរដែលគេសួរញឹកញាប់

តើ​អ្វី​ជា​ការ​សន្និដ្ឋាន​ចម្បង​របស់ Nick Bostrom អំពី​ពេលវេលា​ដ៏​ល្អ​បំផុត​សម្រាប់​ការ​ស៊ើបការណ៍​សម្ងាត់?

Bostrom សន្និដ្ឋានថាមិនមានកាលបរិច្ឆេទដ៏ល្អប្រសើរជាសកលសម្រាប់ការដាក់ពង្រាយស៊ើបការណ៍សម្ងាត់ទេ។ ផ្ទុយទៅវិញ ពេលវេលាដ៏ល្អប្រសើរគឺជាកម្រិតថាមវន្តដែលកំណត់ដោយការបិទគម្លាតនៃការត្រៀមខ្លួន — ចម្ងាយរវាងសមត្ថភាពបច្ចេកវិទ្យា និងហេដ្ឋារចនាសម្ព័ន្ធស្ថាប័ន និយតកម្ម និងសង្គមដែលត្រូវការដើម្បីគ្រប់គ្រងវាដោយការទទួលខុសត្រូវ។ ឯកសារនេះជជែកវែកញែកសម្រាប់ការវិនិយោគសកម្មក្នុងការបិទគម្លាតនេះ ជាជាងការរង់ចាំដោយអសកម្ម ឬការបង្កើនល្បឿនដែលមិនប្រុងប្រយ័ត្ន។

តើក្រដាសរបស់ Bostrom ទាក់ទងនឹងការទទួលយក AI បច្ចុប្បន្ននៅក្នុងបរិបទអាជីវកម្មយ៉ាងដូចម្តេច?

ខណៈដែលក្រដាសនេះនិយាយអំពីការស៊ើបការណ៍សម្ងាត់ជាពិសេស គោលការណ៍ស្នូលរបស់វា — ភាពច្រាសមកវិញ ការដាក់ជាដំណាក់កាល មតិកែលម្អជាក់ស្តែង និងការសម្របសម្រួល — អនុវត្តដោយផ្ទាល់ចំពោះការអនុម័ត AI របស់សហគ្រាសនៅថ្ងៃនេះ។ អាជីវកម្មដែលរួមបញ្ចូលឧបករណ៍ AI ទៅក្នុងប្រតិបត្តិការរបស់ពួកគេអាចប្រើប្រាស់ក្របខ័ណ្ឌត្រៀមខ្លួនរបស់ Bostrom ដើម្បីវាយតម្លៃថាតើហេដ្ឋារចនាសម្ព័ន្ធអង្គភាពរបស់ពួកគេត្រូវបានរៀបចំដើម្បីស្រូបយកសមត្ថភាពថ្មីដោយមិនបង្កើតភាពផុយស្រួយ ឬភាពអាស្រ័យដែលមិនអាចគ្រប់គ្រងបាន។

តើ Bostrom ប្រកែកចំពោះការពន្យឺតការអភិវឌ្ឍន៍ AI មែនទេ?

ទេ។ Bostrom បដិសេធយ៉ាងច្បាស់ទាំងការបង្កើនល្បឿនដោយគ្មានលក្ខខណ្ឌ និងការផ្អាកដោយគ្មានលក្ខខណ្ឌ។ ក្របខ័ណ្ឌរបស់គាត់មានលក្ខខណ្ឌ៖ ល្បឿននៃការអភិវឌ្ឍន៍សមស្របអាស្រ័យលើសូចនាករត្រៀមខ្លួនដែលអាចវាស់វែងបាន។ កន្លែងណាដែលសូចនាករទាំងនោះអំណោយផល ល្បឿនគឺសមហេតុផល។ កន្លែងដែលពួកគេមិននៅ ការវិនិយោគគួរតែហូរឆ្ពោះទៅរកការត្រៀមខ្លួនជាជាងការកសាងសមត្ថភាព។ វា​ជា​ទីតាំង​យុទ្ធសាស្ត្រ មិនមែន​មនោគមវិជ្ជា​ទេ។

មិនថាអ្នកកំពុងរុករកការអនុម័ត AI សម្រាប់ការចាប់ផ្តើមដែលកំពុងរីកចម្រើន ឬពង្រីកប្រតិបត្តិការដែលបានបង្កើតឡើងនោះទេ គោលការណ៍ Bostrom បញ្ជាក់ — ការត្រៀមខ្លួន ភាពអាចត្រឡប់វិញ និងការកំណត់រចនាសម្ព័ន្ធ — គឺពិតជាអ្វីដែលប្រព័ន្ធប្រតិបត្តិការអាជីវកម្មដ៏រឹងមាំគួរគាំទ្រ។ ស្វែងយល់ពីរបៀបដែលវេទិកា 207-module របស់ Mewayz ជួយក្រុមរបស់អ្នកទទួលយកឧបករណ៍ដ៏មានអានុភាពតាមលក្ខខណ្ឌផ្ទាល់ខ្លួនរបស់អ្នក ជាមួយនឹងការត្រួតពិនិត្យ និងភាពបត់បែនដែលតម្រូវការកំណើនប្រកបដោយការទទួលខុសត្រូវ។ ចាប់ផ្តើមបង្កើតភាពឆ្លាតវៃជាងមុននៅ app.mewayz.com — គម្រោងចាប់ពី $19/ខែ។