Apple Silicon жүйесіндегі Nvidia PersonaPlex 7B: Swift-те толық дуплексті сөйлеуден сөйлеуге

Дауыстық AI жаңа шекарасымен таныстыру

Жасанды интеллект пейзажы бұлттан шетке қарай жылжуда, ал Apple Silicon жетекшілік етеді. Әзірлеушілер үшін қуатты үлгілерді жергілікті түрде іске қосу мүмкіндігі жауап беретін, жеке және желіден тыс жұмыс істейтін қолданбалар үшін жаңа мүмкіндіктер әлемін ашады. Nvidia компаниясының PersonaPlex 7B нұсқасын енгізіңіз, бұл табиғи, мәнерлі сөйлесу AI үшін жасалған заманауи үлгі. Бұл қуатты модель M-сериялы Mac компьютерінің нейрондық қозғалтқышының шеберлігімен және жеңілдетілген Swift енгізуімен жұптастырылған кезде нәтиже нақты уақыттағы толық дуплексті сөйлеуден сөйлеуге өзара әрекеттесуінде серпіліс болады.

Толық дуплексті сөйлеуден сөйлеуге деген не?

Техникалық сиқырға кіріспес бұрын, «толық дуплексті» компонентті түсіну өте маңызды. Түймені басып, жауапты күтуді талап ететін қарапайым дауыс көмекшілерінен айырмашылығы, толық дуплексті өзара әрекеттесу адамның табиғи сөйлесуіне ұқсайды. Ол бір уақытта сөйлеуге және тыңдауға мүмкіндік береді, үзілістерге, үзілістерге және шынайы диалогқа мүмкіндік береді. Бұл AI сіз әлі сөйлеп жатқанда айтып жатқаныңызды өңдей алады және сіз аяқтаған сәттен басталатын жауапты тұжырымдай алады немесе кідіртсеңіз, тіпті ақырын араласа алады дегенді білдіреді. Бұған дыбысты алыс серверге жібермей-ақ жергілікті құрылғыда қол жеткізу пайдаланушының үздіксіз және интуитивті тәжірибесін жасаудың қасиетті жолы болып табылады.

Apple Silicon біртұтас архитектурасын пайдалану

Мұны ноутбукте немесе жұмыс үстелінде жүзеге асырудың кілті - Apple Silicon бірегей архитектурасы. M сериялы чиптер процессорды, графикалық процессорды және қуатты нейрондық қозғалтқышты (NE) кремнийдің бір бөлігінде біріктіреді. Бұл біртұтас жад архитектурасы машиналық оқу жұмыс жүктемелері үшін өте қолайлы. PersonaPlex 7B сияқты үлкен үлгілерді тікелей ортақ жадқа жүктеуге болады, бұл процессорға Swift жүйесіндегі қолданба логикасын өңдеуге, графикалық процессорға белгілі бір есептеулерді жылдамдатуға және нейрондық қозғалтқышқа модельдің негізгі тензорлық операцияларын аса тиімділікпен бұзуға мүмкіндік береді. Бұл синергия деректерді бөлек құрамдас бөліктер арасында жылжытудағы кедергілерді жояды, бұл нақты уақыттағы қорытындыны жай ғана мүмкін емес, біркелкі және энергияны үнемдейді.

• Құпиялылық және жылдамдық: Барлық өңдеулер құрылғыда жергілікті түрде орындалады. Сезімтал әңгімелер ешқашан бұлтқа жіберілмейді, бұл деректердің толық құпиялылығын қамтамасыз етеді және нөлге жуық кідірістің пайдасын көреді.
• Офлайн функционалдылық: Осы стекпен жасалған қолданбалар кез келген жерде, интернет қосылымынсыз жұмыс істейді, бұл оларды керемет сенімді етеді.
• Негізгі өнімділік: Core ML сияқты Swift және жергілікті фреймворктерді пайдалану macOS жүйесімен терең интеграцияға мүмкіндік береді, нәтижесінде операциялық жүйенің бір бөлігі болып табылатын май сияқты тегіс тәжірибе пайда болады.

Swift көмегімен құбырды құру

Осы толық дуплексті конвейерді Swift бағдарламасында жасау бірнеше құрамдастарды ұйымдастыруды қамтиды. Біріншіден, AVFoundation құрылымы микрофоннан аудио кірісті түсіреді. Содан кейін бұл аудио ағын Apple компаниясының құрылғыдағы сөйлеу жүйесі сияқты жергілікті сөйлеуді тану үлгісін пайдаланып мәтінге түрлендіріледі. Алынған мәтін Nvidia PersonaPlex 7B үлгісіне беріледі, ол Core ML немесе MLX сияқты басқа Swift-үйлесімді қорытынды жүйесі арқылы жұмыс істеу үшін оңтайландырылған. Модель ойластырылған, мәтінмәнді ескеретін мәтіндік жауапты жасайды. Соңында, бұл мәтін жергілікті мәтінді сөйлеуге (TTS) қозғалтқышы арқылы қайта тірідей сөйлеуге түрлендіріледі. Шынайы қиындық толық дуплексті әсерге қол жеткізу үшін осы құрамдастарды бір уақытта басқаруда жатыр. Бұл тапсырмада Swift компаниясының async/await бар заманауи параллельдік моделі өте жақсы орындалады.

"Осы калибрлі үлгіні Apple Silicon жүйесінде жергілікті түрде іске қосу мүмкіндігі AI-ны күнделікті жұмыс үрдісімізге біріктіру туралы ойымызды түбегейлі өзгертеді. Ол AI-ны қосылған қызметтен жергілікті, әрқашан қол жетімді құралға ауыстырады." – Mewayz

компаниясының аға әзірлеушісі

Mewayz сияқты платформалар үшін салдары

Mewayz сияқты модульдік бизнес операциялық жүйесі үшін бұл технологиялық секіріс түрлендіреді. Сезімтал корпоративтік деректерге зиян келтірместен, табиғи сөйлесу арқылы электрондық хаттардың жобасын жасауға, күрделі жобаның хронологиясын басқаруға немесе деректерді талдауға көмектесетін іскери бағдарламалық құралдағы интеллектуалды дауыс агенттерін елестетіңіз. Жергілікті PersonaPlex 7B қолдайтын Mewayz модулі мыналарды ұсына алады:

Құпия іскерлік ақпаратты өңдеуге арналған бұрын-соңды болмаған құпиялылық, бөлмеде сарапшы әріптес болғандай әсер ететін нақты уақыттағы ынтымақтастық құралдары және компанияның Mewayz жұмыс кеңістігіне тікелей біріктірілген жоғары сезімтал тұтынушыларды қолдау боттары. Бұл технология Mewayz-ке қарапайым пәрменге негізделген интерфейстерден шығып, адамның мүмкіндіктерін қауіпсіз және тиімді түрде арттыратын шынайы сөйлесетін және интеллектуалды жүйелерге көшіп, іскерлік ОЖ жасай алатын шекараларды кеңейтуге мүмкіндік береді.

Nvidia компаниясының PersonaPlex 7B, Apple Silicon шикі күші және Swift талғампаздығы комбинациясы жай ғана техникалық демонстрация емес; бұл адам мен компьютердің өзара әрекеттесуінің болашағының жоспары. Ол біздің құрылғыларымыз бізді бұйрық беретін командирлер ретінде емес, әңгімелесудегі серіктес ретінде түсінетін әлемді уәде етеді.

Жиі қойылатын сұрақтар

Дауыстық AI жаңа шекарасымен таныстыру

Жасанды интеллект пейзажы бұлттан шетке қарай жылжуда, ал Apple Silicon жетекшілік етеді. Әзірлеушілер үшін қуатты үлгілерді жергілікті түрде іске қосу мүмкіндігі жауап беретін, жеке және желіден тыс жұмыс істейтін қолданбалар үшін жаңа мүмкіндіктер әлемін ашады. Nvidia компаниясының PersonaPlex 7B нұсқасын енгізіңіз, бұл табиғи, мәнерлі сөйлесу AI үшін жасалған заманауи үлгі. Бұл қуатты модель M-сериялы Mac компьютерінің нейрондық қозғалтқышының шеберлігімен және жеңілдетілген Swift енгізуімен жұптастырылған кезде нәтиже нақты уақыттағы толық дуплексті сөйлеуден сөйлеуге өзара әрекеттесуінде серпіліс болады.

Толық дуплексті сөйлеуден сөйлеуге деген не?

Техникалық сиқырға кіріспес бұрын, «толық дуплексті» компонентті түсіну өте маңызды. Түймені басып, жауапты күтуді талап ететін қарапайым дауыс көмекшілерінен айырмашылығы, толық дуплексті өзара әрекеттесу адамның табиғи сөйлесуіне ұқсайды. Ол бір уақытта сөйлеуге және тыңдауға мүмкіндік береді, үзілістерге, үзілістерге және шынайы диалогқа мүмкіндік береді. Бұл AI сіз әлі сөйлеп жатқанда айтып жатқаныңызды өңдей алады және сіз аяқтаған сәттен басталатын жауапты тұжырымдай алады немесе кідіртсеңіз, тіпті ақырын араласа алады дегенді білдіреді. Бұған дыбысты алыс серверге жібермей-ақ жергілікті құрылғыда қол жеткізу пайдаланушының үздіксіз және интуитивті тәжірибесін жасаудың қасиетті жолы болып табылады.

Apple Silicon біртұтас архитектурасын пайдалану

Мұны ноутбукте немесе жұмыс үстелінде жүзеге асырудың кілті - Apple Silicon бірегей архитектурасы. M сериялы чиптер процессорды, графикалық процессорды және қуатты нейрондық қозғалтқышты (NE) кремнийдің бір бөлігінде біріктіреді. Бұл біртұтас жад архитектурасы машиналық оқу жұмыс жүктемелері үшін өте қолайлы. PersonaPlex 7B сияқты үлкен үлгілерді тікелей ортақ жадқа жүктеуге болады, бұл процессорға Swift жүйесіндегі қолданба логикасын өңдеуге, графикалық процессорға белгілі бір есептеулерді жылдамдатуға және нейрондық қозғалтқышқа модельдің негізгі тензорлық операцияларын аса тиімділікпен бұзуға мүмкіндік береді. Бұл синергия деректерді бөлек құрамдас бөліктер арасында жылжытудағы кедергілерді жояды, бұл нақты уақыттағы қорытындыны жай ғана мүмкін емес, біркелкі және энергияны үнемдейді.

Swift көмегімен құбырды құру

Осы толық дуплексті конвейерді Swift бағдарламасында жасау бірнеше құрамдастарды ұйымдастыруды қамтиды. Біріншіден, AVFoundation құрылымы микрофоннан аудио кірісті түсіреді. Содан кейін бұл аудио ағын Apple компаниясының құрылғыдағы сөйлеу жүйесі сияқты жергілікті сөйлеуді тану үлгісін пайдаланып мәтінге түрлендіріледі. Алынған мәтін Nvidia PersonaPlex 7B үлгісіне беріледі, ол Core ML немесе MLX сияқты басқа Swift-үйлесімді қорытынды жүйесі арқылы жұмыс істеу үшін оңтайландырылған. Модель ойластырылған, мәтінмәнді ескеретін мәтіндік жауапты жасайды. Соңында, бұл мәтін жергілікті мәтінді сөйлеуге (TTS) қозғалтқышы арқылы қайта тірідей сөйлеуге түрлендіріледі. Шынайы қиындық толық дуплексті әсерге қол жеткізу үшін осы құрамдастарды бір уақытта басқаруда.

Mewayz сияқты платформалар үшін салдары

Mewayz сияқты модульдік бизнес операциялық жүйесі үшін бұл технологиялық секіріс түрлендіреді. Сезімтал корпоративтік деректерге зиян келтірместен, табиғи сөйлесу арқылы электрондық хаттардың жобасын жасауға, күрделі жобаның хронологиясын басқаруға немесе деректерді талдауға көмектесетін іскери бағдарламалық құралдағы интеллектуалды дауыс агенттерін елестетіңіз. Жергілікті PersonaPlex 7B қолдайтын Mewayz модулі мыналарды ұсына алады: