ايپل سلڪون تي Nvidia PersonaPlex 7B: Swift ۾ مڪمل-ڊپليڪس اسپيچ-ٽو-اسپيچ

آواز AI جو نئون فرنٽيئر متعارف ڪرايو

آرٽيفيشل انٽيليجنس جو نظارو بادل کان ڪنڊ ڏانهن منتقل ٿي رهيو آهي، ۽ ايپل سلڪون ان چارج جي اڳواڻي ڪري رهيو آهي. ڊولپرز لاءِ، طاقتور ماڊلز کي هلائڻ جي صلاحيت مقامي طور تي جوابي، خانگي، ۽ آف لائن-قابل ايپليڪيشنن لاءِ امڪانن جي نئين دنيا کولي ٿي. Nvidia جي PersonaPlex 7B داخل ڪريو، ھڪڙو جديد ماڊل آھي جيڪو قدرتي، جذباتي گفتگو واري AI لاءِ ٺاھيو ويو آھي. جڏهن هن طاقتور ماڊل کي M-series Mac جي نيورل انجڻ جي صلاحيت سان جوڙيو ويو آهي ۽ هڪ منظم سوئفٽ عمل درآمد، نتيجو حقيقي وقت ۾ هڪ پيش رفت آهي، مڪمل-ڊپلڪس اسپيچ-ٽو-اسپيچ رابطي ۾.

Full-Duplex Speech-to-Speech ڇا آهي؟

ٽيڪنيڪل جادوءَ ۾ گهمڻ کان اڳ، ”مڪمل-ڊپلڪس“ جزو کي سمجھڻ ضروري آهي. سادي وائس اسسٽنٽ جي برعڪس جيڪي توهان کي هڪ بٽڻ دٻائڻ ۽ جواب جو انتظار ڪرڻ جي ضرورت آهي، مڪمل-ڊپلڪس رابطي هڪ قدرتي انساني گفتگو کي نقل ڪري ٿو. اهو هڪ ئي وقت ڳالهائڻ ۽ ٻڌڻ جي اجازت ڏئي ٿو، مداخلت کي چالو ڪرڻ، رڪاوٽون، ۽ حقيقي پوئتي ۽ اڳتي واري گفتگو. ان جو مطلب اهو آهي ته AI ان تي عمل ڪري سگهي ٿو جيڪو توهان چئي رهيا آهيو جڏهن توهان اڃا ڳالهائي رهيا آهيو ۽ هڪ جواب تيار ڪري ٿو جيڪو توهان جي ختم ٿيڻ کان شروع ٿئي ٿو- يا اڃا به نرمي سان مداخلت ڪريو جيڪڏهن توهان روڪيو. اهو حاصل ڪرڻ هڪ مقامي ڊوائيس تي، بغير ڪنهن دور جي سرور ڏانهن آڊيو موڪلڻ جي، بيحد ۽ وجداني صارف تجربو ٺاهڻ لاءِ پاڪ گريل آهي.

ايپل سلڪون جي يونيفائيڊ آرڪيٽيڪچر جو استعمال

ان کي ليپ ٽاپ يا ڊيسڪ ٽاپ تي ممڪن بڻائڻ جي ڪنجي ايپل سلڪون جو منفرد فن تعمير آهي. M-series چپس CPU، GPU، ۽ هڪ طاقتور نيورل انجڻ (NE) کي سلکان جي هڪ ٽڪري تي گڏ ڪن ٿيون. هي متحد ميموري آرڪيٽيڪچر مشين لرننگ ڪم لوڊ لاءِ مثالي آهي. وڏا ماڊل جهڙوڪ PersonaPlex 7B سڌو سنئون شيئر ڪيل ميموري ۾ لوڊ ڪري سگھجن ٿا، سي پي يو کي اجازت ڏئي ٿو ته سوِفٽ ۾ ايپليڪيشن لاجڪ کي سنڀالي، GPU کي ڪجهه ڪمپيوٽيشنز کي تيز ڪرڻ لاءِ، ۽ نيورل انجڻ کي انتهائي ڪارڪردگيءَ سان ماڊل جي بنيادي ٽينسر آپريشنز کي ٽوڙڻ لاءِ. هي هم آهنگ ڊيٽا کي الڳ حصن جي وچ ۾ منتقل ڪرڻ جي رڪاوٽ کي ختم ڪري ٿو، حقيقي وقت جو اندازو نه رڳو ممڪن آهي، پر هموار ۽ توانائي-موثر.

• رازداري ۽ رفتار: سڀ پروسيسنگ مقامي طور تي ڊوائيس تي ٿيندي آهي. توهان جون حساس ڳالهيون ڪڏهن به ڪلائوڊ ڏانهن نه موڪلي وينديون آهن، مڪمل ڊيٽا جي رازداري کي يقيني بڻائيندي جڏهن ته ويجھي صفر دير سان فائدو حاصل ڪندي.
• آف لائن ڪارڪردگي: هن اسٽيڪ سان ٺهيل ايپليڪيشنون ڪٿي به ڪم ڪن ٿيون، بغير انٽرنيٽ ڪنيڪشن جي، انهن کي ناقابل اعتبار حد تائين قابل اعتماد بڻائي ٿي.
• آبائي ڪارڪردگي: استعمال ڪندي Swift ۽ اصلي فريم ورڪ جهڙوڪ Core ML، macOS سان گہرے انضمام جي اجازت ڏئي ٿو، جنهن جي نتيجي ۾ هڪ بيٽري-سموٿ تجربو آهي جيڪو محسوس ڪري ٿو پاڻ آپريٽنگ سسٽم جو حصو.

Swift سان پائپ لائن جي تعمير

Swift ۾ هن مڪمل-ڊپلڪس پائيپ لائين ٺاهڻ ۾ ڪيترن ئي حصن کي ترتيب ڏيڻ شامل آهي. پهريون، AVFoundation فريم ورڪ مائڪروفون مان آڊيو ان پٽ کي پڪڙي ٿو. هي آڊيو اسٽريم پوءِ مقامي اسپيچ ريڪگنيشن ماڊل استعمال ڪندي ٽيڪسٽ ۾ تبديل ڪيو ويندو آهي، جهڙوڪ ايپل جي آن ڊيوائس اسپيچ فريم ورڪ. نتيجو وارو متن Nvidia PersonaPlex 7B ماڊل ۾ ڀريو ويو آهي، جنهن کي Core ML يا ٻي Swift-compatible inference انجڻ جهڙوڪ MLX ذريعي هلائڻ لاءِ بهتر ڪيو ويو آهي. ماڊل ھڪڙو سوچيندڙ، حوالي سان واقف متن جو جواب ٺاھي ٿو. آخرڪار، هي متن مقامي متن-کان-تقرير (TTS) انجڻ استعمال ڪندي واپس زندگي جي تقرير ۾ تبديل ڪيو ويو آهي. سچو چيلنج انهن حصن کي منظم ڪرڻ ۾ آهي مڪمل-ڊپلڪس اثر حاصل ڪرڻ لاءِ- هڪ ڪم جتي Swift جو جديد هم وقت سازي ماڊل سان گڏ async/await excels.

"ايپل سلڪون تي مقامي طور تي هن ڪيليبر جي ماڊل کي هلائڻ جي صلاحيت بنيادي طور تي تبديل ڪري ٿي ته اسان ڪيئن AI کي اسان جي روزاني ڪم جي فلوز ۾ ضم ڪرڻ بابت سوچيو ٿا. اهو AI کي هڪ ڳنڍيل سروس کان هڪ مقامي، هميشه موجود اوزار ڏانهن منتقل ڪري ٿو." - سينئر ڊولپر Mewayz تي

پليٽفارمز لاءِ اثر جهڙوڪ Mewayz

هڪ ماڊيولر بزنس آپريٽنگ سسٽم لاءِ جيئن Mewayz، هي ٽيڪنيڪل ليپ بدلجندڙ آهي. توهان جي ڪاروباري سافٽ ويئر جي اندر ذهين آواز جي ايجنٽن جو تصور ڪريو جيڪي توهان جي مدد ڪري سگھن ٿا اي ميلز جو مسودو تيار ڪرڻ، پيچيده پروجيڪٽ جي ٽائم لائنن کي منظم ڪرڻ، يا ڊيٽا جو تجزيو ڪرڻ - سڀ قدرتي گفتگو ذريعي، ڪڏهن به حساس ڪارپوريٽ ڊيٽا سان سمجهوتو ڪرڻ کان سواءِ. مقامي PersonaPlex 7B پاران طاقتور Mewayz ماڊل پيش ڪري سگھي ٿو:

غيرمعمولي رازداري رازداري ڪاروباري معلومات کي سنڀالڻ لاءِ، حقيقي وقت ۾ تعاون جون امدادون جيڪي محسوس ڪن ٿيون ته ڪمري ۾ هڪ ماهر ساٿي هجڻ، ۽ انتهائي جوابده ڪسٽمر سپورٽ بوٽس سڌو سنئون ڪمپني جي Mewayz ڪم اسپيس ۾ ضم ٿيل آهن. هي ٽيڪنالاجي Mewayz کي اجازت ڏئي ٿي ته هو انهن حدن کي اڳتي وڌائين جيڪي هڪ ڪاروباري OS ڪري سگهي ٿو، سادو ڪمانڊ بيسڊ انٽرفيسز کان اڳتي وڌي حقيقي گفتگو ڪندڙ ۽ ذهين سسٽم ڏانهن جيڪو انساني صلاحيت کي محفوظ ۽ ڪارائتو بڻائي ٿو.

Nvidia جي PersonaPlex 7B جو مجموعو، Apple Silicon جي خام طاقت، ۽ Swift جي خوبصورتي صرف هڪ ٽيڪنيڪل ڊيمو کان وڌيڪ آهي؛ اهو انساني ڪمپيوٽر جي رابطي جي مستقبل لاء هڪ نقشو آهي. اهو هڪ اهڙي دنيا جو واعدو ڪري ٿو جتي اسان جا ڊوائيس اسان کي ڪمانڊرن جي طور تي نه، پر هڪ گفتگو ۾ ڀائيوار طور سمجهن ٿا.

اڪثر پڇيا ويندڙ سوال

آواز AI جو نئون فرنٽيئر متعارف ڪرايو

آرٽيفيشل انٽيليجنس جو نظارو بادل کان ڪنڊ ڏانهن منتقل ٿي رهيو آهي، ۽ ايپل سلڪون ان چارج جي اڳواڻي ڪري رهيو آهي. ڊولپرز لاءِ، طاقتور ماڊلز کي هلائڻ جي صلاحيت مقامي طور تي جوابي، خانگي، ۽ آف لائن-قابل ايپليڪيشنن لاءِ امڪانن جي نئين دنيا کولي ٿي. Nvidia جي PersonaPlex 7B داخل ڪريو، ھڪڙو جديد ماڊل آھي جيڪو قدرتي، جذباتي گفتگو واري AI لاءِ ٺاھيو ويو آھي. جڏهن هن طاقتور ماڊل کي M-series Mac جي نيورل انجڻ جي صلاحيت سان جوڙيو ويو آهي ۽ هڪ منظم سوئفٽ عمل درآمد، نتيجو حقيقي وقت ۾ هڪ پيش رفت آهي، مڪمل-ڊپلڪس اسپيچ-ٽو-اسپيچ رابطي ۾.

Full-Duplex Speech-to-Speech ڇا آهي؟

ٽيڪنيڪل جادوءَ ۾ گهمڻ کان اڳ، ”مڪمل-ڊپلڪس“ جزو کي سمجھڻ ضروري آهي. سادي وائس اسسٽنٽ جي برعڪس جيڪي توهان کي هڪ بٽڻ دٻائڻ ۽ جواب جو انتظار ڪرڻ جي ضرورت آهي، مڪمل-ڊپلڪس رابطي هڪ قدرتي انساني گفتگو کي نقل ڪري ٿو. اهو هڪ ئي وقت ڳالهائڻ ۽ ٻڌڻ جي اجازت ڏئي ٿو، مداخلت کي چالو ڪرڻ، رڪاوٽون، ۽ حقيقي پوئتي ۽ اڳتي واري گفتگو. ان جو مطلب اهو آهي ته AI ان تي عمل ڪري سگهي ٿو جيڪو توهان چئي رهيا آهيو جڏهن توهان اڃا ڳالهائي رهيا آهيو ۽ هڪ جواب تيار ڪري ٿو جيڪو توهان جي ختم ٿيڻ کان شروع ٿئي ٿو- يا اڃا به نرمي سان مداخلت ڪريو جيڪڏهن توهان روڪيو. اهو حاصل ڪرڻ هڪ مقامي ڊوائيس تي، بغير ڪنهن دور جي سرور ڏانهن آڊيو موڪلڻ جي، بيحد ۽ وجداني صارف تجربو ٺاهڻ لاءِ پاڪ گريل آهي.

ايپل سلڪون جي يونيفائيڊ آرڪيٽيڪچر جو استعمال

ان کي ليپ ٽاپ يا ڊيسڪ ٽاپ تي ممڪن بڻائڻ جي ڪنجي ايپل سلڪون جو منفرد فن تعمير آهي. M-series چپس CPU، GPU، ۽ هڪ طاقتور نيورل انجڻ (NE) کي سلکان جي هڪ ٽڪري تي گڏ ڪن ٿيون. هي متحد ميموري آرڪيٽيڪچر مشين لرننگ ڪم لوڊ لاءِ مثالي آهي. وڏا ماڊل جهڙوڪ PersonaPlex 7B سڌو سنئون شيئر ڪيل ميموري ۾ لوڊ ڪري سگھجن ٿا، سي پي يو کي اجازت ڏئي ٿو ته سوِفٽ ۾ ايپليڪيشن لاجڪ کي سنڀالي، GPU کي ڪجهه ڪمپيوٽيشنز کي تيز ڪرڻ لاءِ، ۽ نيورل انجڻ کي انتهائي ڪارڪردگيءَ سان ماڊل جي بنيادي ٽينسر آپريشنز کي ٽوڙڻ لاءِ. هي هم آهنگ ڊيٽا کي الڳ حصن جي وچ ۾ منتقل ڪرڻ جي رڪاوٽ کي ختم ڪري ٿو، حقيقي وقت جو اندازو نه رڳو ممڪن آهي، پر هموار ۽ توانائي-موثر.

Swift سان پائپ لائن تعمير ڪرڻ

Swift ۾ هن مڪمل-ڊپلڪس پائيپ لائين ٺاهڻ ۾ ڪيترن ئي حصن کي ترتيب ڏيڻ شامل آهي. پهريون، AVFoundation فريم ورڪ مائڪروفون مان آڊيو ان پٽ کي پڪڙي ٿو. هي آڊيو اسٽريم پوءِ مقامي اسپيچ ريڪگنيشن ماڊل استعمال ڪندي ٽيڪسٽ ۾ تبديل ڪيو ويندو آهي، جهڙوڪ ايپل جي آن ڊيوائس اسپيچ فريم ورڪ. نتيجو وارو متن Nvidia PersonaPlex 7B ماڊل ۾ ڀريو ويو آهي، جنهن کي Core ML يا ٻي Swift-compatible inference انجڻ جهڙوڪ MLX ذريعي هلائڻ لاءِ بهتر ڪيو ويو آهي. ماڊل ھڪڙو سوچيندڙ، حوالي سان واقف متن جو جواب ٺاھي ٿو. آخرڪار، هي متن مقامي متن-کان-تقرير (TTS) انجڻ استعمال ڪندي واپس زندگي جي تقرير ۾ تبديل ڪيو ويو آهي. اصل چيلنج انهن حصن کي منظم ڪرڻ ۾ آهي مڪمل-ڊپلڪس اثر حاصل ڪرڻ لاءِ- هڪ ڪم جتي Swift جو جديد هم وقت سازي ماڊل async/await excels سان.

پليٽفارمز لاءِ اثر جهڙوڪ Mewayz

هڪ ماڊيولر بزنس آپريٽنگ سسٽم لاءِ جيئن Mewayz، هي ٽيڪنيڪل ليپ بدلجندڙ آهي. توهان جي ڪاروباري سافٽ ويئر جي اندر ذهين آواز جي ايجنٽن جو تصور ڪريو جيڪي توهان جي مدد ڪري سگھن ٿا اي ميلز جو مسودو تيار ڪرڻ، پيچيده پروجيڪٽ جي ٽائم لائنن کي منظم ڪرڻ، يا ڊيٽا جو تجزيو ڪرڻ - سڀ قدرتي گفتگو ذريعي، ڪڏهن به حساس ڪارپوريٽ ڊيٽا سان سمجهوتو ڪرڻ کان سواءِ. مقامي PersonaPlex 7B پاران طاقتور Mewayz ماڊل پيش ڪري سگھي ٿو: