Lansio HN: RunAnywhere (YC W26) - Casgliad AI Cyflymach ar Apple Silicon

Croeso i Ddyfodol AI Ar-Dyfais

Mae'r ras am gasgliad AI cyflymach, mwy effeithlon yn cynhesu, ac mae'n symud i ffwrdd o'r cwmwl ac ymlaen i'n desgiau - ac i'n lapiau. I ddatblygwyr a busnesau sy'n adeiladu cymwysiadau wedi'u pweru gan AI, mae cost uchel a hwyrni achosion GPU yn y cwmwl yn dagfeydd sylweddol. Rhowch RunAnywhere, cwmni cychwyn arloesol o'r swp Y Combinator W26 sy'n codi twrw i gasgliad AI ar ddarn o galedwedd y mae miliynau eisoes yn berchen arno: Apple Silicon. Mae eu cenhadaeth yn syml ond yn bwerus: datgloi potensial llawn, heb ei gyffwrdd, y sglodion cyfres M ar Macs, gan wneud datblygu a defnyddio AI lleol yn gyflymach ac yn fwy cost-effeithiol.

Mae'r datblygiad arloesol hwn yn enghraifft berffaith o'r math o arloesi yr ydym yn ei hyrwyddo yn ecosystem Mewayz. Credwn fod dyfodol busnes yn gorwedd mewn offer modiwlaidd, rhyngweithredol sy'n grymuso timau i adeiladu llifoedd gwaith pwerus heb gael eu cloi i mewn i un gwerthwr. Mae technoleg RunAnywhere yn cyd-fynd yn berffaith â'r weledigaeth hon, gan gynnig haen sylfaenol a allai bweru cenhedlaeth newydd o gymwysiadau AI ar ddyfais o fewn OS busnes modiwlaidd.

Pam Mae Casgliad AI Ar-Dyfais yn Newidiwr Gêm

Yn draddodiadol, roedd angen anfon data i weinyddion pell pwerus yn y cwmwl i redeg modelau AI cymhleth. Er ei fod yn effeithiol, daw anfanteision cynhenid ​​i'r dull hwn: hwyrni wrth aros am ymateb, costau gweithredol parhaus sy'n cyd-fynd â defnydd, a phryderon posibl ynghylch preifatrwydd data. Mae Apple Silicon Macs, gyda'u pensaernïaeth cof unedig a'u Peiriannau Niwral pwerus, yn cyflwyno dewis arall cymhellol. Fodd bynnag, mae datblygwyr wedi cael trafferth trosoledd llawn y caledwedd hwn, yn aml yn setlo ar gyfer perfformiad is-optimaidd. Mae RunAnywhere yn datrys hyn trwy ddarparu haen feddalwedd soffistigedig sy'n gwneud y gorau o fodelau i'w rhedeg frodorol ar galedwedd Apple, gan wneud y mwyaf o gyflymder ac effeithlonrwydd.

I fusnesau sy'n defnyddio platfform fel Mewayz i integreiddio eu dulliau rheoli prosiect, CRM, a chyfathrebu, mae hyn yn golygu y gall crynodebau wedi'u pweru gan AI, dadansoddi data, a mewnwelediadau cwsmeriaid ddigwydd yn syth ac yn ddiogel ar beiriant lleol gweithiwr. Mae'n lleihau dibyniaeth ar APIs allanol ac yn cadw data sensitif o fewn rheolaeth y cwmni.

Sut Mae RunAnywhere yn Datgloi Perfformiad Uchaf

Nid dim ond deunydd lapio syml ar gyfer fframweithiau presennol yw RunAnywhere. Mae'r tîm wedi ymchwilio'n ddwfn i bensaernïaeth sglodion Apple i greu casglwr ac amser rhedeg sy'n dileu tagfeydd perfformiad. Mae eu saws cyfrinachol yn cynnwys ymagwedd amlochrog:

• Cyfuno Cnewyllyn Uwch: Cyfuno gweithrediadau lluosog yn un cnewyllyn wedi'i optimeiddio i leihau symudiad cof a chynyddu effeithlonrwydd cyfrifo ar y GPU a'r Injan Newral.
• Rheoli Cof Deallus: Trosoledd cof unedig Apple Silicon i'r eithaf, gan leihau'n sylweddol y gorbenion a gysylltir fel arfer â symud data rhwng CPU a GPU.
• Optimeiddiadau Caledwedd Penodol: Teilwra cyfrifiannau i greiddiau penodol (CPU, GPU, NE) pob sglodyn cyfres M, gan sicrhau bod y llwyth gwaith cywir yn mynd i ran gywir y sglodyn ar yr amser cywir.

Mae'r canlyniad yn brofiad di-dor i ddatblygwyr. Gallant gymryd modelau safonol a, gydag ychydig iawn o newidiadau cod, eu rhedeg 2-5x yn gyflymach na gyda datrysiadau blaenorol. Mae'r hwb perfformiad hwn yn ei gwneud hi'n ymarferol rhedeg modelau mwy, mwy soffistigedig yn lleol, gan agor posibiliadau newydd ar gyfer prosesu sain a fideo amser real, cynhyrchu cod cymhleth, a mwy.

Integreiddio RunAnywhere i OS Busnes Modiwlaidd

Yr athroniaeth y tu ôl i Mewayz yw y dylai'r offer gorau o'r brid gydweithio'n ddi-dor i greu system weithredu bwerus a hyblyg ar gyfer eich busnes. Mae RunAnywhere yn "fodiwl" hanfodol yn y weledigaeth hon. Dychmygwch dîm marchnata cynnwys yn defnyddio Mewayz: gallai awdur ddefnyddio cynorthwyydd AI, wedi'i bweru'n lleol gan RunAnywhere, i gynhyrchu copi drafft heb unrhyw oedi. Ar yr un pryd, gallai'r tîm gwerthu gael integreiddiad CRM sy'n defnyddio AI ar y ddyfais i ddadansoddi trawsgrifiadau galwadau ac awgrymu'r camau nesaf mewn amser real, i gyd heb erioed daro gweinydd allanol.

"Trwy symud casgliad AI o'r cwmwl i'r ymyl, nid gwella cyflymder yn unig yr ydym; rydym yn galluogi dosbarth newydd o gymwysiadau preifat, ymatebol a chost-effeithiol. Mae hwn yn newid sylfaenol i ddatblygwyr a busnesau fel ei gilydd."

Mae'r dull lleol-cyntaf hwn yn cyd-fynd yn berffaith ag ymrwymiad Mewayz i sofraniaeth data a phreifatrwydd defnyddwyr. Gall busnesau adeiladu llifoedd gwaith deallus gan wybod bod eu data perchnogol yn parhau i fod yn ddiogel ar eu dyfeisiau eu hunain, tra'n dal i elwa o bŵer modelau AI uwch.

Y Ffordd Ymlaen ar gyfer Datblygiadau AI Lleol

Mae lansiad RunAnywhere yn garreg filltir arwyddocaol yn y broses o ddemocrateiddio AI. Trwy wneud Apple Silicon yn blatfform o'r radd flaenaf ar gyfer casgliad AI, maent yn grymuso ystod ehangach o ddatblygwyr a chwmnïau i adeiladu a defnyddio nodweddion deallus. Wrth i'r llyfrgell o fodelau a gefnogir dyfu ac wrth i'r optimeiddiadau ddod yn fwy datblygedig fyth, gallwn ddisgwyl gweld ffrwydrad o gymwysiadau arloesol sy'n gyflymach, yn fwy preifat ac yn rhatach i'w gweithredu.

Ar gyfer cymuned Mewayz, mae hyn yn golygu bod yr offer a ddefnyddiwch i redeg eich busnes ar fin dod yn llawer callach a mwy ymatebol. Bydd integreiddio technolegau fel RunAnywhere yn uniongyrchol i'n OS modiwlaidd yn galluogi timau i greu llifoedd gwaith gwirioneddol bwrpasol a deallus, gan baratoi'r ffordd ar gyfer dyfodol gwaith mwy effeithlon a greddfol. Mae cyfnod AI di-ffrithiant, ar-ddyfais yma.