Progresele în domeniul inteligenței artificiale (AI) pe dispozitiv sunt pe cale să devină o realitate, iar un start-up cu rădăcini în Caltech, PrismML, tocmai a anunțat o inovație majoră. Lansarea modelului de AI Bonsai 27B, un model suficient de comprimat pentru a rula local pe un iPhone 17 Pro, reprezintă un pas important pentru consumatori. Compania susține că modelul păstrează aproximativ 90% din performanța modelului original.
Aceste dezvoltări sunt deosebit de promițătoare în contextul în care CEO-ul PrismML a declarat recent pentru CNBC că Apple se află în discuții "foarte timpurii" despre tehnologie. Pe măsură ce AI-ul gratuit, local și open-weight devine mai accesibil, consumatorii ar putea beneficia de o gamă largă de aplicații, iar cipurile Apple sunt, de altfel, concepute pentru a facilita rularea acestora.
**Un model AI performant, acum compatibil cu telefonul**
Un model tradițional de 27 de miliarde de parametri nu încape în memoria utilizabilă a unui telefon. Bonsai, cu o dimensiune de 3,9 gigabytes, se bazează pe modelul open-weight Qwen3.6 de la Alibaba și poate funcționa pe iPhone 17 Pro, dar și pe iPad, Mac și PC-uri. Deși comprimarea modelelor open-source nu este o noutate, realizarea unei astfel de performanțe la acest nivel de compresie este remarcabilă. Pentru Apple, ale cărei cele mai recente cipuri au fost proiectate pentru AI pe dispozitiv, acest lucru ar putea intensifica dezvoltarea internă a modelelor fundamentale. Cipul A19 și A19 Pro din cele mai noi modele de iPhone includ acceleratoare neuronale care, conform companiei, îmbunătățesc semnificativ performanța AI. În apelul privind rezultatele financiare din aprilie, conducerea Apple a descris Mac-ul drept "cea mai bună platformă pentru AI", subliniind capacitățile sale fără precedent.
**Monetizarea AI pentru consumatori – Cine va câștiga?**
În prezent, majoritatea aplicațiilor AI pentru consumatori sunt gratuite. OpenAI a depășit 900 de milioane de utilizatori săptămânali activi în februarie, cu aproximativ 50 de milioane de abonați plătitori, ceea ce reprezintă o rată de conversie de aproximativ 5,5%. Oportunitatea de a monetiza inferența AI de la consumatori ar putea scădea pe măsură ce alternativele open-weight continuă să se îmbunătățească și să câștige cotă de piață.
Poziția Apple este diferită. Modelul său de afaceri se bazează pe vânzarea de dispozitive, iar o creștere a utilizării AI pe dispozitiv implică necesitatea unui spațiu de stocare și a unei capacități mai mari, ceea ce ar mări costurile de producție pentru producătorul de hardware. Până acum, implementarea AI de către Apple a fost modestă. Siri, lansarea sa extinsă, care a suferit întârzieri, nu a îndeplinit așteptările în testările interne din februarie, deși conducerea s-a arătat optimistă în apelul din 30 iulie. Siri AI a trecut prin câteva săptămâni de testare publică, iar feedback-ul a fost pozitiv.
În iulie, Apple a intentat un proces împotriva OpenAI în instanța federală, acuzând furtul de secrete comerciale legate de foști ingineri care s-au alăturat laboratorului, susținând că secretele au fost folosite pentru a ajuta OpenAI să-și dezvolte propriile dispozitive. Procesul Apple împotriva OpenAI plasează lupta pentru AI-ul consumatorilor în prim-plan. Așa cum era de așteptat, compania nu a comentat în timpul apelului privind rezultatele financiare. Apple deține hardware-ul necesar. Cu progrese precum cele de la PrismML, consumatorii ar putea curând să beneficieze de un AI performant care rulează offline, păstrând datele pe dispozitiv, fără costuri lunare.