L'IA sur l'appareil Apple obtient une pièce clé du puzzle ? L'iPhone intègre pour la première fois un grand modèle à 27 milliards de paramètres

Apple cherche à garder des capacités d'IA plus puissantes sur l'appareil, et une startup soutenue par Khosla Ventures pourrait fournir la pièce manquante du puzzle.

La startup PrismML, soutenue par Khosla Ventures, affirme avoir réussi à compresser un grand modèle d'IA de 27 milliards de paramètres pour le faire fonctionner localement sur un iPhone 17 Pro, établissant un nouveau record de taille de modèle d'IA mobile. L'entreprise indique que sa technique de compression n'entraîne aucune perte de performance et que le modèle open source sera officiellement publié mardi prochain.

Selon des sources proches du dossier, Apple a déjà rencontré PrismML pour discuter de l'utilisation de sa technologie. D'après un rapport de The Information, Apple cherche activement à acquérir des entreprises capables de l'aider à exécuter davantage de fonctions d'IA sur l'appareil. Les sources indiquent que l'année dernière, Apple a rencontré des baisses de performance significatives en tentant de compresser ses propres modèles d'IA internes pour les adapter à l'iPhone.

27 milliards de paramètres activés en totalité, un nouveau record pour l'IA mobile

PrismML précise que le modèle compressé est Qwen 3.6, un grand modèle de langage open source développé par Alibaba, avec 27 milliards de paramètres. En comparaison, les modèles mobiles actuels n'activent généralement que quelques milliards de paramètres à la fois.

Le nouveau modèle embarqué présenté par Apple à la WWDC en juin compte 20 milliards de paramètres, mais utilise une architecture sparse, avec seulement 1 à 4 milliards de paramètres activés à chaque fois. Le modèle de PrismML maintient l'activation simultanée de la totalité des 27 milliards de paramètres pendant l'exécution, une différence que l'entreprise considère comme un avantage concurrentiel clé.

PrismML affirme que le modèle est capable d'effectuer des tâches complexes de dialogue, de raisonnement, d'agent autonome et de programmation logicielle.

Technologie de compression mathématique issue de Caltech, licence exclusive

PrismML est une spin-off du California Institute of Technology (Caltech). Son PDG, Babak Hassibi, est professeur de génie électrique à Caltech et a réalisé avec ses cofondateurs les recherches mathématiques sous-jacentes à cette technologie pendant leurs études. Caltech détient les brevets et les a concédés sous licence exclusive à PrismML.

La technologie centrale de l'entreprise repose sur une méthode mathématique qui réduit la taille du modèle Qwen 3.6 d'environ 54 Go à moins de 4 Go, soit un taux de compression supérieur à 90 %, sans perte de performance, selon l'entreprise.

PrismML a réalisé un tour de financement d'amorçage de 16,25 millions de dollars plus tôt cette année, avec la participation de Khosla Ventures. Vinod Khosla, fondateur de Khosla Ventures, a déclaré dans une interview que PrismML l'intéressait parce qu'elle offrait une « rupture fondamentale ». « Nous avons misé sur le Transformer lorsque nous avons investi dans OpenAI en 2018, mais quelle est la nouvelle façon de construire l'IA ? Notre équipe cherche toujours de nouvelles voies », a-t-il déclaré.

Stratégie d'IA sur l'appareil d'Apple et logique d'acquisition potentielle

Apple privilégie depuis longtemps l'IA sur l'appareil comme pilier central de sa promesse de confidentialité et de sécurité, et évite dans une large mesure la course aux centres de données à des centaines de milliards de dollars menée par Microsoft, Amazon, Meta et d'autres géants technologiques.

Cependant, la mise à jour majeure et tardive de Siri annoncée par Apple en juin repose toujours sur le modèle Gemini de Google, ses fonctionnalités les plus avancées nécessitant l'utilisation de puces Nvidia exécutées sur Google Cloud. Cette situation crée un décalage avec la vision d'Apple de l'IA sur l'appareil, et rend la technologie de PrismML potentiellement précieuse pour Apple.

Hassibi prédit que dans les trois prochaines années, la grande majorité des calculs d'IA dont les utilisateurs auront besoin seront effectués localement. « Imaginez que dans trois ans, 95 % de l'intelligence dont vous avez besoin soit disponible localement – sur votre téléphone, votre ordinateur portable, vos appareils électroménagers – et que seuls les 5 % restants, pour les besoins haut de gamme, nécessitent réellement le cloud », a-t-il déclaré. « Je pense que c'est la direction que les gens voient. »

Défi de l'architecture hybride

Tous les acteurs du secteur ne partagent pas la vision d'une IA purement sur l'appareil. Des startups comme Argmax adoptent une architecture hybride, traitant localement des tâches comme la reconnaissance vocale et d'images, puis envoyant les informations vers le cloud pour un raisonnement plus complexe.

Les partisans de l'architecture hybride soulignent que les grands modèles cloud évoluent rapidement, avec des mises à jour hebdomadaires, et qu'un modèle d'IA fonctionnant entièrement sur l'appareil aura du mal à bénéficier des gains de performance des modèles cloud les plus récents et les plus avancés. Ce défi est l'un des problèmes centraux que PrismML devra résoudre dans sa voie de commercialisation.

PrismML indique qu'elle prévoit de continuer à compresser des modèles encore plus grands – y compris des modèles de la taille du billion de paramètres – pour les faire fonctionner sur l'appareil, entrant alors en concurrence directe avec OpenAI GPT et Anthropic Claude.

Avertissement sur les risques et clause de non-responsabilité

        Le marché comporte des risques, investissez avec prudence. Cet article ne constitue pas un conseil d'investissement personnel et ne prend pas en compte les objectifs d'investissement, la situation financière ou les besoins spécifiques de chaque utilisateur. Les utilisateurs doivent déterminer si les opinions, points de vue ou conclusions de cet article correspondent à leur situation particulière. Tout investissement effectué sur cette base se fait à vos propres risques.