Apple discute de la compression de modèles d’IA avec PrismML ; des modèles de 27 milliards de paramètres à exécuter sur iPhone

Apple est en pourparlers à un stade précoce avec la start-up d’IA PrismML pour intégrer sa technologie de compression de modèles dans l’iPhone, d’après le PDG de PrismML. Cette collaboration pourrait permettre à des modèles d’IA de 27 milliards de paramètres de fonctionner directement sur l’appareil, améliorant les capacités de Siri et renforçant la position d’Apple en matière de confidentialité.

Le 14 juillet, PrismML a annoncé sa percée en matière de compression : réduire le modèle open source Qwen d’Alibaba, pesant 54 Go, à moins de 4 Go tout en conservant l’échelle de 27 milliards de paramètres pour un fonctionnement fluide sur l’iPhone 15 et les appareils plus récents. Cette technologie réduit l’utilisation de mémoire de 10 à 15 fois et accélère les réponses de 6 à 8 fois, bien que le PDG ait reconnu des compromis en termes de rappel factuel par rapport aux capacités de raisonnement et de codage.