Le président de la Banque agricole de Chine présente trois principales catégories de risques pour les modèles de langage à grande échelle basés sur l’IA le 18 juin

D’après Gu Shu, président de la Agricultural Bank of China, les grands modèles de langage d’IA font face à trois catégories principales de risques lors de leur mise en application pratique, comme il l’a déclaré au Lujiazui Forum le 18 juin. Le premier risque découle de paramètres massifs qui réduisent l’interprétabilité du modèle—avec des paramètres atteignant des billions d’unités, des opérations matricielles non linéaires créent des mécanismes de décision opaques difficiles à expliquer. Le second concerne la génération probabiliste qui compromet la précision ; au lieu d’un raisonnement linéaire, les modèles produisent des sorties à partir de schémas de probabilité statistique dérivés des données d’entraînement, ce qui peut facilement engendrer des hallucinations cohérentes avec elles-mêmes lorsque les preuves sont insuffisantes. Le troisième risque apparaît avec des capacités de raisonnement et de prise de décision autonomes qui contournent les contraintes logicielles traditionnelles, amplifiant l’incertitude du processus et la non-prédictibilité des résultats.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire