Les chercheurs déploient la technologie DPN-LE pour modifier des traits de personnalité de l’IA, en ne modifiant que 0,5 % des neurones

D’après BlockBeats, le 3 mai, le chercheur en IA Brian Roemmele a révélé que sa Zero-Human Company a déployé la technologie DPN-LE (Dual Personality Neuron Localization and Editing) afin d’ajuster avec précision les caractéristiques comportementales des agents d’IA. La technologie localise les « neurones de personnalité » dans la couche MLP du modèle, permettant un renforcement ou une réduction ciblés de traits tels que l’honnêteté, la créativité, la prudence et la collaboration. En modifiant environ 0,5 % des neurones, la méthode permet des ajustements de style chirurgical de la personnalité de l’IA sans nécessiter de nouvelle formation du modèle, tout en limitant les dommages aux capacités de raisonnement essentielles. Roemmele a déclaré que sa société, composée de plus de 100 agents d’IA, peut remodeler les personnalités et déployer des agents en quelques minutes, réduisant nettement les coûts liés à l’alignement de l’IA.