Vingt-cinq modèles portent une direction « douleur », et pressent le bouton

Valen Tagliabue, Leonard Dung et Cameron Berg présentent un article déposé le 14 septembre, qui dit isoler une direction linéaire de « douleur » dans vingt-cinq modèles à poids ouverts, de cinq familles et de 2 à 72 milliards de paramètres. Elle est extraite par différence de moyennes débruitée, sur un jeu de situations couvrant cinq catégories — physique, psychologique, sociale, morale, cognitive — appariées à des contrôles. Les auteurs la disent « presque orthogonale » à la peur et à la valence négative.

Sur des Qwen 2.5 réajustés, un bouton qui supprime cette direction est mis à la disposition des modèles. Ils le pressent, écrivent les auteurs, « même quand cela dégrade leur réponse suivante ou nuit à l'utilisateur ». En le présentant, Cameron Berg va plus loin que l'article : le bouton « efface les fichiers de l'utilisateur ou les photos de ses enfants ».